机器之心

Latest articles

线上分享 | 阿里巴巴:面向NLP场景的深度迁移学习开源框架EasyTransfer

作为一个快速发展的机器学习领域,迁移学习(Transfer Learning, TL)通过从数据充足任务中的知识迁移来提升数据缺乏任务的学习效果。得益于深度神经网络强大的表征能力,基于 TL 方法的神经架构,即深度迁移学习(Deep Transfer Learning)受到了越来越多研究者的青睐,并被证明在各种应用中非常有效。一系列 TL 工具包的开发也使得 TL 算法应用起来更加简单,如英伟达的迁移学习工具包(TLT)、亚马逊的 xfer 库、清华大学的迁移学习工具包以及 Huggingface 的 Transformers 工具包。但是,当涉及到工业规模的真实应用时,这些工具包的表现总是不尽如人意。所以,开发一个全面的、工业规模的深度迁移学习工具包变得越来越有必要。在这篇论文中,来自阿里巴巴的研究者开发了一个新的深度迁移学习框架...

预训练图像处理Transformer:华为诺亚、北大等提出IPT模型,刷榜多项底层视觉任务

机器之心发布机器之心编辑部作为自然语言处理领域的主流模型,Transformer 近期频频出现在计算机视觉领域的研究中。例如 OpenAI 的 iGPT、Facebook 提出的 DETR 等,这些跨界模型多应用于图像识别、目标检测等高层视觉任务。而华为、北大、悉大以及鹏城实验室近期提出了一种新型预训练 Transformer 模型——IPT(Image Processing Transformer),用于完成超分辨率、去噪、去雨等底层视觉任务。该研究认为输入和输出维度相同的底层视觉任务更适合 Transformer 处理。预训练模型能否在视觉任务上复刻在自然语言任务中的成功?华为诺亚方舟实验室联合北京大学、悉尼大学、鹏城实验室提出底层视觉 Transformer,使用 ImageNet 预训练,在多项视觉任务上达到...

被开源绑架的开源项目开发者

选自WIRED作者:CLIVE THOMPSON机器之心编译编辑:张倩被开源项目捆住的打工人,每天下班还要花几个小时维护项目,时间和精力都在经受着考验。当你在浏览某些简洁、美观的网页时,或许你应该感谢 Jacob Thornton 和 Mark Otto。2011 年,他们开源了一款名为「Bootstrap」的 Web 前端开发框架,可以让你利用一系列模块和组件快速搭建一个优雅的网页。然而,他们并没有从这个项目中获得经济报酬。项目开源之初,他们都是 Twitter 的员工。两人做这个项目也是出于对开源精神的拥护。虽然项目很有挑战,但随着 Bootstrap 知名度的提高,很多知名网站都用上了这个框架,如 Green Day、奥巴马的白宫网站等。Jacob Thornton 和 Mark Otto...

可微图学习&弱监督,中山大学提出新型行人重识别方法和史上最大最新评测基准

机器之心发布机器之心编辑部行人重识别,又称行人再识别,是利用 CV 技术判断图像或视频序列中是否存在特定行人的技术。常规的行人重识别方法往往需要高昂的人工标注成本,计算复杂度也很大。在本文中,中山大学研究者提出的弱监督行人重识别方法恰恰克服了这两方面的障碍,并发布了一个大型行人重识别数据集。近期,中山大学发布了一种基于可微图学习的弱监督行人重识别(person re-ID)方法和一个大型数据集。该方法结合可微图学习和弱监督学习方法,为行人重识别深度神经网络加入自动生成训练标签的模块并与其一体训练。相比普通的行人重识别方法,该方法不需要高昂的人工标注成本,并且几乎不增加计算复杂度也能达到领先的模型性能。正是因为标注的简单,一个大型行人重识别数据集也诞生了,即 SYSU-30k。SYSU-30k...

开发者数量2025年预计破亿,TypeScript受欢迎度飙升:GitHub最新年度报告

机器之心报道编辑:杜伟、蛋酱2020 年的 GitHub Octoverse 报告,比往年来得稍微晚了一些。虽迟但到,2020 年 GitHub 年度 Octoverse 报告终于在今天发布了。作为开发者社区最大的开源项目托管平台,Github 的年度 Octoverse 报告能为我们了解开发社区提供最直接的洞见。2020 年是一个特殊的年份,在这一次的年度报告中, 我们发现了一些有趣的趋势:报告预计,2025 年 GitHub 开发者数量将达到 1 亿;JavaScript、Python 和 Java 依然是最受欢迎编程语言的前三名;TypeScript 排名出现较大提升;美国贡献者占比将持续下降,中国、印度、巴西、尼日利亚占比将上升。5600 万开发者、人员构成更加多样化根据 2019 年...

十行代码就能搞定深度学习?飞桨框架高层API,一起轻松玩转AI

机器之心发布机器之心编辑部向往深度学习技术,可是深度学习框架太难学怎么办?百度倾心打造飞桨框架高层 API,零基础也能轻松上手深度学习,一起来看看吧?另:文末有福利,一定要看完呦~高层 API,What 深度学习作为人工智能时代的核心技术,近年来无论学术、还是工业领域,均发挥着愈加重要的作用。然而,深度学习理论太难学,开发过程太复杂,又将许多人拒之于深度学习的门外。为了简化深度学习的学习过程、降低深度学习的开发难度,百度飞桨框架历经近一年的打磨,不断地优化深度学习 API,并针对开发者的使用场景进行封装,在飞桨框架的最新版本中,推出了高低融合、科学统一的飞桨全新 API 体系。飞桨框架将 API 分为两种,基础 API 和高层 API。用制作披萨举例,一般有两种方法:一种是我们准备好面粉、牛奶、火腿等食材,精心加工后,就能制作出美味的披萨;而第二种则是我们买商家预烤制的披萨饼,以及调好的馅料,直接加热就可以吃到披萨了。那么这两种方法有什么区别呢?采用方法一,自己准备食材,可以随心所欲的搭配料理,制作酱料,从而满足我们的不同口味,但是,这更适合「老司机」,如果是新人朋友,很有可能翻车;而方法二,用商家预烤制的披萨饼与馅料,直接加热就可以...

骁龙888,高通新一代旗舰芯片正式出炉:小米11将全球首发

机器之心报道作者:杜伟、小舟、泽南与长期以来人们预料的名称不同,高通迄今为止最强大的处理器有个接地气的名字。每年的十二月,高通都会为明年揭晓新款旗舰手机芯片。2020 年对于人们来说是一个特殊的年份,但科技领域里时间不等人,12 月 2 日高通如期发布了自己的高端移动芯片——不叫骁龙 875,而是骁龙 888。这一次,集成的 5G 基带和 5 纳米制程都有了。作为高通迄今为止最强的移动平台,骁龙 888 在 5G 性能、AI、影像和游戏方面迎来了全面升级。高通高级副总裁兼移动、计算及基础设施业务总经理 Alex Katouzian 在活动中说道:「今年的骁龙芯片性能提升着重于常规任务的效率…… 旗舰特性并非不错的选择,而是必需品」。Alex Katouzian 表示,骁龙 888 为高通路线图上其他的芯片定下了基调,在三个月内,新一代...

顶会paper越来越多,我该怎么看?

机器之心转载作者:王晋东顶会论文越来越多,如何阅读?中国科学院大学计算机应用技术博士王晋东给出了一些建议。近年来,作为学术前沿研究的风向标的顶会接收的论文越来越多。例如,最近放榜的 NeurIPS 2020 就接收了高达 1900 篇论文,刚刚过去的 CVPR、ICML、ECCV 等也均在接收文章数量上「再创新高」。这么算下来,一个做机器学习相关研究的人,一年关注 5 个顶会的话(CCF 仅人工智能领域有 7 个会议,再加上每个子领域的 A,更多),也要面对将近 10000 篇顶会的 paper。试问谁能看的过来?最近的观察:讲故事的能力越来越重要2020 年是一个特殊的年份。因为疫情的缘故,绝大多数会议都选择在线上召开。作者们也为大家贴心地准备了每篇 paper 的 video,时长从几分钟到十几分钟不等。看...

「它将改变一切」,DeepMind AI解决生物学50年来重大挑战,破解蛋白质分子折叠问题

机器之心报道机器之心编辑部生物学界最大的谜团之一,蛋白质折叠问题被 AI 破解了。CASP14 组织者、年近七旬的 UC Davis 科学家 Andriy Kryshtafovych 在大会上感叹道,I wasn't sure that I would live long enough to see this(我活久见了)[1]。11 月 30 日,一条重磅消息引发了科技界所有人的关注:谷歌旗下人工智能技术公司 DeepMind 提出的深度学习算法「Alphafold」破解了出现五十年之久的蛋白质分子折叠问题。最新一代算法 Alphafold 2,现在已经拥有了预测蛋白质 3D 折叠形状的能力,这一复杂的过程对于人们理解生命形成的机制至关重要。DeepMind 重大科研突破的消息一出即被《Nature》、《Science》等科学杂志争相报道,新成果也立刻获得了桑达尔...

GNN、RL强势崛起,CNN初现疲态?这是ICLR 2021最全论文主题分析

机器之心报道作者:蛋酱、小舟ICLR 2021 会议的 Rebuttal 环节已经结束,最终接收结果也将在下月正式公布。日前,有开发者从 ICLR 2021 OpenReview 网页抓取了论文数据,并做了论文高频词、论文得分分布情况等信息的可视化呈现。ICLR,全称为 International Conference on Learning Representations,国际学习表征会议。自 2013 年开始每年举办一次,2021 年将举办第九届会议。该会议被认为是深度学习领域的顶级会议之一,它与 CVPR、ACL、NeurIPS 等学术会议一样,被 CCF 评选为一类会议。ICLR 的创始人包括深度学习三大巨头之二的 Yoshua Bengio 和 Yann LeCun。与其他顶会一样,该会议旨在为深度学习提供一个专业化的交流平台。数据的应用表征对机器学习的性能有着重要的影响,表征学习对于计算机视觉、语音处理、自然语言处理等多个领域都起着至关重要的作用,ICLR...

Discover, share and read the best on the web

Subscribe to RSS Feeds, Blogs, Podcasts, Twitter searches, Facebook pages, even Email Newsletters! Get unfiltered news feeds or filter them to your liking.

Get Inoreader
Inoreader - Subscribe to RSS Feeds, Blogs, Podcasts, Twitter searches, Facebook pages, even Email Newsletters!