学术·开源

汇总近期值得关注的 AI 学术领域研究结果以及AI 开源项目。

可解释的 AI

长期以来，机器学习的「黑盒子效应」备受质疑，即便是作为编写算法的工程师，也无从知晓其最后输出结果的逻辑是什么，这也可能导致数据偏见。在 NLP 领域，Google 发布的 BERT 模型被认为是业界标杆之一，但 NYT 援引著名计算机科学家 Robert Munro 的研究表示，BERT 存在严重的性别偏见，其对于女性相关的词汇（比如「她的」）识别率非常低。

业界的确也在努力解决这个问题。比如美国非盈利研究机构艾伦 AI 研究所最近发布了 NLP 解释工具 AllenNLP Interpret。这是一个辅助解释 NLP（自然语言处理）结果的工具套件，它可以识别不同输入文本如何影响 NLP 模型，并预测可能发生的变化。你可以在这里查看其演示 Demo，论文地址在这里。

Google 上周推出了「可解释 AI」的云服务。根据 Google Cloud 最新公布的消息，该公司推出的「可解释 AI 服务」可以量化每个数据因素对于特定机器学习模型的影响，这可以有效帮助学者和开发者理解 AI 决策的逻辑。

深度学习与硬件

Google AI 研究负责人 Jeff Dean 上周的一篇论文非常值得关注，这篇论文聚焦在深度学习如何影响计算架构与芯片设计，Jeff Dean 提供了一个认识深度学习、计算架构与芯片的认知框架，不需要太多技术背景，便能理解其发展方向，比如他这样论述深度学习为何需要专属硬件：

Deep learning models have three properties that make them different than many other kinds of more general purpose computations. First, they are very tolerant of reduced-precision computations.

Second,the computations performed by most models are simply different compositions of a relatively small handful of operations like matrix multiplies, vector operations, application of convolutional kernels, and other dense linear algebra calculations [Vanhoucke ​et al.​ 2011]. Third, many of the mechanisms developed over the past 40 years to enable general-purpose programs to run with high performance on modern CPUs, such as branch predictors, speculative execution, hyperthreaded-execution processing cores, and deep cache memory hierarchies and TLB subsystems are unnecessary for machine learning computations. So, the opportunity exists to build computational hardware that is specialized for dense, low-precision linear algebra, and not much else, but is still programmable at the level of specifying programs as different compositions of mostly linear algebra-style operations.

你可以在这里阅读这篇论文。

更多研究与开源项目

亚马逊尝试利用强化学习提升 Alexa 的对话技能。强化学习是机器学习的一个领域，主要关注的是算法与环境交互之后的行动，亚马逊发现，基于强化学习训练的 Alexa，其对话技能要比基于规则训练的结果更好，你可以通过这篇论文了解亚马逊的研究。

可以组装物体的机器人算法。该研究由 Google、斯坦福大学以及哥伦比亚大学的学者共同参与，他们训练了一个名叫「Form2Fit」的算法，通过反复试验来「认识」不同形状的物体如何对应，研究者同时也将其部署到机械臂上，你可以通过下面的这个视频进一步了解。

机器学习区分假新闻与讽刺新闻的研究。来自多个机构的研究者们提出了一个方法，利用机器学习研究误导性语言的语言特征，以此来区分假新闻和讽刺性新闻。你可以在这篇论文里了解更多。

Google 发布 MobileNetV3 和 MobileNetEdge TPU 的源代码，这是两个可以应用在移动设备上的机器学习模型，根据 Google 官方博客透露的信息，Google 开源的这两个模型在性能上有了巨大提升，同时还大幅降低了功耗。

Netflix 开源了 Polynote，这是一个面向机器学习和数据科学的多语言编程 Notebook。根据其官方博客的说法，Polynote 可以整合数据分析工具 Apache Spark，支持 Python 和 SQL，你可以在 Github 上获取这个开源项目。

业界·巨头

芯片巨人英特尔正在全力拥抱 AI。CNET 的报道称，根据英特尔 AI 芯片负责人 Naveen Rao 的说法，很多人已经开始在电脑、笔记本上体验到 AI 能力。他表示，电脑的用途正在转型为一台 AI 机器，这也是英特尔在电脑处理器领域发力的方向，其最新的 CPU Ice Lake 就拥有 AI 能力，包括一款可以处理语音命令的 Gaussian 神经网络加速器。

英特尔上周还发布 oneAPI。这是很有迷惑性的产品名称，简单来说，英特尔希望通过统一代码来实现跨多个硬件（比如 CPU、GPU）的AI 计算，类似于「编写一次，多处运行」的机制，如下图所示：

oneAPI 将 AI 计算硬件的中间件和框架抽离出来，可以实现硬件对于代码的兼容，这个工具包已经在英特尔开发云上开始测试。

微软人事变动之后。随着负责 AI 研发的沈向洋即将离职，微软重新规划了其 AI 团队领导者，ZDNet 的消息称，自 2020 年 2 月起，微软 CTO Kevin Scott 将负责 AI 研发工作。

沈向洋的离职，也代表了微软 AI 战略的调整，微软已经明确表示，自 2020 年 1 月 31 日开始不再支持 iOS、Android 上的语音助手 Cortana（微软小娜），这恰恰是沈向洋过去几年所主导的重要项目（另一个是微软小冰）。

华为在新加坡成立 AI 实验室。根据 ZDNet 的报道，这个实验室将提供 AI 测试平台、华为云服务以及 AI 开发平台 ModelArts 等，此举也被认为是华为在当地业务拓展的一部分，该公司近期与新加坡多家公司签署了合作备忘录。

应用·行业

互联网

Instagram 如何利用机器学习推荐内容。这篇来自 IG 工程师 Ivan Medvedev 的博客文章也是首次向外披露该公司的个性化推荐机制。其中的一个要点，为了将相似的用户识别并关联起来，IG 利用了一个名为「词语嵌入」的通用机器学习方法。与此同时，IG 还引出三层排序机制，可以实现秒级 9000 万模型预测以及 6500 万特征提取。

Twitter 利用机器学习对抗假新闻。Twitter 的开发博客里透露了一些线索，比如系统会自动在某些推文旁边贴上警告，提醒用户这条内容可能是虚假的新闻；另外，Twitter 的算法还会将「误导性、可能威胁到别人人身安全」的内容删除。

微软利用类 BERT 的NLP 模型提升 Bing 搜索质量。微软在一篇博客里表示，自 2019 年 4 月开始，微软引入了大规模的 Transformer 模型，极大提升了 Bing 的搜索效果。鉴于类 BERT 模型巨大，微软在博客里还介绍了他们的优化方法，比如利用 Azure 的 NV6 GPU 计算实例来运行该模型，可以大幅降低延时。

DeepMind 如何优化 Google Play 商店的应用推荐。根据 DeepMind 透露的信息，他们采用了三个机器学习模型：「候选生成器」、「重排器」以及「多目标优化」。其中「候选生成器」负责深度分析上百万个应用程序，从而确定「候选」，而「重排器」则是利用多维度数据来预测用户喜好，并与「多目标优化」模型协同工作，最终形成更精准的推荐。该系统已经在今年早些时候部署到了 Google Play。

应用·其他行业

• 德意志银行利用机器学习程序替代人类员工，过去几年，机器人已经帮助这家银行完成了 500 万笔交易。
• UPS 将 AI 与传感器结合，追踪包裹。这项服务主要针对医疗客户，可以实时追踪包裹位置，并提供更精准的投送时间预测。
• 空客正在研究单一「AI 飞行员」的飞机，空客 CTO Grazia Vittadini 认为，AI 可以处理飞行的日常任务，人类飞行员可以专注于重要决策。