商业·应用
观点：如何建立一个可以信任的 AI 系统？
这是知名 AI 从业者 Gary Marcus 在 NYT 的一篇文章，也是新书 Rebooting AI: Building Artificial Intelligence We Can Trust的节选部分。
这篇文章或者说这本书的核心，是在部分否定当下一些 AI 研究方法之后提出自己的想法。比如 Marcus 指出，当下机器学习热潮中，研究者并不在乎向机器传达类似「时空情景」的概念，由于没有时空概念，机器无法获取像人类这样的常识。在人类的认知体系里，任何特定动物的生命都始于出生，止于死亡；它在生命的每一刻都占据着空间的某个特定区域；两只动物通常不能同时在同一个空间；两只动物可以在不同的时间在同一空间等等。
正是基于这样的常识，人类可以做出诸多理性判断，但机器显然不具备这样的条件，Marcus 还举了一个案例，哲学家尼克·博斯特罗姆曾想象一个场景：一台强大的人工智能机器被指示制作回形针，却不知道什么时候停下来，最终把整个世界——包括人——变成回形针。
因此，Marcus 指出，当下 AI 领域面临一个十字路口：如果坚持现有的方法，那么必须采取更严格的监管，否则最终会走向「回形针」的悲惨结局；另一方面，开启新的研究思路，将因果关系、时空关系纳入到机器学习之中，从而推动机器产生常识。
基于 Deepfake 的语音网络欺诈
不久前我曾预测，在类似 Deepfake 技术的帮助下，利用声音的网络诈骗将越来越多，WSJ 就报道了一起最新案例，犯罪分子利用基于人工智能的软件冒充首席执行官的声音，命令下属将 22 万英镑转移到自己银行账户。
在这起案件里，一家英国能源公司的首席执行官认为他在和他的老板通话，他的老板是该公司德国母公司的首席执行官，这位操着德国口音的人要求英国公司把资金寄给一家匈牙利供应商，也正是这个口音，使得英国公司的负责人没有过多考虑而付了款。根据负责处理此事的保险公司的说法，打电话的这个人说请求很紧急，要求高管在一小时内付款，保险公司拒绝透露受害公司的名称。
这可能是第一起利用 AI 技术实施的网络欺诈，目前执法机构还无法应对这种状况，但绝不会是最后一起，未来类似的案例还会更多。
脸部识别、隐私与技术反击
一周前一个名叫「ZAO」的换脸产品引发国内科技行业热议，并且这个讨论还延续到了美国主流的科技媒体，这个讨论的范围从该产品的火爆一直延伸到了数据隐私，特别是脸部数据隐私，比如其用户协议里，有一段这样的表述：
在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或声音等)以及对修改前后的用户内容进行信息网络传播以及著作权人享有的全部著作财产权利及邻接权利。
这几乎也是一种 UGC 类网站用户协议的「标准模版」，却在这一次遭遇到了用户质疑，以至于也得到了包括新华社、人民网的「关注」，目前最新的信息是，「ZAO」更新了用户协议，如下图所示，
「ZAO」争议的背后，不仅是对用户脸部数据或滥用的担心，还涉及到了对技术所引发的一系列潜在风险的担忧。从技术门槛上看，「ZAO」所使用的 Deepfake 并不是什么新颖技术，即便是普通人，也可以通过开源产品，在自己的电脑上训练一个「换脸」项目。
但当这项技术被放在公共平台，比如社交媒体，则成为众多假新闻制作者的利器。上周，Facebook 启动了一项计划，将于包括微软、Google、MIT 等企业和学校合作，设置 1000 万美元的资助计划，号召更多的人参与到识别、检测 Deepfake 视频、图片的行动中，这是科技行业对于技术滥用的一次抗争。
用户对于脸部数据被采集的认知分裂也是全球性的问题。Wired 援引一份来自皮尤的调查显示，大约 56% 的美国人认为警察使用脸部识别是正常的。更具体的来看，大约 60% 的白人称他们相信执法部门掌握这项技术，但只有 43%的黑人受访者持这一态度。
可以通过美国八年级科学测试的 AI
这个名叫「亚里士多德」的 AI 系统由艾伦 AI 研究所研发，该系统在美国八年级（大概相当于国内初三）的科学测试里答对了 90% 的问题，而在十二年级的测试中，这个系统回答了 80% 以上的问题。
相比于四年前只有 60% 的正确率，此次「亚里士多德」可以说了相当大的进步。NYT 的报道称，艾伦 AI 研究所自 2013 年就开始了相关研究，旨在打造一个可以替代诸如象棋、游戏等测试 AI 基础能力的方法，而从「亚里士多德」目前的表现来看，机器的确具备了一定的自然语言理解和逻辑分析能力，但 NYT 援引一位微软研究者的话表示，「我们无法将这项技术与真正的人类学生以及人类的推理能力相提并论」。
脸部识别的应用：不让球迷流氓进入球场
WSJ 的报道称，丹麦一家足球俱乐部在 7 月中旬为自己的球场安装了配备脸部识别系统的摄像头，这套系统由日本松下公司开发。该俱乐部希望可以利用该系统将足球流氓挡在球场之外。
具体来说，俱乐部会在比赛前将过往上过黑名单的球迷照片上传到系统中，球迷入场时，系统识别出相关脸部信息后会发出预警，倘若报警无误，此时他们会安排一位保安去将该球迷请出球场。
对于数据安全与隐私，该俱乐部已经向当局申请使用该技术的许可，同时在入场时，会向所有人告知会收集和处理球迷的生物特征数据。松下也表示，该技术不会存储黑名单上的任何脸部数据，而根据该俱乐部的说法，每次比赛结束后都会删除相关信息。
商汤、依图的上市传言
在旷视科技正式提交 IPO 申请之后，外界对于中国其他两家计算机视觉独角兽公司——商汤、依图——何时 IPO 充满了好奇。Bloomberg 援引消息人士的话表示，依图正计划在中国科创板上市，时间预计会在 2020 年，目前这个消息尚无更多信源佐证。
与此同时，Bloomberg 也在跟踪商汤的 IPO 计划，在参加 Bloomberg 举办的一场活动上，商汤 CEO 徐立表示，该公司一直在全球定期做一系列路演活动，帮助投资者了解商汤目前的业务，不过暂时美元上市计划。
目前商汤的业务包括面部识别平台、基于视觉的机器人配送平台等，同时，商汤也在研发 AI 芯片，主要应用于数据中心的 AI 模型训练。
值得一提的是，徐立也表达了商汤与政府之间关系的看法，他表示，商汤不直接与政府做生意，不拥有也不访问客户数据，与公共部门的合作主要集中在制定人工智能道德准则上。
Oracle 的机器学习策略
Oracle 在近几年的云端转型中面临巨大困难，外界对于这家软件巨头未来如何适应云、机器学习感到好奇，ZDNet 记者深入到 Oracle 公司内部，梳理了当下 Oracle 的机器学习策略，比如在数据库层面，作为 Oracle 的核心产品，数据库产品早已集成了机器学习算法，通过异常操作的分析，建立起有效的预测系统，这也是近几年 Oracle 力推的自动化数据库产品；而通过 Oracle 的公有云平台，开发者和数据科学家也可以获取Oracle 在机器学习领域开放的能力和技术。
收购也是 Oracle 推动机器学习的重要策略。利用收购 DataFox，Oracle 可以将这家公司的 NLP 技术纳入到自己产品里，包括数字助理、Chatbots，以及可以自动化处理财务发票、报销的智能文档识别等。
而收购 Datascience.com，Oracle 踏入到数据科学家协作平台，利用 Oracle 的公有云服务打造了一个通用的数据科学平台，支持各种数据源和业界主流开发框架。
如果你对 Oracle 的机器学习探索感兴趣，一定不要错过这篇文章。
| 
