增强机器学习AI技术的安全性和灵活性 开创下一代AI算法和应用

美国国防部预先研究计划局（DARPA）于2018年9月宣布启动“AI Next”（下一代人工智能）项目，并计划在未来五年内为此投资20亿美元，用于构建能够进行类似人类交流和逻辑推理的人工智能工具。AI Next项目基于DARPA过去60年引领开发的两代人工智能技术，强调AI的“环境自适应”能力，探索的主要领域包括：促使国防部关键业务流程自动化的新技术；提高AI系统的鲁棒性和可靠性；增强机器学习和AI技术的安全性和灵活性；降低功耗，避免数据和性能效率低下；开创下一代AI算法和应用。

在美国白宫“人工智能国家战略”部署下，联邦机构加大了人工智能的推进力度，五角大楼的研究机构正努力将这项技术推向新高潮。

2019年3月8日，DARPA国防科学办公室负责人接受国外媒体Nextgov专访时，介绍了下一代人工智能工作的进展。

专访内容如下：

Nextgov：AI Next的最终目标是什么？

Browning：AI Next计划的大目标是将机器从工具（也许是非常有价值的工具）真正变成值得信赖的合作伙伴。我们肯定希望一个值得信赖的合作伙伴能够拥有一定的能力和常识。比如说，有一定能力识别新情况，并在新情况下表现得恰当，并且当你可能没有足够经验或训练来面对新情况时，让你也能意识到这一点。这些就是我们真正追求的目标。支持机器学习的AI虽然可以很好地完成某些任务：图像分类、语音识别、自然语言处理、统计模式识别，但我们清楚AI有时候会以意想不到的方式失效，而我们却总是无法准确地进行预测。

（图片来源：DARPA官网）

Nextgov：现在的人工智能与DARPA试图创建的人工智能之间最大的差距是什么？

Browning：实际上，人工智能会犯人类不会犯的错误。比如，在图像分类中，机器只要看到熊猫的图片就会将其识别为熊猫，但是你只需对人眼无法识别的像素进行一些微小的更改，机器就会将其归类为长臂猿或者其它动物。我们需要构建具有一定内省能力的人工智能系统，当其被指定任务时，它们可以与人类合作伙伴进行沟通：“基于我的训练和经验，你应该对我有信心，我可以做到这一点”或者“我以前没有遇到过这种情况，我无法以你希望的方式处理这种情况”。那么问题来了，我们如何才能更快、更好地训练，而不需要费力地将海量的数据集进行手工标注？如果我们不用把整个宇宙的训练数据必须投入到AI系统，那不是很好吗？

Nextgov：像人工智能探索计划（AI Exploration）这种快速、短期的资金有哪些益处？

Browning：因为我们的资源有限，有时候我们会发现一个领域，我们认为投资时机已经成熟，但是得先解决一些关键问题。我们其实不想把项目扩展得很大，但我们想要快速获得一些答案。通过传统的采购流程引入新项目是非常漫长的，针对这个计划，从发布主题通告到实际操作的时间是90天或更短，这在政府合同中几乎是前所未有的。AI ExploraTIon计划让我们能够快速定位一些风险更高、更不确定的地方，并判断它们是否正处于实现最终目标的关键路径上。

Nextgov：那现在有哪条路看起来更具前途吗？

Browning：人工智能物理学，最早开始的领域之一。我想我们很快就会发现该领域是否存在真正明确的应用。我是说在几个月内，而不是几年。

Nextgov：您对白宫的“人工智能国家战略”有何看法？有一种很尖锐的批评称：这个战略并没有提供很多具体的指导或资金。

Browning：我认为正确的事情正在被优先考虑。要创新，我们必须投资，我们必须成为世界领先者。现在存在的挑战是：如何确保我们拥有人力和人力资本，以保证我们采用正确的科学、技术、工程、数学（STEM）方法，确保我们在不扼杀创新的同时保护技术优势。这些是我认为重要的东西。“人工智能国家战略”确实要求所有机构在制定预算时，将这一点作为优先事项，但我认为我们并不清楚预算到底有多少。与其关注预算多少，更明智的做法应该是提出正确的问题，并将正确的资源用于提出的这些问题上面。

Nextgov：和类似中国这样的全球竞争对手相比，您认为美国政府目前在这方面投入的资源是否足够？

Browning：这个很难比较。资金既可以得到很好的利用，也可以浪费。从DARPA的角度来看，我认为五年内20亿美元的承诺是合适的，这个资金水平允许我们以适当的速度推动项目。DARPA对AI Next活动的目标一直非常明确，我不知道怎么与中国做比较。

Nextgov：最近五角大楼与微软和谷歌等科技公司之间的关系紧张。您认为科技行业应该在政府的人工智能开发中发挥怎样的作用？

Browning：我认为DARPA可以帮助创建一个非常有活力的承包商生态系统。我们可以尊重大公司关于他们是否愿意与国防部合作的立场。我们根本不会低估他们在这项工作中的作用，但是……我们会继续和我们已经参与的团体一起进行创新。既然我们已经推出了这些新计划，就不缺好创意。