槽点满满，五角大楼的人工智能部署遭批评

图片来自“Pixabay”

“颠覆性技术”和“高度关注”依然是2019年评价AI的两个关键词。虽然工业界落地艰难，但是，军事界热情不减。作为军事大国，美国的目标非常清晰。推动美国顶尖人工智能研究走向新的技术突破，促进科学新成果的发现、增强经济竞争力、巩固国家安全。

仅凭12个月的角力难分胜负，但是年度评估非常必要。花了美国纳税人这么钱，坐落在美国华盛顿波托马克河畔的五角大楼，2019年工作做的怎么样?

《国防授权法(2019)》(National Defense Authorization Act for Fiscal Year 2019)有细则特别提到，对人工智能进行专项研究，确定美国国防部在人工智能、机器学习等技术方面的竞争力。因此，第三方咨询机构兰德公司(RAND Corp.)受命于此。在2019年年末，他们对五角大楼的人工智能态势进行了独立、审慎的评估，出具一份重量级的报告《兰德咨询：美国国防部人工智能态势分析》。

一、人工智能是五角大楼的机会

报告开篇聚焦三个本质性问题。五角大楼目前在人工智能中的现状如何?五角大楼相关的人工智能处于什么状态?哪些内部行动，外部参与以及潜在的立法或监管行动可能会增强五角大楼在人工智能中的地位?这三个问题拷问五角大楼的灵魂报告对于五角大楼目前态势的判断，成为一面镜子，意在推动该机构深刻反思。

《报告》的分析框架分为“六大”维度，从六个不同的角度“照进”五角大楼要面对的现实。

组织，从五角大楼的执行层的视角提出，包括远景、战略、组织结构和承诺的资源。

进展，技术的研究、开发、原型、验证、确认、测试和评估。

应用，技术采购、部署和生命周期管理，重新设计概念和流程，以充分利用技术。

创新，内部创新文化和引进外部创新或创新者的机制。

数据，数据作为资源、数据治理和支持基础设施，数据的利用。

人才，五角大楼需要和培养和增长人才的机制。

众所周知，企业界的算法生而用于商业用途，比如谷歌广告推荐，优步打车路径规划。这些不是五角大楼所直接期望的用途，再加之目前算法存在一定的“手工打磨的性质”。简而言之就是模型的质量需要高质量的数据，而数据标注需要花费大量的人力物力。此前也有百度公司的AI科学家在论坛中戏称“需要有多少智能，就需要配套多少人工。”所以，直接扩展企业AI的用途到军事上，并不是一件容易的事情。《报告》观点与业界观点一致，并做出提示，需要谨慎的策略和执行，同时在基础设施和支持方面进行大量投资。

尽管不可缺少谨慎的态度，但是，在《报告》看来，人工智能的技术进展，对美方，尤其是五角大楼这样的机构意味着机会。

《报告》站在积极的视角，鼓励五角大楼应该探索、寻求机会，特别强调利用好企业级人工智能、任务支持类人工智能和操作类人工智能(enterprise AI, operational AI and mission-support AI)这三类技术的新进展，尤其关注“验证、确认、测试和评估(verification, validation, testing, and evaluation，VVT&E)”的应用。

《报告》进行深入的调研，自然也充分理解了人工智能现在面临的短板，算法在很多应用中缺乏鲁棒性，不可能一蹴而就地找到大规模应用的爆发点，并给出戒骄戒躁的风险提示，也就是要对人工智能技术的性能提升不要心急，要付出耐心。——“对于五角大楼来说，在从演示到大规模部署的过程中，保持对性能和时间表的现实预期是很重要的。”

不仅如此，除了保持对人工智能这一新兴技术正确的认知与态度，《报告》也做出了预判，明确指出了继续投资的方向。“为了确保成功，还需要对基础设施和设备以及识别、验证、测试和评估进行持续的配套投资。尽管离确保人工智能应用程序的性能和安全还差得很远，特别是在涉及安全关键系统方面。尽管这不是只有美国国防部一家机构面对的独特问题，但它是对美国国防部产生重大影响的关键性问题。”

二、像对待核武器技术一样对待人工智能

《报告》对于人工智能技术高度的评价，以今天的人工智能技术比作五十年前的核武器技术。并建议，“建立美国五角大楼研究人工智能和机器学习的中心，整合该领域专业知识和能力。就像过去确保五角大楼在核武器方面的技术优势一样。

众所周知，人工智能是属于贵族的游戏。科技巨头亚马逊公司，在2018年末股东信中已经将这一结论表达得非常清楚——“强化学习(机器学习重要分支之一)具有陡峭的学习曲线和众多的发展方向，这在很大程度上决定了它的效果，到目前为止，除了资金最充足和技术最先进的机构外，其他所有机构都无能为力。只有具有好奇文化和强烈愿意为客户尝试全新事物的企业才能达成……”

众所周知，人工智能是属于实力派玩家的游戏，上桌需要大筹码。只有最具实力的国家、企业、组织、机构才有资格。五角大楼拥有人工智能应用的天然场景当然不能例外，是人工智能“重点实施单位”。例如，《国家安全战略》(NSS)有史以来第一次将人工智能列为优先事项，以及2020年研发预算的优先事项，并推动国防部成立人工智能中心(JAIC)，设立人工智能国家安全委员会，加大美国国防高级研究计划局(DARPA)对人工智能的投资力度。

毫无疑问，这是“美国政府”的意思，尽一切努力让人工智能的地位在美国五角大楼不断地增强，没有人会对此视若罔闻。

兰德公司高级信息科学家丹妮尔·塔拉夫(Danielle Tarraf)表示，深度学习的成功目前是建立在海量、有标签的数据集能够使用的基础之上。在五角大楼整个机构范围内追求人工智能的发展，将要求五角大楼从根本上将其现有文化，转变为数据驱动的文化。

文化至关重要，战略也只是文化的早餐。这一在企业界通行的理论，在军事管理机构也同样适用。《报告》敦促五角大楼进行文化层面的转变，可以说是从根本上要将五角大楼扭转为“数字化”的思维方式。

另外，《报告》强调，美国五角大楼需要一个集中、专注、资源丰富的组织来推动人工智能和机器学习的应用研究中心。该中心应协调各部门的研究，并与企业和高效实验室保持联系，向通报这些进展对国防企业的影响。”

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!