美国高级研究计划局（DARPA）为了提高人们对其人工智能研发工作的认识，于2019年3月6日至7日在弗吉尼亚州亚历山大市举办了人工智能研讨会（AIC）。此次活动汇集了国防部、研究界和国防利益相关者，以了解有关DARPA当前和未来AI项目的更多信息，并探索各种开发技术如何应用于他们的各种任务。
据防务菌的好基友小智介绍，此次AIC活动强调了DARPA在推动人工智能技术发展方面的全面投资及最新研究成果，力求通过在全国学术和工业基地内聘用广泛的科学家、工程师和技术专家，加强和扩大DARPA的创新生态系统。研讨会致力于在确保国家安全的背景下，向利益相关者通报DARPA对人工智能的愿景和将要发展的优先事项，以更好地促进人工智能领域的技术合作和过渡。DARPA旨在通过该种形式的活动分享其研究成果及创新历程，鼓励技术研究团体、商业公司等寻求与DARPA建立或发展伙伴关系共同开展研究。
DARPA已经在油管上po出了本次研讨会有关视频，小智童鞋对其进行了初步整理，共23个，内容涉及AI在各领域的应用，如在软件工程、协同探索、物理、化学、频谱作战、战术自主、网络防御、射频机器学习等领域的应用项目，同时还包括脑-机接口、机器学习、自然语言理解等领域内的细分技术等，基本涵盖了DARPA近期对人工智能的关注重点和其开展的重点研究项目。
我们对这些视频进行了整理，推出了一个《DARPA人工智能研讨会视频集萃》的东东。今天，先po一个“可解释人工智能”出来。
DARPA人工智能研讨会：可解释人工智能（翻译&字幕 by 防务菌）
演讲者：美国海军研究实验室人工智能应用研究中心代理主任，David Aha博士
内容简介：机器学习（ML）的巨大成功引发了人工智能应用（如交通、安全、医学、金融和国防）的新浪潮，并带来了巨大的收益。但是，当前的机器学习无法向用户解释其决策与行动。DARPA“可解释人工智能”（XAI）项目致力于创建学习的模型和决策可以被最终用户理解和适当信任的人工智能系统，实现这一点需要学习更多可解释模型的方法，设计有效的解释界面，以及理解有效解释的心理需求。本演讲将总结XAI项目并介绍该项目第一阶段的要点。
额外附赠：“可解释人工智能”（XAI）项目背景资料
机器学习的巨大成功产生了大量人工智能（AI）应用项目。照此发展，其持续的进步有望产生能够自我感知、学习、决策和行动的自主系统。然而，这些系统的有效性受到机器当前无法向人类用户解释其决策和行动的限制（如下图）。美国国防部（DoD）面临着需要更智能、自主和共生系统的挑战。如果未来的战士能够理解，适当地信任并有效地管理新一代人工智能机器协作伙伴，那么可解释人工智能，特别是可解释的机器学习，将是必不可少的。
XAI项目需求
“可解释人工智能”（XAI）项目旨在创建一套机器学习技术：
产生更多可解释的模型，同时保持高水平的学习成绩（预测准确性）；
使人类用户能够理解，适当地信任并有效地管理新一代人工智能合作伙伴。
XAI项目强调区域
新的机器学习系统将能够解释它们的基本原理，表征它们的优点和缺点，并传达对它们将来如何表现的理解。实现该目标的策略是开发新的或改进机器学习技术，以产生更多可解释的模型。这些模型将结合最先进的人机界面技术，能够将模型转化为最终用户可理解和有用的解释对话（如下图）。DARPA研究团队的策略是采用各种技术，以生成一系列方法，为未来的开发人员提供一系列涵盖性能与可解释性交易空间的设计方案。
XAI项目概念
XAI项目是当前DARPA正在推行的AI项目之一，旨在实现“第三波AI系统”，其中机器了解其运行的环境和环境，并随着时间的推移构建底层解释模型，使其能够表征现实世界现象。
XAI项目通过解决两个技术领域的挑战问题，专注于多系统的开发：
（1）机器学习问题，用于对异构、多媒体数据中感兴趣的事件进行分类；
（2）机器学习问题，为自主系统构建决策策略，以执行各种模拟任务。
XAI项目挑战问题领域
这两个挑战问题领域被选择来代表两个重要的机器学习方法（分类和强化学习）和两个重要的国防部操作问题领域（情报分析和自主系统）的交叉点。
XAI项目结构
此外，研究人员正在研究解释心理学。
XAI研究原型在整个项目过程中经过测试和持续评估。在2018年5月，XAI研究人员展示了他们可解释学习系统的初步实施，并展示了他们的第一阶段评估的初步试点研究结果。随后在2018年11月进行全阶段1系统评估。
在项目结束时，最终交付将是一个工具包库，包括机器学习和人机界面软件模块，可用于开发未来可解释的AI系统。该项目完成后，这些工具包将可用于进一步完善并转换为国防或商业应用项目。
XAI项目推进时间表
联系客服
