【Real Time Machine Learning】DARPA为“实时机器学习”设计芯片

文章来源：DARPA官网。网址：https://www.darpa.mil/news-events/2019-03-21

编译：防务菌

3月21日，DARPA通过其官网宣布推出“实时机器学习”（Real Time Machine Learning，RTML）项目，旨在通过开发基于机器学习框架自动生成新型芯片设计的方法，降低与为新兴机器学习应用开发的ASIC相关设计成本。其目标是创建一个编译程序（或软件平台），它可以吸收像TensorFlow和Pytorch这样的机器学习框架，并根据特定机器学习算法或系统的目标，生成硬件设计配置和为其优化的标准Verilog代码。

如果没有过去几十年的重大计算进步，那么当前一代的机器学习（Machine Learning，ML）系统是不可能实现的。图形处理器（Graphics Processing Unit，GPU）的发展对于机器学习的发展至关重要，因为它为机器学习系统处理和训练大型数据集提供了新的计算能力。随着人工智能领域朝着超越当前机器学习能力的方向发展，并将其推进到实时“学习”领域，这就需要新的计算水平。高度专业化的专用集成电路（Application Specific Integrated Circuit，ASIC）有望满足高级机器学习应用（如自主系统和5G）的物理尺寸、重量和功率（SWaP）要求。然而，设计和实现的高成本使得机器学习专用ASIC的开发对于除了最高容量应用之外的所有应用都是不切实际的。

RTML项目编译程序

RTML项目试图回答以下研究问题：

我们可以为机器学习构建特定于应用程序的硅编译程序吗？
哪些硬件架构最适合RTML项目？
各种RTML任务的延迟下限是多少？
各种RTML任务可行的最低SWaP是多少？

“计算领域的一个关键挑战是创建能够从数据中实时主动解释和学习、应用以前的知识来解决不熟悉的问题、以人类大脑的能源效率运行的处理器，” DARPA微系统技术办公室（MTO）负责RTML项目的经理Andreas Olofsson介绍说，“低SWaP、低延迟和适应性的竞争挑战需要开发专门用于实时机器学习的新算法和电路。我们需要的是能源高效硬件和机器学习架构的快速发展，这些架构可以实时地从连续的新数据流中学习。“

RTML项目感兴趣的架构包括但不限于：

a）传统前馈（卷积）神经网络；

b）循环网络及其专用版本；

c）受神经科学启发的架构，例如峰值时间相关神经网络，包括它们的随机对应物；

d）受心理物理学和统计技术启发的非神经ML架构；

e）经典监督学习（如回归和决策树）；

f）无监督学习（如聚类）方法；

g）半监督学习方法；

h）生成性对抗性学习技巧；

i）其他方法，如转移学习、强化学习、多种学习和/或终身学习。

Olofsson表示，“机器学习专家精通开发算法，但对芯片设计却知之甚少乃至一无所知。相反，芯片设计人员没有足够的专业知识来为机器学习专用ASIC的设计提供信息。RTML项目旨在合并这些独特的专业领域，使设计超专业化ASIC的过程更加高效，更具成本效益。“

基于应用空间预期的敏捷性和效率，原型设计和测试需要新型芯片设计的基础机器学习研究，RTML项目编译程序则为这一思路提供了理想的平台。因此，DARPA计划与国家科学基金会（National Science Foundation，NSF）合作开展这项工作。NSF正在推行自己的“实时机器学习”项目，专注于开发可支持实时推理和快速学习的新型机器学习范例和架构。在RTML项目的第一阶段之后，DARPA计划向NSF研究人员提供其编译程序，以便为评估他们提出的机器学习算法和架构提供平台。在该项目的第二阶段，DARPA研究人员将有机会使用NSF生成的结果评估编译程序的性能和功能。DARPA-NSF合作伙伴关系的总体期望是为下一代“实时机器学习”算法和硬件的协同设计奠定基础。

RTML项目时间表，突出关键计划事件和里程碑

“我们很高兴与DARPA合作，为研究团队提供资金，以解决实时学习、预测和自动化决策方面的新挑战，”NSF计算机与信息科学与工程负责人Jim Kurose介绍说，“这种合作符合“美国人工智能倡议”（防务菌注：特朗普201年2月11日签字启动的American AI Initiative），对于保持美国在技术和创新方面的领导地位至关重要。它将为可持续能源和水系统、医疗保健后勤和交付以及先进制造业的发展做出贡献。“

RTML项目是DARPA电子复兴计划（Electronics Resurgence Initiative，ERI）第二阶段的一部分（ERI对美国国内、美国政府和国防电子系统的未来投资超过15亿美元)。DARPA正在支持美国国内制造选择，并能够开发满足不同需求的差异化能力。RTML项目通过创建一种快速且经济高效地生成新型芯片设计的方法，以支持新兴的机器学习应用，来帮助实现这一使命

DARPA将在2019年4月2日举办RTML项目提案者日。有兴趣的提案者将有机会在提案人日期间了解更多关于RTML项目的信息。

本站仅提供存储服务，所有内容均由用户发布，如发现有害或侵权内容，请点击举报。