8月11日，美国国防部（DoD）官网消息，将成立一个名为Lima的生成式AI工作组，主要研究生成式AI、大语言模型在国家安全、军事方面的应用和管理。

国防部副部长Kathleen Hicks领导该工作组，将在分析和集成国防部大语言模型（LLM）、打造生成式AI产品等方面发挥关键作用。同时以安全、可靠、透明的方式应用生成式AI，最大限度地降低AI的风险。

ChatGPT等生成式AI的用户隐私、数据安全等问题受到了全球多个国家、地区的高度关注，并出台了相应的监管政策。

而国家安全、军事领域一直对数据安全有着极其苛刻的要求，生成式AI能在该领域应用，充分说明其安全性是可以进行有效控制的，对于生成式AI的行业发展有着积极地推动作用。

原文地址：https://www.defense.gov/News/Releases/Release/Article/3489803/dod-announces-establishment-of-generative-ai-task-force/

DoD表示，大语言模型和生成式AI产品在全球范围内受到的欢迎程度、功能和影响力正在飞速增长。通过对海量数据的预训练、微调，通过文本等方式就能瞬间生成全新的内容，这有助于DoD提升日常的工作效率，同时也要解决数据安全、个人隐私等问题。

生成式AI工作组的职责

根据DoD发布的文件来看，该工作组的主要职责包括大语言模型、生成式AI产品的安全研究、评估、规划、搭建技术合作生态、制定管理框架、探索应用场景等。详细职责如下。

  • 加速生成式AI发展技术和解决方案的实施和创新；

  • 在DoD不同的业务流程中尝试应用生成式AI；

  • 评估生成式AI解决方案；

  • 确保DoD与跨机构、教育、企业等，在生成式AI的开发和使用方面进行协调一致；

  • 制定绩效、有效性的定量和指标，包括偏见、意外行为或后果，以搭建大语言模型和生成式AI的风险评估体系；

  • 实时向DoD汇报大语言模型、生成式AI可能存在的各种风险；

  • 当发现不适合应用大语言模型和生成式AI的部门、业务流程时，有责任让其停止使用；

  • 将大语言模型、生成式AI增强的工作流程，集成到联合演习和实验中；

  • 评估DoD大规模开发、实施和运营大语言模型和生成式AI，所需要的资源；

  • 根据业务需求，重点评估战略、运营、规划、后勤等领域的大语言模型和生成式AI的应用。

  • Lima工作组的所有成员，必须是全职或永久兼职的联邦文职官员或雇员，或武装部队的现役成员。


Kathleen Hicks表示，Lima生成式AI工作组的成立，突显了DoD对引领AI创新的坚定承诺。当应用生成式AI的力量时，确保国家安全、降低AI风险仍然放在首位，将以负责任的方式整合这些技术。

本文素材来源DoD官网，如有侵权请联系删除

推荐阅读