根据该机构的人工智能治理目标，中央情报局于 2023 年成立了人工智能治理委员会。该机构目前正在制定一份国家安全备忘录，该备忘录将解决在美国国家安全领域开发和管理人工智能的独特挑战。

2023年，CIA主动创建了一个共同的公共服务平台，并自此继续开发和发展模型和数据的编目。在这些基础上，中央情报局还在开发一个模型服务平台，以支持多租户环境托管微服务，目标是集中部署和维护人工智能模型。

借助集中式模型服务平台，CIA 数据科学团队将采用通用方法来部署和托管 AI 即服务模型，而应用程序开发团队将有一个集中位置，可以将 AI 服务集成到他们的应用程序中。目前，这正在积极开发中。

CIA 拥抱生成式 AI

Nextgov/FCW 分析师今年7月写道，通常隐蔽的中央情报局与世界其他地区一样对生成式人工智能充满热情，并且可以在公开讨论他们如何利用新兴技术来改善情报运作时变得更加大胆。

2024 年 6 月 26 日，中情局人工智能创新主任拉克希米·拉曼（Lakshmi Raman） 在华盛顿举行的亚马逊网络服务峰会上表示：就像几年前世界其他地区一样，我们被卷入了生成式人工智能的时代。

拉曼指出，目前美国情报分析师正在机密环境中运用生成式人工智能技术，以辅助搜索和识别任务。这项技术不仅能够撰写文本和激发创意思维，还能促进集体智慧的形成，并辅助生成反驳论点。这些创新应用是在情报机构超过十年的现有技术基础上发展起来的，涵盖了语言翻译、转录以及数据处理等领域。

中央情报局正逐步采用生成式人工智能技术，以应对来自全球各地每分每秒涌现的海量新闻资讯。该技术助力情报分析师筛选庞杂的数据，提炼出对政策制定者有价值的信息。

未来中央情报局生成式人工智能

拉曼对中央情报局生成式人工智能的未来有一些有趣的想法。她认为，它可能会成为该机构五个部门中每个部门的常规部分。但她并不认为这会改变中央情报局的使命，而只会作为工具箱中的一个工具，帮助管理人机交互，而人机交互现在对于工作来说是非常必要的。

此外她认为人工智能或技术不会取代现有的劳动力。但会显着改善工作效率，帮助加快日常任务，同时人力劳动可以将思想用于更高层次的工作。因此，人工智能尤其是生成式人工智能可以被纳入整个机构的工作流程中，以帮助加强自己的判断力并更快地完成工作流程。

在这方面，拉曼表示，她预计人工智能为重点的工作角色将渗透到中央情报局的所有部门。

“

我们在中央情报局有非常广泛的使命。我们有五个局，负责处理从创建客观分析到收集信息、创建独特、复杂的技术工具、将我们的注意力引导到数字景观以及履行行政和后勤职能的所有事情.

我们对风险考虑了很多，其中之一是我们的用户如何能够以安全、可靠和可靠的方式使用这些技术。因此，这是关于确保该人可以查看输出并检查其准确性。

”

“深思熟虑”的人工智能方法

经济学家认为，生成式人工智能每年可以为全球经济增加数万亿美元。然而，这项技术并非没有风险。报告证明了生成式人工智能软件会产生所谓的“幻觉”或不准确的反应。在国家安全环境中，人工智能的幻觉可能会带来灾难性的后果。高级情报官员认识到这项技术的潜力，但必须负责任地权衡其风险。

美国情报界首席信息官阿黛尔·梅里特（Adele Merritt）在2024年4月的一次采访中说：“我们很高兴看到生成式人工智能带来的机遇，我们希望确保对如何使用这项新技术进行深思熟虑。”

梅里特负责监督美国情报界 18 个机构的信息技术战略制定。她定期与其他高级情报官员会面，包括情报界的首席数据官劳里·韦德（Laurie Wade）、情报界新任命的人工智能主任约翰·贝勒（John Bailer）和美国国家情报局局长办公室公民自由、隐私和透明度部门负责人丽贝卡·理查兹（Rebecca Richards），讨论并确保人工智能工作的安全性和合规性隐私标准和其他政策。

由于情报界的安全要求严格，因此很少有生成式人工智能工具足够安全，可以在非营利领域使用。例如，情报分析师无法在秘密数据中心访问ChatGPT等商业生成式AI工具，而他们最秘密的工作就是在该数据中心进行的。

2024 年 3 月，中央情报局 ServiceNow 项目管理部门负责人加里·诺沃特尼 （Gary Nowotny） 解释了至少一种生成式 AI 工具如何帮助减少分析师完成情报请求所需的时间。在他发表上述言论之前，2023 年的一份报告称中央情报局正在建立自己的大语言模型。

2024 年 5 月，微软（Microsoft ）宣布为其 Azure 政府绝密云的用户提供 GPT-4，其中包括国防和情报客户。Microsoft 代表指出，安全认证花了 18 个月的时间，这表明即使对于科技巨头来说，在最高级别验证软件的安全性也是多么困难。

每个主要的商业云提供商都做出了类似的承诺。Google Cloud 正在将其许多商业 AI 产品嵌入到一些安全的政府工作负载中，包括流行的 Vertex AI 开发平台。同样，Oracle 的云基础设施和相关 AI 工具现在也可以在云中供美国政府机构使用。

与此同时，作为第一家服务于智能社区的商业云服务提供商，AWS正在寻求利用其在云计算市场的领先地位，以更好地满足客户对生成式AI日益增长的需求。

2024 年 6 月 26 日，AWS 全球公共部门副总裁 Dave Levy 在 AWS 峰会上接受 Nextgov/FCW 采访时表示：“生成式 AI 的现实情况是，你必须为云计算奠定基础。你必须将数据存储在一个你可以实际用它做一些事情的地方。”

在峰会上，Levy 宣布了 AWS 公共部门生成式 AI 影响计划，这是一项为期两年、耗资 5000 万美元的投资，旨在帮助政府和教育机构应对与生成式 AI 相关的挑战，包括培训和技术支持。

2024 年 6 月 26 日，人工智能公司 Anthropic 首席执行官 Dario Amodei 和 Levy 联合宣布，美国情报机构将推出 Anthropic 的 Claude 3 Sonnet 和 Claude 3 Haiku AI 模型。商业上流行的生成式 AI 工具现在可以通过 AWS Marketplace 为美国情报社区提供，该市场本质上是商业云市场的机密版本。

虽然 Anthropic 负责大型语言模型的安全性，但它已与 AWS 合作，因为它具有出色的云安全标准和作为云计算领域公共部门领导者的声誉。私人广告市场允许政府客户在购买软件之前启动和测试软件，这也简化了政府的采购。

中央情报局中使用人工智能需要开箱即用的思维

中央情报局的技术主管南德·穆尔钱达尼（Nand Mulchandani）负责管理技术工具。作为硅谷的前首席执行官，Mulchandani 曾领导过成功的初创公司，在五角大楼的联合人工智能中心工作后，于 2022 年被任命为该职位。

他监督的项目包括一种类似于 ChatGPT 的生成式 AI 应用程序，它使用开源数据（即未分类、公开或商业可用）。来自 18 个美国情报机构的数千名分析师使用它。

以下总结了《密尔沃基独立报》对穆尔钱达尼（Nand Mulchandani）的采访（2024年7月6日）：

问：你最近说过，生成式人工智能应该被当作一个“疯狂的、醉酒的朋友”来对待。您能告诉我们更多有关这方面的信息吗？

南德·穆尔钱达尼：当这些生成式人工智能系统产生“幻觉”时，它们有时会表现得像你在酒吧里喝醉的朋友，可能会说一些话，把你推到你通常的概念界限之外，并唤醒你开箱即用的思维。这些基于人工智能的系统本质上是概率性的，因此它们不准确（它们容易被伪造）。因此，对于艺术、诗歌和绘画等创造性任务，这些系统非常出色。但我不会使用这些系统进行精确计算或设计飞机或摩天大楼，这些系统不能“准确地”工作。它们也可能是有偏见的和狭隘的，我称之为“兔子洞”问题。

问：目前所知道的中央情报局规模上唯一使用大型语言模型的是一个名为 Osiris 的开源 AI，它是为整个情报界创建的。这是真的吗？

南德·穆尔钱达尼：这是我们唯一公开披露的事情。这对我们来说绝对是一个本垒打。然而，我们需要将讨论扩展到法学硕士之外——例如，我们处理各种媒体（包括视频）中的大量外语内容，并使用其他算法和人工智能工具来处理它。

专门研究国家安全人工智能的有影响力的咨询组织特别竞争研究项目（Special Competitive Research Project）发布了一份报告，称美国情报机构必须迅速将生成式人工智能纳入其工作，因为它具有颠覆性的潜力。该项目设定了两年的时间表，以超越实验和有限的试点，并在整个情报界部署人工智能生成工具。这是真的吗？

南德·穆尔钱达尼：中央情报局 100% 使用这些技术并扩大规模。我们对待这个问题，就像我们可能对待任何其他技术问题一样。我们相信，我们已经远远领先于原定的最后期限，因为我们已经在生产环境中使用了 Gen AI 工具。更深层次的答案是，我们正处于大量额外变化的早期阶段，而工作的大部分是将技术更广泛地集成到我们的应用程序和系统中。这仅仅是个开始。

问：能说出在大型语言模型中的合作伙伴的名字吗？

南德·穆尔钱达尼：目前，市场上的 LLM 数量呈爆炸性增长。作为一个聪明的客户，不会将我们的船与一组特定的 LLM 或一组特定的供应商捆绑在一起。评估和使用几乎所有高性能的 LLM，包括商业和开源。不认为LLM市场是唯一一个实验室比其他实验室更好的市场。

问：在 CIA 中使用大型语言模型的最重要场景是什么？

南德·穆尔钱达尼：求和是首要的。与开源打交道的中央情报局分析师无法忍受我们每天收集的大量信息。因此，它改变了理解情绪和全球趋势的游戏规则。然后，分析师深入研究了具体细节。他们需要能够充满信心地注释和解释他们所引用的数据，以及他们如何得出适当的结论。额外的材料为分析师提供了更广阔的视野，包括收集的机密材料和公开材料。

问：在机构中采用生成式人工智能的最大挑战是什么？

南德·穆尔钱达尼：员工每天都在竞争的基础上接触到人工智能。很明显，整个世界都被这些新技术及其生产力和效率的惊人增长所接受。诀窍是处理我们在信息分离和系统构建方式方面的限制。在许多情况下，数据分离不是出于安全原因，而是出于法律原因。您如何有效地连接系统以利用 AI，同时保留所有 AI ？有一些非常有趣的技术正在涌现，可以帮助我们思考这个问题，并以一种提供加密和隐私控制的方式组合数据。

问：生成式人工智能现在和小学生一样复杂。另一方面，情报工作是针对成年人的。关键是要试图发现敌人的欺骗。人工智能一代如何适应这项工作？

南德·穆尔钱达尼：首先，人类分析师是首要的。聘请了各自领域的世界领先专家。在许多情况下，传入的信息需要大量的人类判断来权衡其重要性和意义，包括那些能够提供它的人。我们没有可以复制这一点的机器。我们并不是在寻找计算机来完成主题专家的工作。我们正在研究的是副驾驶模型。人工智能一代可以通过提出新的想法对头脑风暴产生巨大影响。以及提高生产力和洞察力。我们需要非常确定地做到这一点，因为如果使用得当，这些算法是一股向善的力量。但如果处理不当，它们真的会伤害你。

Microsoft 为 CIA 提供的 AI

据彭博社报道（2024 年 5 月 12 日），Microsoft 已为中央情报局和其他美国情报机构部署了一个生成式 AI 模型，以分析绝密信息。

Microsoft 于 2024 年 5 月 7 日在华盛顿特区举行的 2024 年 SCSP AI 博览会上宣布了 AI 产品，以提高国家竞争力。基于 GPT-4 的模型被创建为与互联网完全分离，允许安全地处理秘密数据。

Microsoft负责战略任务和技术的首席技术官William Chappell表示，这是第一次有一个隔离的版本，隔离意味着它没有连接到互联网而且它位于只有美国政府才能访问的专用网络上。

情报界迫切需要像 ChatGPT 这样的产品，但生成式 AI 产品的安全风险太高。由于云环境将其与互联网隔离开来，新模型是安全的。虽然大多数 AI 模型都是根据加载到其中的文件进行训练的，但这个 GPT-4 间谍模型却没有。通过这种方式，政府可以保持这种模式的“清白”，防止秘密信息进入平台。

它似乎是世界上第一个专门为分类工作负载构建的人工智能模型，也是第一个完全独立于互联网运行的主要语言模型。

2023 年，中央情报局部署了自己的 ChatGPT 式 AI 工具来筛选堆积如山的公共信息。但是，此 AI 模型尚未在任何机密文档中使用。

Microsoft 花了 18 个月的时间研究这个 GPT-4 间谍模型，该模型涉及对爱荷华州现有的 AI 超级计算机进行大修。据彭博社报道，该模型必须经过情报界的测试和认证。

为绝密工作负载部署 AI 模型正值 Microsoft 网络安全声誉的关键时刻。美国国土安全部最近对Microsoft的安全做法进行了严厉的审查，指责这家云提供商暴露了来自高级政府官员的电子邮件。该报告称，Microsoft的安全文化“需要进行审查”。这促使首席执行官萨蒂亚·纳德拉（Satya Nadella）告诉员工，安全现在是Microsoft的“首要任务”。

与此同时，Microsoft毫不犹豫地为政府机构开发AI工具。The Intercept 4 月（2024 年）的一份报告透露，Microsoft 的 Azure 版 DALL-E 是美国国防部推出的，作为战场上的工具。Microsoft长期以来一直与军方和政府机构合作，尽管人工智能的采用相对较新。

Guardian 项目概述

Microsoft 的 Project Guardian 是专为包括中央情报局在内的美国情报机构设计的最先进的 AI 模型。该模型基于先进的GPT-4架构，在与外界隔离的完全自主环境中运行，确保了最高级别的安全性。Project Guardian 的开发由 William Chappell 领导。

该模型托管在与互联网断开连接的静态云中，这可以防止它吸收外部数据或从外部数据中学习，从而保护敏感信息免受网络威胁和未经授权的访问。

Project Guardian 旨在读取和分析文件，而无需对正在处理的数据进行培训，这有助于维护信息的完整性和安全性。它可以响应查询并生成代码，为分析情报社区中的数据提供强大的工具。

该模型目前正在运行，并正在接受美国各个情报机构的严格测试和评估。其正式部署所需的认证程序尚未完成。

CIA在利用生成式AI进行情报分析时，有哪些创新的应用案例？

1. AI聊天机器人：CIA正在研发类似于ChatGPT的AI聊天机器人，该项目旨在帮助分析师从海量开源信息中获取情报，实现精准筛选。这款工具将使分析师能够与机器人进行互动，追问信息的细节和来源，从而提升情报工作的效率和质量 。

2. 开源情报分析：CIA开源企业部门负责人兰迪·尼克松（Randy Nixon）提到，随着社会进入互联网和大数据时代，搜集情报变得更加困难，而AI聊天机器人将填补这一关键需求，帮助实现从庞杂信息中筛选有用情报的目的 。

3. 技术与情报分析的整合：美国战略与国际问题研究中心（CSIS）的研究指出，情报分析人员需要利用人工智能和其他技术来提高战略情报分析能力。这包括使用AI来增强对全球事件的起因、前景以及对美国利益的影响的分析 。

4. 数据标签和安全性：情报部门需要处理的数据量呈指数级增长，AI技术可以帮助进行数据的自动总结和分类。同时，情报部门也面临着数据标签和安全性的挑战，需要确保数据和情报的真实性 。

5. 未来情报体系构建：情报部门正在考虑如何将先进技术集成到全源情报分析中，以提高在日益复杂的全球环境中的竞争力。这涉及到使用AI来处理和分析大量的数据，并提供及时、准确和相关的分析产品 。

除了AI聊天机器人，还有哪些AI技术被CIA用于情报分析？

除了AI聊天机器人，CIA在情报分析中应用了多种AI技术，包括但不限于：

1. 预测分析工具：CIA通过其风险投资基金In-Q-Tel投资了如Palantir等公司，这些公司开发的技术可以帮助情报人员分析和从大量不同数据源中识别模式和可疑行为，以预测潜在的威胁和攻击。

2. 开源情报增强：CIA利用AI技术自动检测和分析社交媒体等数据源，提高开源情报的搜集和分析效率，例如使用Electrif Ai公司的Signal Sensor算法。

3. 网络攻防能力提升：CIA通过In-Q-Tel投资的Palantir公司开发的平台，帮助情报机构识别虚假信息和抵御网络攻击，国家安全局(NSA)也在探索使用AI检测网络漏洞。

4. 机器学习和自动化工具：CIA自行组织开发了供内部使用的工具，例如向撰写情报分析报告的分析师推荐适用情报线索的工具，提升工作效率。

5. 数据标签和机器学习算法：CIA需要处理的数据量呈指数级增长，AI技术帮助进行数据的自动总结和分类，尽管手工标签和标记在某些情况下仍是必需的。

6. 情报的真实性和安全性：CIA面对深度伪造技术等挑战，需要确保数据和情报的真实性，AI技术在此过程中发挥作用，帮助分析人员辨别真伪。

来源：情报分析师