彭博:美情报局希望借助AI打击中国等竞争对手
彭博:美情报局希望借助AI打击中国等竞争对手 彭博社报道,美国国家情报局正在利用最新的人工智能(AI)技术,应对来自中国等全球竞争对手的威胁,但同时又须确保情报人员使用AI技术的过程安全可靠。 美国国家情报总监办公室旗下一部门正在利用各家科企和大学机构快速发展的AI技术,助力应对中国等全球竞争对手。但核心挑战在于,须确保开发出来的新AI技术具备可靠性和安全性,不会对国家的最高机密打开后门或生成虚假数据, 负责管理国家情报总监办公室其中一个项目Bengal的数据科学家麦金农(Tim McKinnon)说:情报界希望利用现有的大语言模型,但有很多未知数……最终目标是能与一个值得信赖的模型合作。” 美国战略与国际研究中心的情报、国家安全和技术项目主任哈丁(Emily Harding)说:“情报界对AI抱有健康的怀疑态度和一定程度的热情。”她举例称,分析师可以利用AI处理大量信息,但对当前技术模型的可靠性存有疑虑。 美国中央情报局首席技术官穆尔钱达尼(Nand Mulchandani)认为,AI可以消化大量内容,并找到人类难以或不可能辨别的模式,从而有潜力提高生产率。他还认为这是美国超越中国情报人员的“数量优势”的一条途径。 美国间谍机构已经开始试验自己的AI 项目。彭博新闻社9月份报道,中情局准备推出类似于人工智能聊天机器人ChatGPT的工具,让分析师更好地获取开源情报。 麦金农指出,AI既容易受到内部威胁也容易受到外部干预。这些威胁可能是人类试图诱骗系统泄露机密信息,也就是让模型“越狱”。或者反过来,遭入侵的系统“试图从人类那里刺探它不应该获取的信息”。 麦金农补充说:“目前只有少数模型可以公开使用,但它们会变得更加普遍,而且它们的训练方式可能会有偏差……如果模型中毒,我们希望能够缓解这种情况。” 2024年1月26日 4:49 PM
在Telegram中查看相关推荐

🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人