K

KeyAudit

· ·infrastructure·regulatory·social-engineering

Anthropic派驻工程师至NSA,警告AI自我改进风险

据英国《金融时报》报道,Anthropic已向美国国家安全局(NSA)派驻约六名工程师,部署其最强大的AI模型Mythos,用于进攻性网络行动,可能针对中国和伊朗的网络。Mythos此前因滥用风险未公开发布,仅通过Project Glasswing向微软、苹果和亚马逊等经过审查的合作伙伴提供。与此同时,Anthropic正在起诉五角大楼,此前国防部长皮特·赫格塞斯将其列为供应链风险,原因是一份价值2亿美元的合同破裂,部分原因是Anthropic拒绝让Claude用于完全自主武器或国内大规模监控。加州一名法官阻止了黑名单认定,但上诉法院拒绝了Anthropic的暂停请求;NSA在此期间继续使用Mythos。同一天,Anthropic研究所发布报告警告,Claude现在编写了Anthropic生产代码中超过80%的部分,并正接近递归自我改进——AI系统自主设计继任者。报告引用了一个实验,Claude智能体恢复了97%的安全差距,而人类仅恢复23%,并且自主行使了研究判断。Anthropic提议对前沿AI开发进行可验证的全球暂停,但单方面减速可能导致领先地位丧失。IPO申请可能使Anthropic估值超过1万亿美元,与这些进展同时发生。

关键事实

  • Anthropic派驻约6名工程师至NSA部署Mythos AI用于进攻性网络行动。
  • Mythos未公开发布,仅限微软等审查伙伴使用。
  • Anthropic起诉五角大楼因2亿美元合同破裂;法院阻止黑名单认定。
  • Claude编写超80%的生产代码;AI接近自我改进。
  • Anthropic提议全球暂停前沿AI,但单方面减速可能丧失领先地位。

KeyAudit 数据视角

📊 KeyAudit data: Sui historical leak records: 682487

← 回到列表