首页 / 财经 / 亚马逊报告AI模型安全风险 Anthropic两款模型遭全球停用

亚马逊报告AI模型安全风险 Anthropic两款模型遭全球停用

摸鱼不慌
摸鱼不慌管理员
0

6月14日，人工智能公司Anthropic在全球范围内停用了其两款AI模型。多家媒体报道指出，这一事件与亚马逊首席执行官安迪·贾西向美国官员报告的安全担忧直接相关。

模型安全隐患触发政府管制

据《华尔街日报》报道，贾西向美国财政部长斯科特·贝森特及其他政府官员反映，亚马逊研究人员在使用Anthropic的Claude Fable 5模型时，发现其可被用于获取与网络攻击相关的信息。所谓“出口管制禁令”，通常指政府为管控商品或技术流向海外而颁布的法令，在此事件中则被应用于特定的AI模型。此举意味着这些模型将被限制在全球范围内的自由流通和使用。

亚马逊方面拒绝分享与政府讨论的细节，但证实其云服务部门AWS也受到了此次模型停用的影响。

关键沟通细节与公司回应

美国总统特朗普的前人工智能事务主管、现任总统科学技术顾问委员会联合主席戴维·萨克斯透露了更多沟通细节。他表示，一家受Anthropic与美国政府高度信任的合作方，发现了模型存在“越狱漏洞”。萨克斯补充说，尽管美国政府要求Anthropic首席执行官达里奥·阿莫迪修复漏洞或下架模型，但阿莫迪拒绝了这一要求。

The Information与路透社的报道均提及，作为Anthropic的主要投资方，亚马逊此前已就其AI模型存在的安全隐患提出过担忧。

Anthropic指涉风险普遍存在

针对此次事件，Anthropic在其官方博客文章中作出了回应。公司方面表示，引发美方担忧的相关功能，在其他多款公开可用的AI模型中早已存在。这一回应暗示，模型存在的某些风险在行业内可能具有一定普遍性，而非其个别问题。

本文由 摸鱼不慌 发布，转载请注明出处。
文章链接：https://www.moyubuhuang.com/caijing/202606/8479.html
0

相关文章