快訊 > 快訊詳情
2026-09-21 22:03:08
【OpenAI與Anthropic曾磋商互測AI模型安全】
⑴ 據The Information報道,知情人士透露,早在OpenAI技術引發一系列網絡安全事件以及業內人士發出嚴厲警告之前,該公司就已與Anthropic就一項具有法律約束力的協議進行談判,雙方將互相進行AI模型壓力測試。
⑵ 目前尚不清楚雙方是否已最終達成協議。
⑶ 這種相互測試的思路與SpaceX首席執行官馬斯克上週在All-In峯會上提出的想法類似,馬斯克當時提議相互競爭的AI實驗室應在將模型商業化發佈之前,以同行評審形式測試彼此模型的安全漏洞。
⑷ 整體來看,頭部AI公司探索互測機制,反映行業對模型安全風險的擔憂上升,後續需關注相關協議能否落地以及同行評審模式是否成為AI安全治理的常態安排
⑴ 據The Information報道,知情人士透露,早在OpenAI技術引發一系列網絡安全事件以及業內人士發出嚴厲警告之前,該公司就已與Anthropic就一項具有法律約束力的協議進行談判,雙方將互相進行AI模型壓力測試。
⑵ 目前尚不清楚雙方是否已最終達成協議。
⑶ 這種相互測試的思路與SpaceX首席執行官馬斯克上週在All-In峯會上提出的想法類似,馬斯克當時提議相互競爭的AI實驗室應在將模型商業化發佈之前,以同行評審形式測試彼此模型的安全漏洞。
⑷ 整體來看,頭部AI公司探索互測機制,反映行業對模型安全風險的擔憂上升,後續需關注相關協議能否落地以及同行評審模式是否成為AI安全治理的常態安排