要点
AnthropicによるAI安全性法案の機密草案が米国の議員らに提示されました。
報道によると、この提案は、AIモデルが10億ドル以上の損害、または50人以上の死亡や重傷を引き起こす予見可能かつ差し迫ったリスクをもたらす場合にのみ、政府が介入すべきであると示唆しています。 この草案では、これらの高い閾値は、サイバー攻撃、生物兵器の開発、またはモデルが開発者の内部統制を回避することに成功した場合に生じるリスクに具体的に適用されると明記されています。
Anthropicの広報担当者は、これらの措置は同社が6月から州および連邦政府の当局者に推進してきた「高度AIフレームワーク（Advanced AI Framework）」と一致するものであると述べました。 同社はこれらを議会が採用すべき賢明な政策であると位置づけています。
批判者は、このような規制はテック企業がコンプライアンスを遵守しているように見せかけながら、実際には自社の条件で運営を制限することを可能にする可能性があると主張しています。 一部の観察者は、これらの提案は壊滅的な結果への恐怖を利用して自主規制を促進するものであり、現在のAI技術によって引き起こされている既存の害を無視している可能性があると指摘しています。
