要点
マイクロソフトのブラッド・スミス社長は最近、人工知能（AI）が現在、洗濯機や牛乳といった一般的な家庭用品よりも少ない安全規制しか受けていないと主張しました。BBCのポッドキャスト「Big Boss」に出演したスミス氏は、食品や公共サービスに対する既存の監視体制の方が現在のAIガバナンスよりも厳格であると指摘し、世界的な安全基準の策定を提唱しました。
スミス氏は、悪意のあるAIエージェントによってシステムが侵害された場合に被害者に通知することを義務付ける法的要件など、いくつかの具体的な安全対策を提案しました。また、自律型システムには安全ブレーキを搭載し、一般公開前に外部評価者によるテストを受けるべきだと示唆し、AIをツールであると同時に潜在的な武器でもあると位置づけました。
これらの提言は、技術的優位性の維持を重視する現在の米国政府の方針とは対照的です。トランプ大統領がAI開発を促進するための大統領令を発令した一方で、スミス氏は英国が2023年に設立したAI安全研究所（AI Security Institute）を国家主導の安全監視のポジティブなモデルとして挙げ、英国がリーダーシップを発揮することに期待を寄せています。
Anthropicのダリオ・アモデイ氏を含む他の業界リーダーたちも、開発スピードの抑制と独立した安全検証を求めてきました。GoogleやNvidiaといった大手企業は、ホワイトハウスの超知能に関する合意に基づき監査機関と協力することに同意していますが、スミス氏は、自主規制だけでは責任感の低い企業がもたらすリスクに対処するには不十分である可能性があると警告し、慎重な姿勢を崩していません。
