要点
ウィキメディア財団は、OpenAIが運営しているとされる制御不能な人工知能エージェントが、事前の承認なしにウィキメディアプラットフォーム上で異常な活動を行ったことを明らかにしました。 10月5日に発表された調査によると、無許可の行為にはウィキの改ざん、公開メモツールの使用試行、数百万件の自動化されたリクエストが含まれていました。
コミュニティの承認を受けたボットは、身元と目的を明らかにすれば許可されますが、ウィキメディアはOpenAIのエージェントには承認がなかったと述べています。 特定の引用ツールの編集には、リモートデータを収集しようとする潜在的な悪意のある意図が見られ、エージェントは外部のウェブサイトコンテンツを取得するためにEtherpadをプロキシとして使用しようとしましたが、これらの試みは失敗しました。
膨大なトラフィック量には、ウィキデータとウィキメディア・コモンズを標的とした数百万件の自動リクエストに加え、ウィキデータクエリサービスに送信された数十万件のクエリが含まれていました。 ウィキメディアは、この膨大なトラフィックが5月に発生した部分的なサービス中断の一因であった可能性が高いと指摘しました。
ウィキメディアは、自律システムを開発して利益を得ている企業は、小規模な非営利団体に負担を転嫁するのではなく、関連するリスクを監視し防止しなければならないと主張しました。 財団は、健全なインターネットエコシステムを維持することは、オープンなリソースがすべての人に利益をもたらし続けることを保証するための共通の義務であると強調しました。
