何千人ものユーザーが、背後に誰が潜んでいるかも考えずに、AIにプライベートなことを打ち明け、見せている。受け取った内容に恐怖を感じている人間もいる

要点

404 Mediaがまとめた内部文書や従業員間の議論によると、Microsoft Copilotのようなプラットフォームでは、AIが正しく機能しているかを確認するために、生身の人間がやり取りをレビューしていることが明らかになった。

レビュー担当者は、画面に表示される内容に戦慄していると報じられている。 作業員は、身体や衣服の加工、性的な写真、同意なしに作成された加工画像などを含むリクエストを目にしている。

スタッフは、この仕事が非常に困難であると指摘している。

彼らには通常、特定のリクエストをブロックする権限はなく、検閲なしでオリジナル画像と加工後の画像を比較し、システムが指示通りに機能したかどうかを確認することに集中している。 これらのサービスの利用規約には、対話がやり取りの過程で自動および手動のレビューを受ける可能性があることが明記されており、この監視がセキュリティアラートのみに限定されるものではないことが明確にされている。

詳しい内容は原文をご確認ください。