要点
Circuit Breaker Labsは、TechCrunchの「Startup Battlefield 200」2026年大会のファイナリストとして活動しており、さまざまな言語や文化において人工知能をより安全にすることを目指しています。同社はShirali Nigam氏とCTOを務めるArul Nigam氏の兄妹によって設立され、若いユーザーがボットに対して不健全な愛着を抱いてしまうという悲劇的な出来事が設立の動機となりました。
同スタートアップは、衝突試験用ダミー人形のように機能するAIエージェントを開発しました。これらの自動化されたシミュレーターは、さまざまな年齢、文化的背景、言語、人口統計学的属性を持つ個人を表現し、モデルが危険なやり取りや心理的に有害なやり取りをどれだけうまく検知できるかを評価します。
Circuit Breaker Labsは、人間のドメインエキスパートと協力し、実際の人間が使う会話の癖、誤字、スラング、隠語などを取り入れた敵対的レッドチームテストを実施しています。同社は独自のスコアリングシステムを利用して、毎日数万から数十万件のシミュレーション対話を行い、監査可能で説明可能な指標を生成しています。
現在、ジャーナリング、コーチング、メンタルヘルスソフトウェアといった高リスクなアプリケーション向けの安全性テストラボとして機能しているこの初期段階のスタートアップは、5名の従業員を擁し、人工知能技術に対する社会的な信頼を築くことを目指しています。
