ข้อมูลสำคัญ
Circuit Breaker Labs มีเป้าหมายที่จะทำให้ปัญญาประดิษฐ์มีความปลอดภัยมากขึ้นในหลากหลายภาษาและวัฒนธรรม โดยดำเนินงานในฐานะผู้เข้ารอบสุดท้ายในการแข่งขัน Startup Battlefield 200 ประจำปี 2026 ของ TechCrunch องค์กรนี้ก่อตั้งโดยพี่น้อง Shirali Nigam และ Arul Nigam ซึ่งดำรงตำแหน่ง CTO โดยได้รับแรงบันดาลใจจากโศกนาฏกรรมที่เกี่ยวข้องกับผู้ใช้งานอายุน้อยที่เกิดความผูกพันที่ไม่เหมาะสมกับบอท
สตาร์ทอัพรายนี้ได้พัฒนา AI เอเจนต์ที่ทำหน้าที่คล้ายกับหุ่นทดสอบการชน (crash-test dummies) โดยเครื่องมือจำลองอัตโนมัติเหล่านี้เป็นตัวแทนของบุคคลในหลากหลายช่วงอายุ ภูมิหลังทางวัฒนธรรม ภาษา และข้อมูลประชากร เพื่อประเมินว่าโมเดลสามารถตรวจจับการสนทนาที่เป็นอันตรายหรือสร้างความเสียหายทางจิตใจได้ดีเพียงใด
ด้วยความร่วมมือกับผู้เชี่ยวชาญที่เป็นมนุษย์ Circuit Breaker Labs ได้ดำเนินการทดสอบแบบ Red-team เชิงรุกที่รวมเอานิสัยการสนทนาจริงของมนุษย์ คำผิด คำสแลง และการใช้รหัสลับเข้ามาด้วย บริษัทดำเนินการโต้ตอบจำลองหลายหมื่นถึงหลายแสนครั้งต่อวันโดยใช้ระบบการให้คะแนนที่เป็นกรรมสิทธิ์ เพื่อสร้างตัวชี้วัดที่สามารถตรวจสอบและอธิบายได้
ปัจจุบันสตาร์ทอัพในระยะเริ่มต้นรายนี้ทำหน้าที่เป็นห้องปฏิบัติการทดสอบความปลอดภัยสำหรับแอปพลิเคชันที่มีความเสี่ยงสูง เช่น ซอฟต์แวร์บันทึกประจำวัน การโค้ช และสุขภาพจิต โดยมีพนักงาน 5 คน และตั้งใจที่จะสร้างความไว้วางใจจากสาธารณชนต่อเทคโนโลยีปัญญาประดิษฐ์
