Informasi penting
Circuit Breaker Labs bertujuan untuk membuat kecerdasan buatan lebih aman di berbagai bahasa dan budaya, beroperasi sebagai finalis di Startup Battlefield 200 TechCrunch tahun 2026. Perusahaan ini didirikan oleh kakak beradik Shirali dan Arul Nigam, yang menjabat sebagai CTO, dan termotivasi oleh tragedi yang melibatkan pengguna muda yang mengembangkan keterikatan yang tidak sehat pada bot.
Startup ini mengembangkan agen AI yang berfungsi mirip dengan boneka uji tabrak (crash-test dummies). Simulator otomatis ini mewakili individu dari berbagai usia, latar belakang budaya, bahasa, dan demografi untuk mengevaluasi seberapa baik model mendeteksi pertukaran yang berbahaya atau merusak secara psikologis.
Bekerja sama dengan pakar domain manusia, Circuit Breaker Labs menjalankan tes red-team adversarial yang menggabungkan kebiasaan percakapan manusia yang asli, kesalahan ketik, bahasa gaul, dan frasa berkode. Perusahaan melakukan puluhan ribu hingga ratusan ribu simulasi interaksi setiap hari menggunakan sistem penilaian eksklusif untuk menghasilkan metrik yang dapat diaudit dan dijelaskan.
Saat ini berfungsi sebagai laboratorium pengujian keamanan untuk aplikasi berisiko tinggi seperti perangkat lunak penjurnalan, pelatihan, dan kesehatan mental, startup tahap awal ini mempekerjakan lima orang dan bermaksud untuk membangun kepercayaan publik terhadap teknologi kecerdasan buatan.
