معلومات أساسية
تهدف شركة Circuit Breaker Labs إلى جعل الذكاء الاصطناعي أكثر أماناً عبر مختلف اللغات والثقافات، وتعمل كمتأهلة للتصفيات النهائية في مسابقة Startup Battlefield 200 التابعة لـ TechCrunch لعام 2026. تأسست الشركة على يد الشقيقين شيرالي وأرول نيجام، الذي يشغل منصب المدير التقني، وكان الدافع وراء ذلك هو المآسي التي تنطوي على مستخدمين صغار السن يطورون ارتباطات غير صحية بالروبوتات.
طورت الشركة الناشئة وكلاء ذكاء اصطناعي يعملون بشكل مشابه لدمى اختبار التصادم. تمثل هذه المحاكيات الآلية أفراداً من مختلف الأعمار والخلفيات الثقافية واللغات والتركيبة السكانية لتقييم مدى جودة رصد النماذج للتبادلات الخطيرة أو الضارة نفسياً.
بالتعاون مع خبراء بشريين في هذا المجال، تنفذ Circuit Breaker Labs اختبارات الفريق الأحمر العدائية التي تدمج عادات المحادثة البشرية الحقيقية، والأخطاء المطبعية، والعامية، والعبارات المشفرة. تجري الشركة عشرات الآلاف إلى مئات الآلاف من التفاعلات المحاكاة يومياً باستخدام نظام تسجيل خاص لإنتاج مقاييس قابلة للتدقيق والتفسير.
تعمل الشركة حالياً كمختبر لاختبار السلامة للتطبيقات عالية المخاطر مثل برامج التدوين والتدريب والصحة العقلية، وتوظف الشركة الناشئة في مرحلتها المبكرة خمسة أشخاص وتعتزم بناء ثقة الجمهور في تقنيات الذكاء الاصطناعي.
