Información clave
Circuit Breaker Labs tiene como objetivo hacer que la inteligencia artificial sea más segura en diversos idiomas y culturas, operando como finalista en el Startup Battlefield 200 de 2026 de TechCrunch. La empresa fue fundada por los hermanos Shirali y Arul Nigam, quien se desempeña como CTO, y fue motivada por tragedias que involucraron a usuarios jóvenes que desarrollaron vínculos poco saludables con bots.
La startup desarrolló agentes de IA que funcionan de manera similar a los maniquíes de prueba de choque. Estos simuladores automatizados representan a personas de diversas edades, orígenes culturales, idiomas y datos demográficos para evaluar qué tan bien detectan los modelos los intercambios peligrosos o psicológicamente dañinos.
En colaboración con expertos humanos en el dominio, Circuit Breaker Labs ejecuta pruebas de equipo rojo adversario que incorporan hábitos de conversación humanos genuinos, errores tipográficos, jerga y frases codificadas. La empresa realiza decenas de miles a cientos de miles de interacciones simuladas diarias utilizando un sistema de puntuación patentado para generar métricas auditables y explicables.
Actualmente funcionando como un laboratorio de pruebas de seguridad para aplicaciones de alto riesgo como software de diario, coaching y salud mental, la startup en etapa inicial emplea a cinco personas y tiene la intención de generar confianza pública en las tecnologías de inteligencia artificial.
