Wichtige Informationen
Circuit Breaker Labs hat sich zum Ziel gesetzt, künstliche Intelligenz über verschiedene Sprachen und Kulturen hinweg sicherer zu machen, und ist als Finalist beim TechCrunch Startup Battlefield 200 im Jahr 2026 tätig. Das Unternehmen wurde von den Geschwistern Shirali und Arul Nigam, der als CTO fungiert, gegründet und wurde durch Tragödien motiviert, bei denen junge Nutzer ungesunde Bindungen zu Bots entwickelten.
Das Startup entwickelte KI-Agenten, die ähnlich wie Crashtest-Dummys funktionieren. Diese automatisierten Simulatoren repräsentieren Individuen unterschiedlichen Alters, kulturellen Hintergrunds, unterschiedlicher Sprachen und demografischer Merkmale, um zu bewerten, wie gut Modelle gefährliche oder psychologisch schädliche Interaktionen erkennen.
In Zusammenarbeit mit menschlichen Fachexperten führt Circuit Breaker Labs gegnerische Red-Team-Tests durch, die echte menschliche Konversationsgewohnheiten, Tippfehler, Slang und kodierte Formulierungen einbeziehen. Das Unternehmen führt täglich zehntausende bis hunderttausende simulierte Interaktionen durch und nutzt ein proprietäres Bewertungssystem, um prüfbare und erklärbare Metriken zu generieren.
Das Startup befindet sich in einer frühen Phase, fungiert derzeit als Sicherheitstestlabor für risikoreiche Anwendungen wie Journaling-, Coaching- und psychologische Gesundheitssoftware, beschäftigt fünf Mitarbeiter und beabsichtigt, das öffentliche Vertrauen in Technologien der künstlichen Intelligenz zu stärken.
