핵심 정보
서킷 브레이커 랩스는 다양한 문화와 언어에서 인공지능을 더 안전하게 만드는 것을 목표로 하며, 테크크런치의 2026 스타트업 배틀필드 200 결선 진출 기업 중 하나다. 이 기업은 남매인 CEO 시랄리 니감과 CTO 아루ล 니감이 공동 창업했으며, 챗봇과 관련된 비극적 사건들로부터 동기를 얻었다.
이 스타트업은 크래시 테스트 더미와 유사한 AI 에이전트를 생성했다. 이 시뮬레이터들은 다양한 연령, 문화적 배경, 언어 및 인구 통계의 사용자들을 모방하여 모델들이 위험하고 심리적으로 유해한 상호작용을 감지하는 능력을 테스트하는 데 사용된다.
인간 도메인 전문가들과 협력하여 실제 사람들의 대화 패턴, 은어, 오타 등을 반영한 적대적 레드팀 테스트를 진행한다. 하루에 수만 건에서 수십만 건의 시뮬레이션 상호작용을 실행하며 독자적인 채점 방식을 통해 감사 가능하고 설명 가능한 점수를 산출한다.
현재 정신 건강 지원, 일기 쓰기, 코칭 등 고위험 인공지능 애플리케이션을 위한 안전 테스트 랩으로 운영되고 있으며, 창업자 남매를 포함해 5명의 직원을 둔 초기 단계의 기업이다.
