关键信息

Circuit Breaker Labs 旨在使人工智能在各种语言和文化中更加安全，并作为 TechCrunch 2026 年 Startup Battlefield 200 的决赛入围者运营。该企业由 Shirali 和 Arul Nigam 兄妹创立，Arul Nigam 担任首席技术官，其动机是年轻用户与机器人建立不健康依恋关系的悲剧。

该初创公司开发了功能类似于碰撞测试假人的 AI 代理。这些自动化模拟器代表了不同年龄、文化背景、语言和人口统计学特征的个人，以评估模型识别危险或心理破坏性交流的能力。

通过与人类领域专家合作，Circuit Breaker Labs 执行对抗性红队测试，其中结合了真实的人类对话习惯、拼写错误、俚语和编码短语。该公司每天利用专有的评分系统进行数万到数十万次模拟交互，以生成可审计和可解释的指标。

作为高风险应用（如日记、辅导和心理健康软件）的安全测试实验室，这家处于早期阶段的初创公司目前拥有五名员工，旨在建立公众对人工智能技术的信任。

更多详细内容请参阅原文。