Circuit Breaker Labs 希望讓 AI 對您的孩子（以及您）更安全

重點資訊

Circuit Breaker Labs 的目標是讓人工智慧在各種語言和文化中變得更安全，該公司是 TechCrunch 2026 年 Startup Battlefield 200 的決賽入圍者。該企業由 Shirali Nigam 和擔任技術長的 Arul Nigam 兄妹共同創立，其動機源於年輕用戶對機器人產生不健康依賴的悲劇事件。

這家新創公司開發了功能類似於碰撞測試假人的 AI 代理。這些自動化模擬器代表了不同年齡、文化背景、語言和人口統計學的個人，旨在評估模型識別危險或心理傷害性對話的能力。

Circuit Breaker Labs 與人類領域專家合作，執行對抗性紅隊測試，納入真實人類的對話習慣、錯字、俚語和隱晦用語。該公司每天利用專有的評分系統進行數萬到數十萬次的模擬互動，以產生可審計且可解釋的指標。

目前，這家處於早期階段的新創公司作為日記、教練和心理健康軟體等高風險應用的安全測試實驗室，擁有五名員工，並致力於建立公眾對人工智慧技術的信任。

更多詳細內容請參閱原文。