Thông tin chính
Circuit Breaker Labs đặt mục tiêu làm cho trí tuệ nhân tạo trở nên an toàn hơn trên nhiều ngôn ngữ và nền văn hóa khác nhau, hoạt động với tư cách là đơn vị lọt vào vòng chung kết tại Startup Battlefield 200 năm 2026 của TechCrunch. Doanh nghiệp này được thành lập bởi hai anh em Shirali và Arul Nigam, người giữ chức vụ CTO, và được thúc đẩy bởi những bi kịch liên quan đến những người dùng trẻ tuổi phát triển sự gắn bó không lành mạnh với các bot.
Startup này đã phát triển các tác nhân AI hoạt động tương tự như các hình nhân thử nghiệm va chạm. Các trình mô phỏng tự động này đại diện cho các cá nhân ở nhiều độ tuổi, nền tảng văn hóa, ngôn ngữ và nhân khẩu học khác nhau để đánh giá mức độ hiệu quả của các mô hình trong việc phát hiện các trao đổi nguy hiểm hoặc gây tổn hại về mặt tâm lý.
Phối hợp với các chuyên gia con người trong lĩnh vực này, Circuit Breaker Labs thực hiện các bài kiểm tra red-team đối kháng kết hợp các thói quen trò chuyện thực tế của con người, lỗi đánh máy, tiếng lóng và các cụm từ được mã hóa. Công ty thực hiện hàng chục nghìn đến hàng trăm nghìn tương tác mô phỏng mỗi ngày bằng cách sử dụng hệ thống chấm điểm độc quyền để tạo ra các số liệu có thể kiểm toán và giải thích được.
Hiện đang hoạt động như một phòng thí nghiệm kiểm tra an toàn cho các ứng dụng có rủi ro cao như phần mềm viết nhật ký, huấn luyện và sức khỏe tâm thần, startup giai đoạn đầu này có năm nhân viên và dự định xây dựng niềm tin của công chúng vào các công nghệ trí tuệ nhân tạo.
