मुख्य जानकारी
Circuit Breaker Labs का लक्ष्य विभिन्न भाषाओं और संस्कृतियों में आर्टिफिशियल इंटेलिजेंस को सुरक्षित बनाना है, और यह TechCrunch के 2026 स्टार्टअप बैटलफील्ड 200 में फाइनलिस्ट के रूप में काम कर रहा है। इस उद्यम की स्थापना भाई-बहन शिराली और अरुल निगम ने की थी, जो CTO के रूप में कार्य करते हैं, और यह उन त्रासदियों से प्रेरित था जिनमें युवा उपयोगकर्ताओं ने बॉट्स के साथ अस्वास्थ्यकर लगाव विकसित कर लिया था।
स्टार्टअप ने ऐसे AI एजेंट विकसित किए जो क्रैश-टेस्ट डमी की तरह काम करते हैं। ये स्वचालित सिमुलेटर विभिन्न आयु, सांस्कृतिक पृष्ठभूमि, भाषाओं और जनसांख्यिकी के व्यक्तियों का प्रतिनिधित्व करते हैं ताकि यह मूल्यांकन किया जा सके कि मॉडल खतरनाक या मनोवैज्ञानिक रूप से हानिकारक आदान-प्रदानों को कितनी अच्छी तरह पहचानते हैं।
मानव डोमेन विशेषज्ञों के सहयोग से, Circuit Breaker Labs प्रतिकूल रेड-टीम परीक्षण करता है जिसमें वास्तविक मानवीय बातचीत की आदतें, टाइपो, स्लैंग और कोडित वाक्यांश शामिल होते हैं। कंपनी ऑडिट योग्य और व्याख्या योग्य मेट्रिक्स उत्पन्न करने के लिए एक मालिकाना स्कोरिंग सिस्टम का उपयोग करके प्रतिदिन हजारों से लेकर लाखों सिम्युलेटेड इंटरैक्शन करती है।
वर्तमान में जर्नलिंग, कोचिंग और मानसिक स्वास्थ्य सॉफ्टवेयर जैसे उच्च-जोखिम वाले अनुप्रयोगों के लिए सुरक्षा परीक्षण प्रयोगशाला के रूप में कार्य कर रहा यह शुरुआती चरण का स्टार्टअप पांच लोगों को रोजगार देता है और आर्टिफिशियल इंटेलिजेंस प्रौद्योगिकियों में जनता का विश्वास बनाने का इरादा रखता है।
