핵심 정보
Anthropic의 기밀 AI 안전 법안 초안이 미국 의원들에게 제출되었습니다.
보도에 따르면, 이 제안은 AI 모델이 10억 달러 이상의 피해를 입히거나 50명 이상의 사망 또는 심각한 부상을 초래할 예견 가능하고 임박한 위험을 제시할 경우에만 정부가 개입해야 한다고 제안합니다. 이 초안은 이러한 고위험 임계값이 사이버 공격, 생물학적 무기 개발, 또는 모델이 개발자의 내부 통제를 성공적으로 우회하는 경우에서 발생하는 위험에 구체적으로 적용된다고 명시합니다.
Anthropic 대변인은 이러한 조치가 6월부터 주 및 연방 공무원들에게 홍보해 온 회사의 '고급 AI 프레임워크(Advanced AI Framework)'와 일치한다고 밝혔습니다. 회사는 이를 의회가 채택해야 할 합리적인 정책으로 규정하고 있습니다.
비평가들은 이러한 규제가 기술 기업들이 규정을 준수하는 것처럼 보이게 하면서 실제로는 자신들의 조건에 따라 운영을 제한할 수 있다고 주장합니다. 일부 관찰자들은 이러한 제안이 파국적인 결과에 대한 두려움을 이용하여 자율 규제를 촉진하고, 현재 AI 기술로 인해 발생하는 기존의 피해를 잠재적으로 무시하고 있다고 지적합니다.
