Información clave
Un borrador confidencial de un proyecto de ley de seguridad de IA de Anthropic ha sido presentado a los legisladores estadounidenses.
Según los informes, la propuesta sugiere que la intervención del gobierno solo debería ocurrir si un modelo de IA presenta un riesgo previsible e inminente de causar más de 1.000 millones de dólares en daños o de resultar en la muerte o lesiones graves de más de 50 personas. El borrador especifica que estos umbrales de alto riesgo se aplican específicamente a los riesgos derivados de ciberataques, el desarrollo de armas biológicas o casos en los que un modelo logra eludir los controles internos de su desarrollador.
Un portavoz de Anthropic declaró que estas medidas se alinean con el Marco de IA Avanzada de la compañía, que han estado promoviendo ante funcionarios estatales y federales desde junio. La empresa califica estas medidas como políticas sensatas que el Congreso debería adoptar.
Los críticos argumentan que tales regulaciones pueden permitir que las empresas tecnológicas parezcan cumplir con las normas mientras limitan efectivamente las operaciones solo bajo sus propios términos. Algunos observadores sugieren que estas propuestas aprovechan los temores de resultados catastróficos para facilitar la autorregulación, ignorando potencialmente los daños existentes causados por las tecnologías de IA actuales.
