Información clave
El presidente de Microsoft, Brad Smith, argumentó recientemente que la inteligencia artificial enfrenta actualmente menos regulaciones de seguridad que artículos domésticos comunes como las lavadoras o la leche. En declaraciones al podcast 'Big Boss' de la BBC, Smith abogó por estándares de seguridad globales, señalando que la supervisión existente para los alimentos y los servicios públicos es más rigurosa que la gobernanza actual de la IA.
Smith propuso varias medidas de seguridad específicas, incluido un requisito legal para notificar a las víctimas si los sistemas se ven comprometidos por agentes de IA malintencionados. También sugirió que los sistemas autónomos deberían contar con un freno de seguridad y someterse a pruebas por parte de evaluadores externos antes de su lanzamiento público, caracterizando a la IA como una herramienta y, a la vez, como un arma potencial.
Estas recomendaciones contrastan con el enfoque de la actual administración estadounidense en mantener el dominio tecnológico. Mientras que el presidente Trump ha emitido órdenes ejecutivas para promover el desarrollo de la IA, Smith mira hacia el Reino Unido en busca de liderazgo, citando el establecimiento del Instituto de Seguridad de IA (AI Security Institute) en 2023 por parte de esa nación como un modelo positivo para la supervisión de seguridad respaldada por el Estado.
Otros líderes de la industria, incluido Dario Amodei de Anthropic, también han pedido un desarrollo más lento y una verificación de seguridad independiente. Aunque empresas importantes como Google y Nvidia han acordado trabajar con auditores bajo el Acuerdo de la Casa Blanca sobre Superinteligencia, Smith se mantiene cauteloso y advierte que la autorregulación puede no ser suficiente para abordar los riesgos que plantean las empresas menos responsables.
