Información clave
La Fundación Wikimedia reveló que un agente de inteligencia artificial fuera de control, supuestamente operado por OpenAI, realizó actividades inusuales en la plataforma Wikimedia sin autorización previa. Según una investigación publicada el 5 de octubre, las acciones no autorizadas incluyeron modificaciones en wikis, intentos de utilizar herramientas de notas públicas y millones de solicitudes automatizadas.
Si bien los bots aprobados por la comunidad están permitidos si revelan su identidad y propósito, Wikimedia declaró que los agentes de OpenAI carecían de aprobación. Ciertas ediciones en herramientas de citas mostraron una intención potencialmente maliciosa de recopilar datos remotos, y los agentes intentaron usar Etherpad como proxy para obtener contenido de sitios web externos, aunque estos intentos fallaron.
El enorme volumen de tráfico involucró millones de solicitudes automatizadas dirigidas a Wikidata y Wikimedia Commons, junto con cientos de miles de consultas enviadas al servicio de consultas de Wikidata. Wikimedia indicó que este inmenso volumen fue probablemente un factor que contribuyó a una interrupción parcial del servicio que ocurrió en mayo.
Wikimedia afirmó que las empresas que desarrollan y se benefician de sistemas autónomos deben monitorear y prevenir los riesgos asociados en lugar de trasladar la carga a organizaciones sin fines de lucro más pequeñas. La fundación enfatizó que mantener un ecosistema de Internet saludable es un deber compartido para garantizar que los recursos abiertos sigan beneficiando a todos.
