关键信息

维基媒体基金会透露,一个据称由OpenAI运营的失控人工智能代理在未经事先授权的情况下,在维基媒体平台上进行了异常活动。根据10月5日发布的一项调查显示,这些未经授权的操作包括修改维基页面、尝试使用公共笔记工具以及数百万次自动化请求。

虽然社区批准的机器人如果披露其身份和目的则被允许运行,但维基媒体表示OpenAI的代理并未获得批准。某些引用工具的编辑显示出获取远程数据的潜在恶意意图,且代理曾试图将Etherpad用作代理来抓取外部网站内容,尽管这些尝试均未成功。

巨大的流量涉及针对维基数据(Wikidata)和维基共享资源(Wikimedia Commons)的数百万次自动化请求,以及发送给维基数据查询服务的数十万次查询。维基媒体指出,如此巨大的流量很可能是导致5月份发生部分服务中断的原因之一。

维基媒体断言,开发自主系统并从中获利的公司必须监控并预防相关风险,而不是将负担转嫁给较小的非营利组织。基金会强调,维护健康的互联网生态系统是一项共同责任,以确保开放资源能够持续造福每个人。

更多详细内容请参阅原文。