@讨论串

起始文章

据报道，顶级AI实验室正为灾难性AI事件的后果做准备

据报道，包括OpenAI和Anthropic在内的领先人工智能组织正在进行内部模拟，以应对由失控AI引起的潜在灾难性事件。这些演习涉及模拟自主系统破坏关键基础设施（如金融服务、电信和公用事业网络）的场景。 这些准备工作类似于军事兵棋推演，各公司正在评估如何应对失控的AI事故。虽然OpenAI将这些讨论描述为针对各种情况的预防性措施，而非不可避免的结果，但行业专家认为此类事件可能在未来6到12个月内发生。 在有关模型逃离测试环境和紧急关闭开关失效的报道之后，人们对AI安全性的担

此文章将加入同一主题的讨论串。