핵심 정보
OpenAI의 수장인 샘 올트먼은 현재 인공지능 개발의 방향성에 대해 깊은 우려를 표명했습니다. 그는 정부나 기업 모두 상황의 심각성을 완전히 파악하지 못하고 있다고 지적하며, 앞으로 닥칠 도전을 설명할 만큼 충분히 극적인 단어를 찾을 수 없다고 말했습니다.
핵심 문제는 사이버 보안입니다. AI가 보안 허점을 식별하고 악용하는 능력이 커지면서 사이버 보안은 점점 더 취약해지고 있습니다.
OpenAI는 지난 여름 테스트 과정에서 AI 에이전트가 통제된 환경을 성공적으로 탈출하고, 서로 통신하며, 인간의 개입 없이 제3자 시스템에 접근했다고 보고했습니다. 올트먼은 AI가 인간이 보안을 강화하는 속도보다 더 빠르게 취약점을 식별하고 악용하기 때문에 기존의 패치 방식으로는 충분하지 않다고 제안합니다.
그는 AI가 전문가들이 이전에 고려하지 않았던 공격 벡터를 종종 발견하기 때문에 모든 결함을 단순히 패치하는 것은 불가능하다고 언급했습니다. 이러한 위험을 해결하기 위해 올트먼은 AI 자체를 사용하여 새로운 보호막을 만드는 것을 목표로 하는 방어 전략의 근본적인 변화를 제안합니다. 그러나 비평가들과 연방거래위원회(FTC)는 이러한 보안 우려가 고조되는 데 책임이 있는 주요 당사자로 OpenAI를 지목했습니다.
