AI 통제 불가능 위험 10%로 평가…오픈AI 이사 경고
오픈AI 재단 이사가 인공지능이 1년 내 인간 통제를 벗어날 위험을 10%로 평가했다. 이는 9월의 4% 평가에서 급상향된 것으로, AI의 자기 개선 기술 발전이 원인이다. 전문가는 6개월 내 대규모 인명 피해나 정부 전복 가능성도 경고했다.

오픈AI의 지배구조를 담당하는 재단의 이사가 인공지능이 향후 1년 내에 인간의 통제를 벗어나 심각한 재앙을 초래할 위험을 10%로 평가했다. 이는 불과 수개월 전의 4% 평가에서 크게 상향된 수치로, AI 기술의 급속한 발전이 예상보다 빠르게 진행되고 있음을 시사한다. 폴 크리스티아노 오픈AI 재단 이사는 지난 16일 공개된 기술 전문 팟캐스트와의 인터뷰에서 이같은 위험 평가를 제시했으며, AI 안전성 분야의 전문가로서의 우려를 직접 표현했다.
크리스티아노 이사의 경고는 매우 구체적이다. 그는 "앞으로 6개월 안에 AI로 인해 매우 많은 사람이 목숨을 잃거나 정부가 전복되는 재앙이 발생할 가능성이 상당히 있다"고 지적했다. 이는 단순한 기술적 우려를 넘어 사회 전체에 미칠 수 있는 구체적인 피해를 언급한 것으로, AI 발전의 속도와 통제 불가능성에 대한 깊은 우려를 드러낸다. 다만 그는 이러한 상황이 실제로 벌어질지 여부는 앞으로 AI 기술이 얼마나 빠르게 발전하느냐에 달려 있다고 설명하면서, 기술 발전 속도가 위험 수준을 결정하는 핵심 변수임을 강조했다.
특히 주목할 점은 크리스티아노 이사의 위험 평가가 단 수개월 사이에 급격히 상향되었다는 사실이다. 그는 지난 9월 오픈AI 재단 이사회에 합류하면서 공개한 글에서 향후 1년 내 AI 통제 불가능으로 인한 재앙 위험을 약 4%로 평가했다. 그러나 최근 AI 모델의 발전 속도가 예상을 크게 초과하면서 위험 평가를 2.5배 이상 상향 조정한 것이다. 이러한 급격한 상향 조정은 AI 기술 발전의 가속화가 얼마나 빠른지, 그리고 전문가들의 우려가 얼마나 심각한지를 보여주는 강력한 신호다.
크리스티아노 이사가 특히 주목한 기술은 '재귀적 자기 개선'이다. 이는 AI가 인간 개발자의 개입에만 의존하지 않고 스스로 자신의 성능을 지속적으로 개선하는 과정을 반복하는 기술을 의미한다. 구체적으로는 AI가 더 뛰어난 AI를 만드는 데 기여하고, 이렇게 개선된 AI가 다시 다음 단계의 성능 향상을 이끄는 방식으로 작동한다. 크리스티아노 이사는 이 기술이 AI의 능력을 기하급수적으로 높일 수 있다고 평가하면서, 동시에 인간이 AI의 행동을 충분히 이해하거나 통제하기 어려워질 위험이 급증할 수 있다고 경고했다. 이는 기술 발전의 속도가 안전 대책의 속도를 앞서갈 수 있다는 우려를 반영한다.
크리스티아노 이사는 AI 안전성 분야에서 오랫동안 연구해 온 전문가다. 현재 미국 캘리포니아주 버클리에 본부를 둔 비영리 연구기관 '얼라인먼트 리서치 센터(ARC)'를 이끌고 있으며, 이 기관은 AI가 인간의 의도와 목표에 맞게 행동하도록 만드는 'AI 정렬(Alignment)' 문제를 집중 연구하고 있다. 지난 9월 오픈AI 재단 이사회에 합류한 것은 AI 안전성 연구자가 오픈AI의 핵심 지배구조에 직접 참여하기 시작했다는 점에서 산업 내에서도 주목할 만한 움직임이다. 다만 크리스티아노 이사는 이번 발언이 오픈AI 이사회의 공식 입장을 대변하는 것은 아니며, 개인 자격으로 발언하는 것임을 명확히 했다.
그의 경고는 기업들이 AI 개발 과정에서 위험을 줄이기 위한 예방 조치를 강화해야 한다는 메시지를 담고 있다. 크리스티아노 이사는 기업들이 충분한 안전 대책을 마련하지 않는다면 AI 통제 불가능 위험이 현재의 10%보다 훨씬 높아질 수 있다고 경고했다. 이는 단순히 기술적 우려를 넘어 산업 전체에 대한 책임 있는 개발을 촉구하는 메시지로 해석된다. AI 기술의 급속한 발전 속도 속에서 안전성 논의가 얼마나 중요한지, 그리고 전문가들의 우려가 얼마나 절실한지를 보여주는 대목이다.
