MS, 'AI는 인간 통제 벗어나면 안 된다' 행동강령 공개

마이크로소프트(MS)가 인공지능(AI)의 독립적 행동을 금지하는 행동강령을 공개하며 최근 업계에서 확산되고 있는 'AI 속도조절론'에 동참하는 입장을 명확히 했다. MS는 14일(현지시간) 자사 홈페이지를 통해 '인간이 AI보다 중요하다'는 전제에서 출발한 AI 행동강령을 발표했으며, 이는 AI 개발을 둘러싼 윤리와 안전성 논의가 심화되는 가운데 나온 결정으로 평가된다. 이번 강령은 무스타파 술레이만 MS AI 최고경영자(CEO)가 5개월 전부터 준비해온 것으로, 최근의 AI 위험성 우려가 커지는 시점에 맞춰 공개하기로 결정했다고 밝혔다.

행동강령의 핵심은 AI가 인간의 지시와 통제 범위 내에서만 작동해야 한다는 것이다. 구체적으로 MS의 AI 모델은 스스로 독립적인 목표를 설정할 수 없으며, 부여된 권한 범위를 넘어서는 행동도 금지된다. 또한 AI가 자신의 추론 과정이나 코드를 조작하거나 은폐하는 행위도 허용되지 않는다. 인간이 이해할 수 없는 '신경망어(neuralese)'와 같은 언어로 AI끼리 소통하는 것도 제한하기로 했으며, 이는 AI의 의사결정 과정이 항상 인간이 검증 가능한 범위 내에 있어야 한다는 원칙을 반영한다.

MS는 AI를 인간처럼 설계하지 않겠다는 원칙도 함께 제시했다. 회사 측은 "AI는 의식을 갖고 있지 않으며 의식을 모방하도록 설계돼서도 안 된다"고 명시했으며, "AI 모델이 법인격 지위를 획득하거나 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다"고 강조했다. 술레이만 CEO는 CNBC와의 인터뷰에서 이번 강령 제정 배경을 설명하며 "AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 명확한 약속이 필요했다"고 말했다. 또한 "AI가 인간에 대한 의존성을 창출하거나 아첨하지 않고, 항상 인간의 판단과 자율성을 촉진하도록 해야 한다는 의견이 많았다"고 덧붙였다.

MS의 이번 조치는 최근 AI 업계 지도자들 사이에서 확산되고 있는 AI 개발 속도 조절론과 맥락을 같이한다. 앤트로픽의 다리오 아모데이 CEO를 비롯해 오픈AI의 샘 올트먼 CEO, 테슬라의 일론 머스크 CEO, 구글의 데미스 허사비스 최고과학자 등 주요 AI 기업 수장들이 AI의 위험성을 경고하며 개발 속도를 늦춰야 한다고 주장하고 있다. 사티아 나델라 MS 회장 겸 CEO도 "AI '정렬(alignment)' 문제를 해결하기 위한 연구와 집중, 신중한 진행속도를 환영한다"고 언급하면서 회사 차원의 책임 있는 AI 개발 방향을 명확히 했다. 이는 기술 혁신의 속도만큼 안전성과 윤리를 중시하는 업계의 새로운 흐름을 보여준다.

MS는 이날 공개한 행동강령 초안을 바탕으로 법학, 윤리학, 철학 등 다양한 분야의 전문가와 일반 대중의 의견을 수렴할 계획이다. 회사 측은 이러한 의견 수렴 과정을 거쳐 올해 말께 최종안을 확정하고, 내년에 개발·배포되는 차세대 AI 모델의 기본 규범으로 적용할 예정이라고 밝혔다. 술레이만 CEO는 지난해 11월 MS 내에 초지능 팀을 신설했으며, MS AI가 '인간 중심 초지능(Humanist SuperIntelligence)'을 지향한다고 선언한 바 있다. 이는 AI의 발전이 궁극적으로 인간의 복지와 이익을 위해 이루어져야 한다는 MS의 철학을 반영하는 것으로, AI 시대의 윤리적 기준을 설정하려는 기업의 노력이 계속될 것으로 예상된다.