“핵무기 등 AI의 군사적 이용, 인간이 통제해야”

군사 AI 첫 장관급 국제회의
미국“책임있게 사용해야”선언

미국 국무부가 인공지능(AI)의 군사적 사용에 대한 포괄적 가이드라인(지침)을 담은 선언문을 16일(현지시간) 군사 AI 관련 첫 장관급 국제회의에서 공개했다. 국무부는 선언문에서 군사적 AI에 대해 “인간의 통제와 개입(Human control and involvement)을 유지”해야 하며, “AI가 의도치 않은 행동을 할 경우, 이를 비활성화(Deactivate)할 수 있도록 해야 한다”는 원칙을 명확히 했다. 미국이 군사적 AI 사용 원칙에 관한 선언문을 내놓은 것은 이번이 처음이다. AI 챗봇 ‘챗GPT’가 전 세계적 돌풍을 일으킨 가운데, AI가 ‘양날의 검’이 될 수 있다는 우려가 반영된 것으로 평가된다.

국무부는 이날 보도자료를 통해 네덜란드 헤이그에서 열린 ‘군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의’(REAIM 2023)에서 ‘AI의 책임 있는 군사적 이용과 자율성에 대한 정치적 선언’ 프레임워크를 공개했다고 밝혔다. 선언문엔 각국에 △군사적 AI 능력과 국제법을 일치시키는 데 필요한 조치를 취하고 △핵무기와 관련한 주권적 결정을 실행하는 데 필수적인 조치에 인간의 통제와 개입을 유지하며 △무기 시스템을 비롯해 모든 군사적 AI 능력의 개발 및 전개 시 고위 정부 관료의 감독을 보장할 것 등을 촉구하는 12개 항목이 담겼다.

여기에는 △군사적인 AI 시스템이 감사(Auditable)가 가능하도록 해야 하며 △수명 전반에 걸쳐 엄격한 테스트 및 평가를 받도록 해야 하고 △AI가 의도치 않은 행동을 할 경우, 비활성화 조치를 취할 수 있도록 해야 한다는 내용도 포함된다. ABC뉴스는 “미국은 군사적 AI의 책임 있는 사용에 대한 국제적 협력을 촉진하기 위한 계획을 시작했다”면서 “전쟁의 방식을 바꿀 새로운 기술에 질서를 부과하기 위한 것”이라고 설명했다. 특히 지난해 2월 시작된 우크라이나 전쟁에서 군사용 AI가 사용되며 관련 논의에 불을 붙인 것으로 평가된다.

임정환 기자 yom724@munhwa.com