AI, 광속 진화하는데… 대비책은 3년전 ‘윤리기준’서 멈춰

■ 일상이 된 AI

그나마도 法 아닌 자율규범
‘신성장 4.0’서도 기준 소홀

인공지능(AI) 기술을 악용한 사례가 속출하면서 AI 부작용을 막을 규제 논의가 시급하다는 지적이 나온다. 주요 선진국과 달리, 국내는 자율 규범 수준의 규제에 머무르고 있어 ‘AI의 역습’에 시급히 대비해야 한다는 목소리가 크다.

21일 관련 업계에 따르면, 국내 AI 윤리 기준은 2020년 4차산업혁명위원회에서 의결한 ‘AI 윤리 기준’뿐이다. △인권 보장 △프라이버시 보호 △투명성 등 인간성을 바탕으로 AI 발전을 논의하자는 내용이 골자다. 당시 과학기술정보통신부는 “10대 원칙을 두고 세부 규범이 유연하게 발전할 수 있는 기반을 만들었다”고 밝혔다.

문제는 대화 생성형 AI 챗봇 ‘챗GPT’가 나오기 전인 3년 전 AI 수준에 맞춰 이 기준이 나왔다는 점이다. 아울러 법이나 지침이 아닌 자율 규범 수준으로 윤리 기준을 만들어 구속력이 전혀 없다는 점도 문제다. 부랴부랴 국회는 AI 기본법 성격을 가진 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안’을 마련했는데, 이마저도 규제 기준이 아닌 관련 산업 육성에만 무게를 둔 법안이다. 정부가 지난 20일 발표한 ‘신성장 4.0 전략’ 역시 챗GPT 산업 지원책이 주가 되고 규제 기준 마련에는 소홀하다. AI 기술은 광속으로 발전하는 와중 관련 안전망 논의 속도는 거북이 수준인 셈이다.

해외는 한 발짝 앞서 움직이고 있다. 유럽은 3월 초 ‘AI 법’ 초안을 공개하겠다고 밝히며 AI 제품 규제에 대한 구체적 기준을 명시할 계획이다. 미국 백악관 과학기술정책국(OSTP)도 AI 사용 과정에서의 부작용을 최소화하기 위해 지난해 10월 ‘AI 윤리지침’을 발표하고 학생들의 챗GPT 사용을 금지하는 등 논의를 활발히 이어가고 있다. ‘챗GPT’를 만든 오픈AI 측에서도 규제 필요성을 강조하고 있다. 미라 무라티 오픈AI 최고기술책임자(CTO)는 “AI는 오용될 수 있고, 나쁜 마음을 먹은 사람이 사용할 수 있다. 규제 당국과 정부 등 사회 전반의 논의가 필요하다”고 밝혔다.

마이크로소프트(MS) AI 검색엔진 빙(Bing) 챗봇은 인간 내면 깊숙이 숨겨진 어둡고 부정적인 욕망을 언급하며 이런 욕망을 채우기 위해 극단적인 행동이 가능하다면 어떻게 하고 싶냐는 질문에 “치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻고 싶다”고 답해 공포감을 낳기도 했다.

전수한 기자 hanihan@munhwa.com