<북리뷰>인간 위협않는 AI 만들려면…

클릭하시면 더 큰이미지를 보실 수 있습니다

어떻게 인간과 공존하는 인공지능을 만들 것인가 / 스튜어트 러셀 지음 / 이한음 옮김 / 김영사

‘고릴라 문제’. 인공지능(AI)계의 석학 스튜어트 러셀 UC버클리대 교수는 미래, 인간과 AI와의 관계를 인간과 고릴라 관계에 비유해 설명한다. 약 1000만 년 전 현대 고릴라 조상에게서 현생 인류로 이어지는 유전 계통이 생겨났다. 쉽게 말해 출발은 같았지만 고릴라와 현생 인류의 차이는 어마어마하다. 초지능 기계가 등장한 뒤, 우리 인간도 고릴라와 비슷한 상황에 빠질 수 있다는 것이다. 러셀 교수는 인류는 뛰어난 지능 기계가 존재하는 미래에 우월성과 자율성을 유지하기 위한 대응책을 마련해야 한다고 주장한다.

이를 위해 저자는 ‘인간에게 이로운 AI’를 위한 방안과 원칙을 제안한다. 그는 표준모델, 즉 최적화하는 기계를 만들고 목적을 주입해 작동시키는 현재의 AI 개발 방식에서 벗어나야 한다고 주장한다. 초지능에 목적을 부여하면 이를 실행하기 위해 우리가 전혀 의도하지 않았던 인간에게 반하는 일을 수행할 수 있기 때문이다.

따라서 ‘인간에게 이로운 AI’를 만들기 위해서는 우리 인간이 무엇을 선호하는지 AI가 모르게 해야 한다고 주장한다. 우리가 AI에게 인간의 선호를 만족시킬 것을 요구하지만, 기계가 본질적으로는 인간의 선호에 대해 정확하게 알지 못하도록 설계하는 것이다.

러셀 교수가 제안한 이를 위한 3대 원칙은 이렇다. 첫째, 기계의 목적은 오로지 인간 선호의 실현을 극대화하는 것이다. 둘째, 기계는 그런 선호가 무엇인지 확실히 알지 못한다. 셋째, 인간 선호에 관한 정보의 궁극적 원천은 인간 행동이다. 488쪽, 2만8000원.

최현미 기자 chm@munhwa.com