“생성형 AI 보안능력 초중급 수준… ‘공격 위협’ 늘어날 가능성 높아”

■ SK쉴더스 보안위협 간담회

민감정보 유출·딥페이크 등
AI활용 공격 전년비 49%↑

라이프 케어 플랫폼 SK쉴더스가 ‘뜨거운 감자’로 떠오른 생성형 인공지능(AI)을 겨냥한 보안 공격이 늘어날 수 있다고 경고했다.

20일 SK쉴더스가 서울 중구 SKT타워에서 ‘올해 상반기 주요 보안 트렌드와 생성형 AI 보안 위협 전망’을 주제로 진행한 간담회에서 이호석 이큐스트(EQST)랩 담당은 “생성형 AI 모델이 발전함에 따라 정확도와 활용도가 높아질 것으로 보이지만, 보안 영역에서 활용하기엔 초·중급 수준에 그치고 있다”며 이같이 지적했다. 이 담당은 “생성형 AI가 도출해 낸 결과에 의존하기보다는 보조 도구로 적절히 활용해야 할 것“이라고 권고했다.

이큐스트는 SK쉴더스의 화이트 해커 전문가 그룹으로 이번 세미나에선 상반기에 발생한 주요 해킹 사례, 업종별 침해 사고 통계, 주요 공격 시나리오 등을 소개했다. 특히, 최근 정보기술(IT)업계에서 급부상하고 있는 생성형 AI에 대한 보안 위협 경고와 함께 실제 이큐스트가 검증한 AI 활용 방안과 AI 사용 가이드를 다뤘다.

SK쉴더스에 따르면 생성형 AI의 보안 위협은 크게 AI 모델과 학습 데이터를 대상으로 공격하는 유형과 AI 활용 서비스를 악용하는 데서 발생하는 위협으로 분류된다. AI 모델을 대상으로 한 위협으로는 입력 데이터를 조작하거나 악의적인 데이터를 추가해 조작하는 공격이 있다. AI 활용 서비스를 악용한 공격으론 프롬프트 인젝션(악의적인 질문을 통해 AI 서비스에 적용된 지침 혹은 정책을 우회해서 목적 이외의 답변을 이끌어내는 공격 유형), 민감정보 유출, 악성코드 생성, 딥페이크(합성조작) 등을 꼽았다. 올해 상반기 공격 비율은 지난해 상반기 대비 약 49% 증가한 것으로 나타났다. 기업의 기밀이나 개인의 금융정보를 탈취하는 정보유출 침해 사고가 30%로 가장 많았다. 특히, 올해는 오래된 취약점을 활용한 대규모 랜섬웨어 공격이나 제로데이를 악용한 악성코드 감염사고가 증가했다.

이승주 기자 sj@munhwa.com