과학기술정보통신부가 최근 챗GPT 등 생성형 인공지능(AI)을 악용한 보안 위협이 증가하고 있는 형국에 대해 대응 방안을 본격적으로 논의한다.

13일 과기정통부는 서울 송파구의 이글루코퍼레이션에서 토론회를 갖고 이 자리에서 생성형 인공지능을 악용한 보안 위협의 최신 동향을 공유하고 이를 대응하기 위한 방안을 논의했다.

챗GPT는 언어 처리 인공지능 모델을 기반으로 하는 대화형 AI 서비스로, 지난해 11월 정식 출시된 이후 약 2달 만에 월간 이용자 1억 명을 기록하는 등 전례없이 엄청난 성장세를 보이고 있다.

그러나 최근 챗GPT를 악용하여 악성코드, 랜섬웨어, 피싱 메일 제장 등 사이버 공격에도 활용될 수 있다는 우려가 높아지고 있고, 챗GPT를 이용하는 과정에서 개인정보 및 기업의 영업 기밀 정보가 유출되는 등 크고 작은 보안 문제가 제기되며 보안 대응 역량 강화 필요성이 크게 대두되고 있다.

김정희 한국인터넷진흥원(KISA) 미래정책연구실장은 “생성형 AI의 등장으로 고도의 해킹 기술이 필요한 분야로의 진입 장벽이 낮아지며 침해 사고 피해 규모도 기하급수적으로 늘어날 것”이라며 “최근에는 보안 패치가 아직 적용되지 않은 취약점을 AI가 빠르게 찾아내 공격할 우려도 커지고 있다”고 강조했다.

이어 “지금 보안 업계 상황은 AI 기울을 악용해 발생할 공격과 AI를 활용해서 방어하는 기술간의 끝없는 공방전이 일어나고 있는 형국”이라며 “국내 침해사고 대응 체계를 어떻게 유기적으로 적용해갈지 협력 네트워크가 필요하다”고 조언했다.

정일옥 이글루코퍼레이션 연구위원은 “아직 사이버 펜데믹은 오지 않았고, 오게 된다면 AI가 그 시발점이 될 것이라는 이야기가 있다”면서 “오픈AI 같은 초거대 AI 서비스 제공 업체가 해킹당할 가능성도 있다”고 우려했다.

박환석 KT 상무 역시 “생성 AI에 대한 사내 관심이 높아 마이크로소프트와 KT 전용 GPT 공간을 활용하는 방안을 협력중인데, 암호화된 기업·개인 정보를 해제해야 하는 부담이 있다”면서 “암호화된 상태로 학습시키는 방안에 대한 보안업체와 함께 고민할 것”이라고 발표했다.

박윤규 과기정통부 2차관은 “챗GPT 등 생성형 인공지능 기술은 앞으로 더 발전해 우리 일상을 폭 넓게 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”며 “갈수록 지능화·고도화되고 있는 사이버 위협에 대한 대응역량을 갖추기 위해 최선을 다할 것”이라고 말했다.