작년 대란은 AI 해킹 전초전…"유출 정보 악용 공격 주의"

대규모 해킹 사고가 잇따랐던 지난해 유출된 개인정보를 악용한 2차 피해가 올해 일어날 가능성에 대해 정부가 경고하며 면밀한 주의를 당부했습니다.

일상에서 흔히 사용되는 인공지능(AI) 서비스가 해킹돼 의도하지 않은 오작동이나 정보 노출 가능성이 커지는 것도 주된 사이버 위협으로 꼽혔습니다.

과학기술정보통신부와 한국인터넷진흥원(KISA)은 오늘(27일) 2025년 사이버 위협 동향과 2026년 전망 보고서를 발표했습니다.

국내외 정보보호 기업 안랩, 지니언스, 이글루코퍼레이션, NSHC, S2W, SK쉴더스, 플레인비트, 시스코 탈로스, 구글, 마이크로소프트, 트렌드마이크로, 지스케일러가 분석에 참여했습니다.

지난해 사이버 침해 사고 신고 건수는 2024년 1천887건에서 2천383건으로 26.3% 증가했습니다.

특히 상반기 증가율(15%)보다 하반기(36.5%)가 높아 하반기에 침해 사고가 더 빈번했던 것으로 파악됐습니다.

지난해 랜섬웨어 감염의 전체 침해 사고 중 비중은 11.5%(274건)로 재작년과 비슷했지만, 발생 건수는 10.3%(192건) 증가했습니다.

랜섬웨어 피해를 신고한 곳들의 백업률은 지난해 상반기 76.8%, 하반기 78.6%로 증가하는 추세였지만, 지난해 상반기 피해의 44.4%, 하반기 피해의 23.2%가 백업 정보까지 감염된 것으로 파악됐습니다.

올해 사이버 위협 전망으로는 ▲ AI 기반 사이버 위협과 AI 서비스에 대한 사이버 공격 증가 ▲ 종료된 정보기술 서비스·방치된 시스템의 해킹 통로 악용 ▲ 클라우드 환경의 취약 요소 공격 증가 ▲ 유출된 개인정보를 악용한 2차 사이버 위협이 꼽혔습니다.

지난해 4월 SKT, 9월 KT, 11월 쿠팡에서 일어난 보안 사고로 유출된 대규모 개인정보가 다양한 경로를 통해 사이버 범죄자 손에서 수집·결합할 경우 보이스피싱이나 스미싱 등 보다 지능화된 2차 공격에 활용될 가능성이 제기됐습니다.

특히, 지난해 대규모 해킹 사태의 연속은 AI가 사이버 공격에 사용되며 전면화할 사이버 전쟁의 전초전 성격으로 분석됐습니다.

보고서 전문가 칼럼에서 이원태 국민대 특임교수(전 KISA 원장)는 "전문가의 관점에서 지난해 발생한 사건들이 가장 무서운 이유는 AI 공격이 아니었기 때문"이라고 말했습니다.

그는 이들 사고에 취약점 스캐닝 자동화, 공격 전술 자동 조합, 사회공학 메시지 맞춤형 생성, 대규모 병렬 공격 수행이 더해졌다면 파괴력이 5∼10배에 달했을 것이라고 예측했습니다.

이 교수는 "한국 사회는 아직 인간 공격자에게도 취약한데 AI 공격자가 등장하면 훨씬 더 취약해질 수밖에 없다. 그런 점에서 2025년의 사건들은 그 현실을 예고한 전조적 징후였다"고 덧붙였습니다.

보고서는 올해 딥페이크 음성·영상 기반 피싱이 실시간 음성 통화 및 화상회의로까지 확대될 가능성을 짚었습니다.

아울러 챗GPT, 제미나이 등 일상적으로 사용되고 있는 AI 서비스 자체를 대상으로 삼는 공격도 본격화할 것으로 예상했습니다.

공격자들이 챗봇, 자동 분석 시스템, 보안 AI 등에 악의적인 내용을 주입하거나 학습 데이터를 조작해 의도하지 않은 오작동이나 정보 노출을 유도할 수 있다고 우려했습니다.

특히 기업이나 기관에서 자체 구축한 AI에 침투할 경우 기밀 정보 유출도 가능해 AI 모델 해킹이 새로운 정보 유출 경로가 될 수 있어서입니다.

보고서는 AI를 악용한 사이버 공격은 기존 탐지 방식으로는 대응이 어려운 만큼, 비정상적인 코드 생성 행위를 식별할 수 있는 새로운 탐지 체계가 요구된다고 강조했습니다.

또한 딥페이크 음성 및 영상 기반 피싱에 대응하기 위해 실시간 인증 기술과 AI 기반 위조 탐지 알고리즘의 고도화가 필요하며 거대언어모델(LLM) 입력·응답 과정을 상시 모니터링하고 모델 접근 권한과 로그를 중앙에서 관리해야 한다고 제언했습니다.

보고서는 아울러 AI 방어 자동화와 인간 분석가의 결합이 필수적이라고 지적했습니다.

AI로부터의 위협을 AI와 사람이 함께 방어할 때 최적의 효과를 낸다고 했습니다.