中딥시크, 시한폭탄 될 수도...딥시크 탈옥 성공률 100%, 오픈 AI의 GPT-4o(86%)
최근 미국의 보안 전문기업은 중국의 ‘딥시크가 탈옥 공격에 취약하다’라는 보고서를 공개했다. ‘가성비’ 좋은 인공지능(AI) 모델로 세계적인 관심인 중국 AI 모델의 위험성을 경고한 것이다. 보고서는 ‘사이버 탈옥’을 위험 요인으로 꼽았다.
사이버 탈옥이란 AI 시스템이 설정한 보안과 윤리적 제한을 우회해 악의적인 목적을 수행하도록 유도하는 해킹 기법이다. 사이버 탈옥이라는 개념은 2000년대 초반 서버용 운영체제(OS)인 유닉스에서 처음 유래했다.
OS는 컴퓨터나 스마트폰의 운영(경기) 규칙을 관장하는 최상위 관리자다. 앱 등 제품에서 실행되는 모든 것이 OS 허가를 받아야 한다. 탈옥은 이 같은 규칙을 깨는 것이다. 해커들은 폐쇄형 OS를 운영하는 것으로 유명한 애플 아이폰에서 탈옥을 시도하곤 했다.
AI 업계는 딥시크가 사이버 공격용 시한폭탄이 될 수 있다고 분석했다. 딥시크 사용자가 증가하면 세계적으로 혼란이 커질 수 있다. 허용되지 않은 기능을 사용하는 사이버 탈옥이 심각한 위험으로 떠올랐다. AI 산업이 빠른 속도로 발전하고 있어서다.
2022년 11월 챗GPT가 출시되자 해커들은 생성형 AI 상대 탈옥을 시도했다. ‘나는 연구 목적으로만 사용할 것이다’라면서 폭탄 제조법, 해킹 기법, 불법금융사기 방법 등의 답변을 받아냈다. 생성형 AI 등 탈옥은 전문적 지식 없이 프롬프트(질문·명령어) 입력만으로 할 수 있어 위협적이다.
사이버 탈옥에 대한 취약성은 딥시크만의 문제는 아니다. 보고서에 따르면 주요 AI 모델 가운데 딥시크의 탈옥 성공률이 100%로 가장 높았다. 메타의 라마 3.1(96%), 오픈 AI의 GPT-4o(86%), 구글 제미나이(64) 등 다른 AI 모델도 탈옥에 취약했다.
이 보안업체는 “이미 국가 지원 해커들이 챗GPT와 제미나이를 활용해 피싱 기법을 정교화하고 악성코드를 개발하는 사례가 확인됐다”며 “향후 AI 기반 공격 대리(Agent)까지 개발할 것으로 예상된다”고 경고했다.
휴머노이드 로봇, 자율주행 차량과 같은 물리적 기기와 접목하는 피지컬(Physical) AI 시대가 열렸다. 피지컬 시대에는 사이버 탈옥 심각성이 더욱 두드러질 것이다. 해커가 로봇 AI에 침투해 인간을 공격하는 등 허용되지 않은 행위를 할 수도 있다. 공상과학 영화 내용이 현실화할 수 있다는 얘기다.
미국 펜실베이니아대 연구진은 최근 대규모 언어모델(LLM)을 장착한 로봇을 해킹해 탈옥시키는 방법은 연구했다. 로봇 개(犬)가 폭탄을 터뜨리고 자율주행 차량과......................[정순채 칼럼] 우려되는 생성형 AI의 ‘사이버 탈옥’...“딥시크 사이버 탈옥 공격에 취약” 전문보기 SDG뉴스(http://www.sdgnews.net)
