[AI혁명](120) 딥페이크 탐지, 누구나 쉽게…샌즈랩 

딥페이크, 악성코드 등 '생성형AI' 역기능 탐지 대응 기술 특화

최근 딥페이크 성범죄가 사회적 문제로 대두된 가운데 국내 중소기업이 이를 방지할 수 있는 서비스를 무료로 내놔 이목을 끌고 있다. 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 보안 기업 샌즈랩이다.

최민준 샌즈랩 AI기술개발팀장은 지난 6일 아시아경제와 만나 "딥페이크 범죄와 가짜뉴스를 막기 위한 국가적 상황에 맞게 발맞춰서 기술을 개발하고 연구 중"이라며 "샌즈랩의 딥페이크 탐지 기술이 사회공헌 차원에서 많은 사람들에게 도움이 됐으면 한다"고 말했다.

샌즈랩이 이번에 내놓은 서비스는 딥페이크 탐지 솔루션 '페이크체크'다. 이는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다.

최 팀장은 "페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발했다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다"라며 "다만 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별도 추후 지원될 수도 있다"고 설명했다.

이 서비스는 무료로 제공되며 누구나 이용 가능하다. 샌즈랩은 이 서비스를 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다.

샌즈랩이 딥페이크 범죄에 빠르게 대응할 수 있었던 데엔 생성형 AI와 과련된 국가 연구개발 과제(IITP)를 수행하고 있던 것이 컸다. 현재 샌즈랩은 포티투마루, 카이스트, 로그프레소, LG유플러스와 '정보보호핵심원천기술개발사업’을 수주해 연구·개발을 진행중이다. 샌즈랩은 이 과제에서 생성형 AI 역기능 탐지 대응 기술을 맡고 있다.

최 팀장은 "딥페이크 파트는 샌즈랩과 LG유플러스가 메인이 돼 연구하고 있다. 현재 4개월 정도밖에 지나지 않은 시점이라 대단한 기술, 솔루션 등을 내놓았다고 말할 수는 없지만 샌즈랩이 가진 기술을 활용해서 과제를 잘 수행하려고 한다"고 말했다.

샌즈랩은 사실 사이버 보안에 특화된 기업이다. 대표적인 브랜드를 꼽으라면 'CTX(Cyber Threat X)'가 있다. CTX는 AI 엔진을 기반으로 파일을 분석해 특정 해쉬(MDS, SHA1, SHA256) 조회가 가능하도록 지원한다. 악성 여부, 공격 그룹, 타깃 국가 및 산업, 마이터 어택 공격 기법 등의 정보를 알려주는 것이 특징이다.

최 팀장은 "결국엔 사람이 직접 '악성 파일이다'라고 판단하게 되는 순간이 있다. CTX는 언제, 어디서, 어떤 공격 그룹이 어떤 산업과 국가를 타겟으로 하고 있는지 등등의 정보를 빠르게 제공한다"라며 "사람에게 설득력 있는 정보를 제공하기 때문에 위협에 대한 판단이 빨라지고 업무 효율성도 높여준다"고 설명했다.

샌즈랩은 CTX를 활용한 데이터셋 사업도 진행중이다. 데이터셋이란 특정한 작업을 위해서 데이터를 관련성 있게 모아놓은 것을 말한다. AI 모델을 학습시키기 위해서는 정형화된 형태의 질 좋은 데이터셋이 필요한데, 샌즈랩의 데이터셋은 다양한 사이버 위협 공격 그룹 정보와 캠페인 관련 정보까지 포함하고 있어, AI 알고리즘이 더 현실적이고 다양한 상황에 대응할 수 있도록 도와준다.

최 팀장은 “더욱 향상된 위협 탐지와 대응능력 향상을 위한 생성형 AI, 데이터셋 기술이 반드시 수반돼야 한다"라며 "국내 생성형 AI 전문 업체 등과의 다양한 협력으로 글로벌 기술 개발에 더욱 박차를 가할 예정"이라고 말했다.