이 기사는 2025년 05월 16일 09시12분 thebell에 표출된 기사입니다

샌즈랩은 지난해 개방한 딥페이크 탐지 서비스 '페이크체크(Fakecheck)'의 2.0 업데이트를 완료했다고 16일 밝혔다.

페이크체크는 사용자가 직접 사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 AI가 위조 진위 여부를 판별해 주는 온라인 서비스다. 데이터 분석을 통해 수 초 내로 결과가 나온다. 회원가입, 인증 등 번거로운 절차 없이 PC나 모바일로 접속해 무료로 사용할 수 있다.

이번 2.0 업데이트는 정교한 탐지를 위해 딥페이크 트렌드가 반영되도록 적용하고 기능을 개선했다. 특정 도메인과 한국 중·장년층을 대상으로 한 딥페이크 이미지에 대한 탐지 정확도가 크게 향상돼 전 연령대의 분석이 가능해졌다는 것이 회사 측 설명이다.


기존의 얼굴을 위·변조한 이미지뿐 아니라 '챗GPT' 등 생성형 AI가 만들어 낸 가상 인물 이미지까지 구분할 수 있도록 각각의 모델로 고도화해 탐지율을 높였다. 샌즈랩 AI 기술개발팀은 웹상의 실제 정상 이미지 100장과 'GPT-4o'를 통해 생성한 딥페이크 이미지 200장을 대상으로 한 자체 테스트에서 99.33%의 정확도(Accuracy)와 99.5%의 F1 스코어를 달성했다.

딥페이크 영상 탐지 기능 또한 이번 2.0 업데이트와 함께 적용될 예정이다. 기술적인 개발은 이미 마쳤고 대국민 무료 서비스 개방 취지를 유지하기 위한 최적화를 진행 중이라는 설명이다. 유료화를 하지 않는 범위 내에서 파일 길이, 용량 등의 세부 사항을 조율 중이다. 이르면 이달 내 영상 탐지도 적용될 예정이다.

김기홍 샌즈랩 대표는 "악성코드 해킹, 딥페이크 등으로 발생한 피해자들을 보호하기 위한 진위 확인을 거치다 보면 골든타임을 놓치고 보호 효과도 상실되기 때문에 AI로 빠르게 해결해야 한다"고 강조했다.

이어서 "검증이 끝나기만을 기다리는 것 말고는 할 수 있는 게 없는 피해자들의 마음을 누구보다 잘 알고 있기에 페이크체크로 국내 디지털성범죄에 국민들이 스스로 대응할 수 있는 빠르고 실질적인 방법을 제공했다"며 "앞으로도 사회의 각종 AI 역기능을 해결하는데 필요한 AI 안전 연구 및 기술을 개발해 기여할 것"이라고 부연했다.