목차
최근 생성형 AI 기술의 확산으로 딥페이크 성착취물과 같은 악용 사례가 급증하는 가운데, 국내 사이버 보안 기업 샌즈랩이 딥페이크 의심 이미지를 판별하는 무료 서비스인 페이크체크(Fakecheck.io)를 출시했습니다. 이 서비스는 누구나 쉽게 접근할 수 있으며, 딥페이크로 인한 2차 피해를 예방하는 데 중요한 사회적 대응책으로 주목받고 있습니다.
- 서비스 이름: 페이크체크 (fakecheck.io)
- 제공 방식: 사용자가 웹사이트에 딥페이크 의심 이미지를 업로드하면, 수 초 내에 이미지의 진위 여부를 분석해 결과를 제공합니다.
- 이용 절차: 회원 가입이나 인증 절차 없이 누구나 쉽게 이용할 수 있습니다.
- 비용: 무료 제공. 샌즈랩은 서비스 운영을 위해 발생하는 모든 비용을 사회 공헌 차원에서 부담하고 있습니다.
- 딥페이크 피해 확산 방지: 딥페이크 성착취물과 가짜 뉴스가 확산되는 것을 막고, 사용자들이 스스로 딥페이크 의심 이미지를 검증할 수 있는 도구를 제공합니다.
- 범죄 예방: 딥페이크 기술을 이용한 범죄를 방지하기 위해 사람의 얼굴 이미지를 중심으로 위·변조 여부를 판별합니다. 단, 동물이나 사물은 분석 대상에서 제외됩니다.
- AI 기반 탐지: 다양한 AI 모델을 활용해 딥페이크 의심 이미지를 분석하며, 사람의 얼굴을 중심으로 위·변조 여부를 판별합니다.
- 오픈 베타 테스트: 현재 서비스는 오픈 베타로 제공되며, 사용자들의 피드백을 반영해 지속적인 업데이트가 이루어질 예정입니다. 추후에는 이미지뿐만 아니라 영상의 위·변조 여부를 탐지하는 기능도 추가될 가능성이 있습니다.
- 긍정적 활용: 딥페이크 기술은 영화 제작, 광고 등의 창의적 분야에서 긍정적인 활용이 가능하며, 콘텐츠의 질을 높일 수 있습니다.
- 부정적 영향: 그러나 성착취물 제작이나 허위 정보 유포 같은 악용 사례는 개인의 명예와 안전을 위협하고, 사회적 신뢰를 저해할 수 있습니다.
샌즈랩의 페이크체크 서비스는 딥페이크 기술의 악용에 대응하는 중요한 무료 도구로, 누구나 쉽게 접근할 수 있습니다. 이를 통해 딥페이크로 인한 피해를 줄이는 데 기여할 것이며, 향후 더 넓은 범위의 탐지 기능을 제공할 수 있을 것으로 기대됩니다.