※ 이 글에는 제휴 마케팅 링크가 포함될 수 있으며, 구매 시 수수료를 받을 수 있습니다.
당신의 부모님 휴대폰에 어제 이런 영상이 도착했다고 치자. 유명 정치인이 카메라를 정면으로 보며 낮은 목소리로 뭔가를 자백한다. 화질도 좋고, 입 모양도 맞고, 목소리도 그 사람 것이다. 부모님은 이걸 진짜라고 믿을까, 가짜라고 의심할까?
이제 구글이 만들었다는 딥페이크 탐지 시스템에 그 영상을 넣어본다고 상상해 보자. 결과가 이렇게 나온다. “워터마크를 찾을 수 없습니다.” 자, 이건 무슨 뜻일까? 가짜라는 뜻일까, 진짜라는 뜻일까?
정답은 — 아무것도 알려주지 않는다. 그리고 바로 이 지점이, 구글의 SynthID를 이해하는 데 가장 중요한 열쇠다.
SynthID는 ‘거짓말 탐지기’가 아니다
구글은 자사의 대규모 개발자 행사에서 ‘SynthID Detector’라는 포털을 공개했다. 이미지·영상·오디오·텍스트에 삽입된 눈에 보이지 않는 디지털 워터마크를 읽어내, 그 콘텐츠가 구글 AI로 생성됐는지 판별하는 도구다(Google 공식 블로그).
언론은 이걸 “구글이 딥페이크를 폭로한다"는 식으로 보도했다((https://www.forbes.com/sites/paulmonckton/2025/05/20/google-to-expose-deepfakes-with-new-ai-detector-portal/)). 헤드라인만 보면 마치 어떤 영상이든 집어넣으면 “가짜 87%” 같은 판정이 나오는 만능 감별기 같다. 그런데 실제 작동 원리를 뜯어보면 이야기가 완전히 달라진다.
SynthID의 핵심은 ‘탐지’가 아니라 ‘서명’이다. 구글의 AI 모델(Gemini, Imagen, Lyria, Veo 등)이 콘텐츠를 생성하는 바로 그 순간에, 사람 눈·귀로는 감지할 수 없는 통계적 패턴을 픽셀과 파형 속에 심어 넣는다(Google DeepMind). Detector는 나중에 이 서명이 있는지 없는지를 확인할 뿐이다.
즉 이 시스템이 진짜로 대답하는 질문은 “이거 가짜야?“가 아니라 “이거 구글이 만들었어?” 다. 이 둘은 전혀 다른 질문이고, 가짜 뉴스라는 재앙은 정확히 이 두 질문 사이의 빈틈에서 자란다.
진짜 위협은 워터마크 밖에 산다
논리를 따라가 보자. SynthID가 잡아낼 수 있는 콘텐츠는 오직 하나, 구글 워터마크가 박힌 것뿐이다. 리서치 데이터가 명확히 말한다 — 구글 AI 도구로 만든 콘텐츠에만 유효하며, 워터마크가 없는 타사 AI 결과물이나 전통적 방식으로 조작된 실제 딥페이크는 탐지하지 못한다.
그런데 선거를 흔들고 지인을 협박하려는 사람이, 굳이 “구글이 만들었다"고 실토하는 도구로 영상을 뽑을까? 악의를 가진 제작자는 워터마크를 안 넣는 오픈소스 모델을 쓰거나, 애초에 서명을 우회한다. 구글조차 SynthID가 무결하지 않으며 극단적 수정을 가하면 워터마크가 제거될 수 있다고 인정한다. 물론 워터마크 자체는 크롭·필터·프레임레이트 변경·손실 압축 정도의 흔한 편집에는 견디도록 설계됐다는 게 구글의 설명이지만((https://deepmind.google/models/synthid/)), ‘작정하고 지우려는’ 공격 앞에서는 다르다.
결과적으로 이런 그림이 그려진다. 착한 창작자가 “저 이거 AI로 만들었어요"라고 정직하게 밝힌 콘텐츠에는 워터마크가 있어서 잘 잡힌다. 반대로 남을 속이려는 진짜 나쁜 콘텐츠에는 워터마크가 없어서 못 잡는다. 탐지가 가장 필요한 곳에서 가장 무력하다. 이게 워터마크 방식 딥페이크 대응의 근본적인 아이러니다.
그러니 “워터마크를 찾을 수 없습니다"라는 결과가 사실상 무의미한 이유가 여기 있다. 그건 “이 콘텐츠는 안전합니다"가 아니라 “저는 이 콘텐츠에 대해 아는 게 없습니다"라는 뜻이다. 안심하라는 신호로 오독하는 순간, 이 도구는 오히려 위험해진다.
그렇다고 쓸모없다는 건 아니다 — 방향을 바꿔 보면
여기까지 읽으면 SynthID가 헛수고처럼 들릴 수 있다. 하지만 성급하다. 문제 자체를 다시 정의하면, 이건 꽤 영리한 인프라가 된다.
풀 수 없는 질문은 “세상 모든 가짜를 어떻게 잡지?“다. 이건 원리상 불가능에 가깝다. 반대로 풀 수 있는 질문은 “진짜 AI 생태계가 자기 결과물을 어떻게 정직하게 라벨링하지?” 다. SynthID는 후자를 겨냥한다.
그리고 이 방향에서 SynthID는 조용히 세를 불렸다. 구글 발표에 따르면 워터마크는 이미 1,000억 개 이상의 항목에 표시됐고(Google), OpenAI·ElevenLabs·Kakao 같은 다른 벤더로 확장되며 사실상 업계 표준의 후보가 되고 있다(WinBuzzer). 한 회사만의 워터마크라면 반쪽짜리지만, 여러 AI 회사가 같은 서명 규격을 공유하기 시작하면 이야기가 달라진다. “AI가 만든 걸 만들 때부터 표시하고 넘긴다"는 관행이 생태계 전반의 기본값이 될 수 있기 때문이다.
이건 딥페이크를 사후에 적발하는 접근이 아니라, 애초에 출처를 붙여 유통시키는 접근이다. 자동차 번호판에 가깝다. 번호판이 범죄를 막지는 못하지만, 정직한 흐름에 추적 가능성을 부여함으로써 시스템 전체의 신뢰 기반을 올린다.
지금 당장 기대치는 낮춰라
현실적인 한계도 솔직히 짚자.
첫째, 지금은 파일럿이다. Detector 포털은 초기 테스터 대상으로 롤아웃 중이고, 언론인·미디어 종사자·연구자가 대기자 명단에 등록해야 접근권을 얻는다((https://www.forbes.com/sites/paulmonckton/2025/05/20/google-to-expose-deepfakes-with-new-ai-detector-portal/)). 일반인이 의심스러운 영상을 툭 넣어 확인하는 소비자용 서비스가 아니다. 파일럿 기간 접근은 무료이지만, 그건 아직 제품이 아니라는 뜻이기도 하다.
둘째, 개발자용 공개 API나 로컬 버전이 아직 없다. 서비스나 뉴스룸의 자동 검증 파이프라인에 곧바로 꽂아 쓰기는 어렵다는 의미다. 오디오 포맷 탐지는 여전히 테스트 단계다.
셋째, 앞서 말한 근본 한계 — 구글(및 참여 벤더) 워터마크가 있는 콘텐츠만 대상이다. 이건 버전 업으로 해결될 결함이 아니라 이 접근법의 태생적 경계다.
그래서, 정말 효과적일까?
솔직한 답은 이렇다. “가짜 뉴스를 판별하는 도구"로 기대하면 반드시 실망한다. “AI 콘텐츠에 출처를 다는 표준 인프라"로 보면 의미가 크다.
가짜 뉴스와 싸우는 진짜 방어선은 결국 워터마크 하나가 아니라 겹겹의 층이다 — 플랫폼의 라벨링 의무, 매체의 팩트체크, 그리고 무엇보다 “화질 좋고 그럴듯하면 진짜"라는 우리 머릿속의 반사신경을 의심하는 습관. SynthID는 그 여러 층 중 ‘창작 단계에서의 정직한 표시’라는 한 겹을 담당할 뿐, 마지막 판단을 대신해 주지는 않는다.
그러니 다음에 누군가 “구글이 딥페이크 탐지기를 냈대"라고 말하거든, 이렇게 되물어 보길 권한다. “그거 가짜를 잡는 거야, 아니면 진짜를 증명하는 거야?” 그 차이를 아는 사람과 모르는 사람이, 앞으로의 정보 전쟁에서 서로 다른 편에 서게 될 테니까.