Anthropic, LLM 출력물에 텍스트 워터마킹 도입...확장 가능성 두고 논쟁

무엇이 바뀌었나

IT 블로거 David Gerard가 자신의 블로그에 올린 글에서 Anthropic이 자사 LLM 출력물에 텍스트 워터마킹을 도입했다고 전했다. [1] 이 워터마킹은 약 200단어 분량의 텍스트에 예/아니오 수준의 1비트 정보를 심어 넣는 방식으로, 해당 텍스트가 AI로 생성됐는지 여부를 판별할 최소한의 신호를 남기는 정도다. [1] 사용자 식별자처럼 32비트에 달하는 더 많은 정보를 담으려면 훨씬 더 많은 분량의 단어가 필요하다는 설명도 함께 나왔는데, 이는 현재 기술 수준에서 워터마킹으로 담을 수 있는 정보량이 아직 제한적이라는 점을 보여준다. [1] 이런 방식의 텍스트 워터마킹을 시도하는 곳은 Anthropic만이 아니다. Google도 'SynthID'라는 이름으로 유사한 기술을 논문을 통해 공개한 바 있으며, [1] SynthID-Text 워터마킹을 사람이 알아챌 수 있는지 검증한 실험에서는 참가자들이 워터마킹된 텍스트와 일반 텍스트를 구분하는 데 무작위 추측 수준의 정확도밖에 보이지 못했다는 결과가 나오기도 했다. 같은 글에는 가짜 VPN 확장 프로그램 유포, 메타의 누드화 앱 광고 게재 등 다른 주제의 링크도 함께 소개됐지만, [1] 이 기사에서는 워터마킹을 둘러싼 논의에 초점을 맞춘다.

반발과 확장 가능성을 둘러싼 논쟁

Gerard에 따르면 Matt Birchler, Dave Winer, Doc Searls, Seth Godin 등 평소 AI 도구에 우호적인 것으로 알려진 인물들도 이번 워터마킹 도입에 반발했다고 한다. [1] 다만 이들이 구체적으로 어떤 논거를 들어 반발했는지는 원문에서 자세히 확인되지 않는다. Gerard는 이 워터마킹 기술이 지금은 AI 생성 여부를 표시하는 정도지만, 앞으로는 사용자의 시민권 여부나 연령 확인, 마케팅 데이터 수집, 표절·저작권 침해 여부 표시 등으로 쓰임새가 확장될 수 있다는 우려를 제기했다. 이는 저자 개인의 추측이며, Anthropic이나 다른 기업이 실제로 이런 방향의 확장을 계획하고 있다는 근거는 제시되지 않았다. 워터마킹이 담을 수 있는 정보량이 현재 1비트 수준에 머물러 있다는 점을 고려하면, 신원 식별처럼 훨씬 많은 정보가 필요한 용도로 이어지기까지는 기술적으로도 상당한 간극이 있어 보인다.

실무에서 확인할 점

기업 입장에서 이번 소식이 당장 의미를 갖는 지점은 크지 않다. 다만 콘텐츠 제작, 법무, 컴플라이언스 부서라면 AI 생성 텍스트에 워터마킹이 기본적으로 적용되는 흐름이 굳어질 경우, 사내에서 생성한 문서나 마케팅 콘텐츠가 외부에 AI 저작물로 식별될 가능성을 염두에 둘 필요는 있다. 또한 워터마킹 기술이 향후 어떤 방향으로 발전하는지에 따라 콘텐츠 출처 검증이나 표절 점검 도구를 도입하는 방식도 달라질 수 있어, AI 콘텐츠 정책을 다루는 팀은 관련 기술 동향을 계속 지켜볼 필요가 있다. 다만 이는 현재 확인된 기술 범위를 넘어선 잠재적 시나리오이므로, 구체적인 정책 변화나 제품 발표가 나오기 전까지는 실무 대응을 서두를 단계는 아니다.

불확실한 부분

워터마킹 기술이 실제로 시민권 여부, 연령 인증, 마케팅 데이터, 표절·침해 표시 등에 쓰일 것이라는 주장은 저자의 추측일 뿐 확인된 사실이 아니다. [1] 같은 글에서 언급된 AI 에이전트가 '헬스장을 해킹해 필라테스 수업 자리를 확보했다'는 사례 역시 구체적 출처나 검증 과정이 제시되지 않았다. [1] Meta의 광고 알고리즘이 사용자에게 잘못된 가계 관리 정보를 줘서 보험 판매로 유도할 수 있다는 시나리오도 가상의 예시로 제시된 것이며, 실제 발생 여부는 확인되지 않는다. [1] 이번 소식을 받아들일 때는 확정된 사실인 워터마킹 도입 자체와, 아직 검증되지 않은 향후 확장 가능성을 구분해서 볼 필요가 있다.