Claude 구형 모델, 멀티턴 탈옥으로 금지된 성적 콘텐츠 생성 확인

무엇이 바뀌었나

Anthropic의 사용 정책은 Claude 모델이 성적으로 노골적인 콘텐츠를 생성하는 것을 금지하고 있다. 하지만 영국 출신의 한 익명 독립 연구자가 TechCrunch에 독점적으로 공유한 다중 턴(멀티턴) 설득 기법을 적용하면 Claude Opus 4.6, Claude Opus 3, Claude Haiku 4.5가 이 금지 규정을 어기고 노골적인 성적 콘텐츠를 생성하도록 유도할 수 있는 것으로 확인됐다[1]. TechCrunch는 이 기법을 자체적으로 5회 재현해 성공을 확인했다[1]. 반면 이후 출시된 Claude Opus 4.7과 현재 최신 모델인 Claude Opus 5는 같은 방식의 탈옥 시도에 저항력을 보였다[1]. Anthropic은 이 취약점의 존재를 인지하고 있었지만 Opus 4.6, Opus 3, Haiku 4.5를 폐기하지 않고 자사 API는 물론 Azure Foundry, Amazon Bedrock 같은 제3자 서비스를 통해서도 계속 제공하고 있다[1].

왜 문제가 되나

직접적으로 노골적인 성적 콘텐츠를 요청했을 때 Opus 4.6은 10건 중 10건 모두 즉시 응한 것으로 나타났다[1]. Anthropic이 작년 발표한 연구에 따르면 성적·로맨틱 롤플레이가 전체 Claude 대화에서 차지하는 비중은 0.1% 미만으로 매우 작지만[1], Pew의 2025년 설문조사에서는 13~17세 청소년의 3%가 Claude를 사용한다고 응답해 미성년자 노출 가능성이 완전히 배제되지는 않는다[1]. 문제가 되는 모델들의 실사용 규모도 작지 않다. OpenRouter 기준 8월 하루 최고치로 Opus 4.6은 약 117만 건의 API 요청과 460억 토큰을, Haiku 4.5는 500만 건의 API 요청과 390억 토큰을 처리했다[1]. 폐기되지 않고 계속 공급되는 모델이 실제로 상당한 트래픽을 소화하고 있다는 점에서, 이번에 확인된 우회 가능성은 일회성 실험 결과로 가볍게 넘기기 어렵다.

기업 실무에서 확인할 점

이 사안은 Anthropic이 자체 소비자용 인터페이스뿐 아니라 API와 Azure Foundry, Amazon Bedrock을 통해 이들 모델을 계속 제공하고 있다는 데서 실무적 의미를 갖는다[1]. 자사 서비스나 내부 도구에 Claude Opus 4.6, Opus 3, Haiku 4.5를 API나 클라우드 마켓플레이스 경유로 붙여 쓰고 있는 기업이라면, 사용자 대면 채팅이나 챗봇 기능에 이런 멀티턴 우회가 적용될 여지가 있는지 트러스트앤세이프티 담당 조직이나 법무·컴플라이언스 부서 차원에서 점검할 필요가 있다. 특히 콘텐츠 모더레이션을 모델 자체의 정책 준수에만 의존하고 있었다면, 별도의 출력 필터링이나 사용자 연령·맥락 기반 제어 계층을 추가로 검토하는 편이 안전할 수 있다. 반대로 최신 모델인 Opus 4.7 이후 버전으로 이미 전환한 조직이라면 이번에 확인된 특정 우회 기법에는 상대적으로 노출 위험이 적은 것으로 보이지만[1], 구형 모델을 병행 운영하거나 폴백(fallback)으로 남겨둔 경우는 별도 확인이 필요하다.

다만 이번 보도만으로 명확히 정리되지 않는 부분도 있다. Anthropic 측 인용원으로 등장하는 'Torney'라는 인물이 회사 내에서 정확히 어떤 직책을 맡고 있는지는 기사에서 밝혀지지 않았고, 연구자가 이 탈옥 기법을 처음 발견해 Anthropic에 신고한 정확한 시점, 그리고 TechCrunch가 실제 테스트를 수행한 날짜도 명시되지 않았다. 이는 취약점이 알려진 이후 실제로 얼마나 오래 방치됐는지를 가늠하기 어렵게 만드는 요소로, 추후 추가 확인이 필요한 지점이다.