Claude Fable 5가 6월 말에 접근이 다시 열렸다. 그런데 단순한 복구가 아니었다. 지난 7월 1일부터 배포가 시작됐지만, 오는 7월 7일까지만 주간 사용량의 50%만 이용할 수 있다는 조건이 달아있다. 이후로는 별도의 usage credits를 구매해야 하는 방식으로 전환될 예정인 것으로 보인다. 이전처럼 구독료만 내고 자유롭게 쓸 수 없다는 뜻인 것으로 보인다.
사건은 6월 12일부터 시작됐다. 미국 정부가 Fable 5와 Mythos 5에 수출통제를 적용한 것으로 보인다. 정부 차원의 제약이 걸렸다는 의미였다. 당시 Amazon의 연구팀이 Fable 5의 안전장치를 우회하는 방법을 찾아냈고, 그 결과 여러 소프트웨어 취약점을 식별할 수 있었다는 보고서가 정부에 전달되었다. 일부 사례에서는 발견한 취약점을 악용하는 코드까지 생성했다고 한다. 이런 보안 우려가 정부로 하여금 모델 배포를 막게 한 것으로 보인다.
Anthropicは 즉시 자체 테스트에 나섰다. 회사의 주장에 따르면, Amazon 보고서에서 찾아낸 취약점들은 Claude Opus 4.8, GPT-5.5, Kimi K2.7 같은 덜 강력한 모델들도 충분히 식별할 수 있었다고 한다. 즉, Fable 5만의 고유한 능력은 아니었다는 입장인 것으로 보인다. 그리고 그 악용 코드 역시 테스트 대상 모든 모델이 생성했다고 설명한 것으로 전해진다. Anthropic은 이를 "경계선 사례"라고 표현한 것으로 전해진다. 안전장치의 가장자리에 해당하는 경우일 뿐이라는 해석인 것으로 보인다.
그럼에도 정부와 빅테크의 우려는 사라지지 않았다. Anthropic은 정부, Amazon, Microsoft, Google 등과 함께 개선된 안전 분류기(classifier)를 다시 학습시켰다. 새 분류기는 Amazon 보고서에 나온 특정 우회 기법을 99% 이상 차단할 수 있다고 발표한 것으로 전해진다. 하지만 대신 안전성을 높이기 위해 "여유폭"을 넓게 설정했고, 그 결과 정상적이고 무해한 코딩·디버깅 요청도 더 자주 거절될 가능성이 생겼다고 인정한 것으로 전해진다. 더 안전해진 대신, 개발자들은 약간의 불편함을 감수해야 한다는 뜻인 것으로 보인다.
여기가 사용자 입장에서 중요하다. 7월 7일까지 절반만 사용할 수 있다는 것은 기존 유료 구독자들이 평소보다 50% 덜 쓸 수 있다는 의미다. 그리고 7월 8일부터는 usage credits 방식으로 바뀌면서, 구독료는 같은데 따로 크레딧을 구매해야 하는 구조가 된다. 결과적으로 이전보다 실질적인 이용 비용이 늘어날 가능성을 열어둔 것으로 보인다.
더 깊숙한 변화는 다음인 것으로 보인다. 이번 사건은 AI 모델의 배포 결정권이 더 이상 회사 단독이 아니라는 점을 보여줬다. 정부가 보안을 이유로 모델을 막고, 기업이 이에 응하며, 정부와의 협의 구조 속에서 단계적으로 복귀한다는 구도가 새로운 흐름이 되고 있다. Anthropic은 현재 미국 정부(백악관, 상무부, 국가안보 기관)와 Amazon, Microsoft, Google 같은 파트너들과 함께 'AI 탈옥의 심각도를 평가하는 공통 프레임워크'를 만들고 있다고 밝혔다. 이는 AI 규제가 개별 기업의 기준에서 정부·업계 공동의 기준으로 옮겨가고 있음을 의미한다. HackerOne 같은 보안 리포팅 프로그램도 새로 시작하면서, Fable 5의 안전성 검증을 더욱 강화하는 구조를 갖춰가고 있다.
📌 원문 발췌
Pro, Max, Team, 일부 Enterprise 플랜에는 7월 7일까지 주간 사용량 한도의 최대 50%까지 Fable 5가 포함되며, 이후에는 usage credits 방식으로 제공됩니다.
원본 출처: 클리앙 모두의공원