한 온라인 커뮤니티에 올라온 글 하나가 구독형 AI 서비스의 정책 변경 시점을 놓고 의문을 제기하고 있다. GPT Pro 200 구독 사용자가 최근 극단적인 사용량 소비를 경험했다는 내용인데, 그 구체적 상황은 다음과 같다. 업무 성격에 맞게 관리 세션에는 고급 모델을, 코딩 세션에는 중급 이상의 모델을 조합해서 운영해 온 사용자였다. 보통 한 달간 쓸 수 있는 량의 초기값인 200 포인트 중, 불과 14시간 사이에 무려 90% 가량인 180 포인트 정도를 소진해 버렸다는 설명인 것으로 보인다.
이 정도 속도라면 충분히 이상할 여지가 있다. 그 이유는 이 사용자의 역사적 사용 데이터와의 비교에 있다. 약 1주일 전만 해도 지금과는 다른 모델 구성을 사용 중이었는데, 그때는 더욱 고급 모델 하나만 돌렸다고 한다. 그때의 주 단위 소비 속도와, 지금 모델을 변경한 후의 14시간 소비 속도가 거의 비슷한 수준이라는 관찰이 핵심인 것으로 보인다. 같은 일을 하고 있는데 갑자기 '효율'이 반으로 떨어진 셈인 것으로 보인다.
사용량이 갑자기 증가한 배경에는 여러 가능성이 있다. 첫 번째는 모델 자체의 성능 특성 변화다. 구독 서비스가 제공하는 모델들은 각기 다른 알고리즘, 다른 처리 방식을 쓴다. 같은 작업 결과를 도출하더라도, 내부적으로 더 많은 토큰(API 리소스 단위)을 소비하는 모델이 있을 수 있다는 뜻인 것으로 보인다. 이번의 모델 전환이 그에 해당하는 경우라면, 사용 조건 변화일 뿐 서비스 정책의 변경은 아닐 것으로 보인다.
하지만 여기서 주목해야 할 부분이 하나 더 있다. 구독형 서비스의 정책이나 한도 변경은 보통 전사적으로 동시에 적용된다고 알려져 왔지만, 실제로는 그렇지 않을 수 있다는 점인 것으로 보인다. 대규모 서비스의 백엔드 시스템에서는 새로운 정책을 여러 사용자 그룹에 나눠서 단계적으로 적용하는 '롤아웃(rollout)' 방식을 쓴다. 즉, 서버의 일부 구간에만 먼저 새 규칙을 적용하고, 문제가 없으면 점차 확대하는 식인 것으로 보인다. 이런 과정에서 일부 사용자는 공식 공지일보다 먼저 변경 사항을 경험할 수 있다.
해당 커뮤니티 글의 댓글 반응을 보면, 이 가능성이 실제로 대두되고 있는 상황인 것으로 보인다. 공식 채널에서는 29일에 사용 한도 축소를 예고해 두었다고 하는데, 혹시 오류 또는 의도된 선행 적용을 통해 그 변화가 미리 일부 사용자에게 반영된 건 아닐까 하는 추측이 나오고 있다는 것으로 보인다. 여러 사용자들이 이러한 가능성을 주고받으며 '조기 적용' 시나리오에 대해 논의하는 모습이 보인다.
현재로서는 두 원인이 모두 가능성이 있다고 봐진다. 모델 구성을 바꾼 것 자체가 실제로 토큰 소비를 더 증가시켰을 수도 있고, 공식 공지 전에 정책이 미리 적용된 것일 수도 있다. 또는 둘 다일 수도 있다는 판단인 것으로 보인다. 특히 관리 업무용 고급 모델과 코딩용 중급 모델을 섞어 쓰는 경우, 각 모델의 토큰 효율이 얼마나 다른지가 핵심이 될 수 있다. 만약 신규 중급 모델이 고급 모델보다 같은 작업에 2배 이상의 토큰을 소비하는 구조라면, 모델 전환만으로도 충분히 설명 가능하다.
그럼에도 사용자들이 의구심을 품는 이유는, 공식 공지 없이 한도가 조용히 줄어들 가능성 때문인 것으로 보인다. 만약 정책이 조기 적용된 거라면, 이는 사용자들이 사전에 계획을 수립할 수 없게 만드는 요소가 된다. 구독 서비스를 업무에 활용하는 사람일수록 월간 예산과 사용량을 맞춰 계획하는데, 예고 없는 변경은 그 계획을 틀어뜨린다. 사용자 입장에서는 공식 고객 지원 채널에 직접 문의하거나, 같은 기간 다른 사용자들의 소비 패턴과 비교해 전반적인 추세를 확인해 보는 방법이 있을 것으로 보인다.
📌 원문 발췌
14시간만에 90%가 소모되었습니다. 과거 Astra xhigh로만 돌리던 1주 전까지와 거의 비슷한 소모 추이입니다. 29일로 예고되어 있던 사용한도 축소가 오류 등으로 조기 적용된 것이 아니냐는 이야기가 커뮤니티에서 돌았습니다.
원본 출처: 클리앙 모두의공원