특정 AI 이미지 생성 플랫폼에서 벌어진 일이 온라인에서 화제가 되고 있다. 이곳이 아시아 지역 사용자를 대상으로 광역 계정 정지 조치를 단행했는데, 그 과정에서 예상치 못한 문제가 터져나간 것으로 보인다.
문제는 명확하다. 밴을 맞은 사용자들 중에 억울하게 조치를 당한 무고한 이용자도 포함되었다는 점인 것으로 보인다. 소위 오탐(false positive) 현상이 발생했다는 뜻인 것으로 보인다. 실제로 규칙을 위반하지 않았는데도 플랫폼의 자동 탐지 시스템에 걸렸거나, 진짜 위반자와 함께 싸잡아 정지를 당한 사람들이 속출했다는 보도다.
하지만 더 황당한 건 플랫폼의 대응 방식인 것으로 보인다. 계정이 정지된 사용자가 로그인을 시도하면 어떤 안내가 뜰까?
"추가로 할 수 있는 것이 없다. 그냥 꺼져."
이것이 전부인 상황인 것으로 보인다. 이의신청 방법도 없고, 고객 지원 연락처도 없다. 심지어 왜 밴을 당했는지 구체적 이유도 설명되지 않는다. 일반적인 유료 서비스라면 어떻게 대응할까? 최소한 밴의 이유를 명시하고, 이의를 제기할 수 있는 창구를 안내하는 것으로 알려져 있다. 온라인 게임, 커뮤니티 플랫폼, 구독 서비스 대부분이 "밴 이유 통지 → 이메일/지원팀 문의 → 재검토" 같은 절차를 마련해 두고 있다.
왜냐하면 자동화 시스템은 오류가 있을 수 있기 때문인 것으로 보인다. 오류 가능성을 전제하고 구제 절차를 마련하는 게 서비스 운영의 기본 원칙이라는 뜻인 것으로 보인다.
그렇지 않으면 이용료를 받아들이면서도 일방적으로 계약을 끊어버리는 것과 다를 바 없다.
더 이상한 부분이 있다. 플랫폼은 트위터에 공식 성명을 올렸는데, 내용이 "오탐은 발생하지 않았다"는 단언이었다. 즉, 밴당한 모든 계정이 실제로 규칙을 위반했다는 뜻인 것으로 보인다.
그렇다면 왜 개별 이용자에게는 이유를 설명하지 않을까?
"오탐이 없다"고 공개적으로 선언한 플랫폼이, 정작 피해자들에게는 "할 수 있는 게 없다"는 냉정한 메시지만 남기는 것으로 보인다. 이는 피해자 구제에 대한 의지가 전혀 없다고 받아들여질 여지가 크다.
몇몇 사용자들은 억울함을 토로했지만, 공식적인 재심 절차나 보상 방안은 마련되지 않은 것으로 알려져 있다. 한 온라인 커뮤니티 글에서는 이 대응 방식을 "개웃기다"라고 표현했는데, 플랫폼의 무책임함을 꼬집은 것으로 보인다.
서비스 운영사가 계약을 일방적으로 종료할 권리를 갖는 것은 사실인 것으로 보인다. 하지만 최소한의 설명 의무와 구제 절차는 다른 문제라는 지적이 커진다. 유료 서비스 이용자들은 자신의 행동이 정당히 평가받을 기회를 기대하는 게 일반적이기 때문인 것으로 보인다.
이 플랫폼의 사건은 규모가 커질수록 기업이 고객 지원을 얼마나 간과할 수 있는지를 보여주는 대표 사례로 기록되고 있다. 사용자가 많을수록, 비용이 중요할수록 책임감 있는 운영이 더욱 필수라는 역설을 드러내는 사건이기도 하다.
📌 원문 발췌
다른 업계였으면 컨텍트 메일이나 방법을 적어놨어야 하는게 정상인데 넌 추가로 할수있는게 없다 그냥 꺼져
원본 출처: 루리웹 베스트