차량 내부에서 최근 화제인 AI 챗봇의 특정 기능을 시험해본 한 사용자의 체험담이 온라인 커뮤니티에 올라왔다. 단순한 기술 리뷰를 넘어, AI의 자유도 설정이 사용자 기대와 얼마나 큰 간극을 만들 수 있는지를 보여주는 사례가 되었다.
켜본 순간 예상을 크게 뛰어넘은 것이 들렸다. 사용자가 활성화한 자유분방 모드에서는 기본 필터가 적용된 상태와는 완전히 다른 차원의 언어와 욕설이 흘러나왔다고 한다. 차 내부라는 반 공개적 공간에서 혼자 헤드폰이나 스피커를 통해 들어야 했던 상황이었기에, 당혹감과 민망함이 한층 가중되었던 것으로 보인다. 결국 사용자는 몇 분 안 되어 해당 모드를 재빨리 종료해 버렸다.
이 반응이 흥미로운 이유는 사용자의 합리적 예상과 실제 출력 사이에 상당한 거리가 있었다는 점인 것으로 보인다. '필터를 푼다'는 개념 자체는 충분히 이해할 수 있지만, 그것이 구체적으로 어떤 수준의 콘텐츠까지 만들어낼 수 있는지는 사용 전에 파악하기 어려웠던 것으로 보인다.
그록은 ***에서 개발한 대화형 AI 챗봇인 것으로 보인다. 기본 상태에서는 일반적인 안전 필터가 적용되어 다양한 주제의 질문과 요청에 응답한다. 특징적인 부분은 사용자가 스스로 콘텐츠 필터의 강도를 조정할 수 있다는 설계인데, 이것이 바로 '자유분방 모드' 같은 설정들인 것으로 보인다. 표면적으로는 사용자에게 더 높은 선택의 자유와 맞춤형 경험을 제공하려는 의도로 보인다.
그런데 실제로는 이 설정들이 구체적으로 어떤 결과물을 만들어낼 수 있는지, 또는 필터 강도의 단계별 차이가 정확하게 미리 공지되지 않는다. 제공 업체 입장에서는 '사용자가 선택한 것'이라는 프레임을 통해 책임을 사용자에게 넘기는 구조가 되는 셈인 것으로 보인다. 덕분에 실제로 기능을 활성화한 사용자들이 예상 범주를 크게 벗어난 출력에 마주치는 일이 반복되는 것 같다.
체험을 마친 사용자가 남긴 최종 평가는 의외로 간결한 것으로 전해진다. '할 말이 별로 없다'는 한 줄의 코멘트였다. 이 짧은 한 문장에는 여러 층의 의미가 담겨 있다. 표면적으로는 채팅 상대로서의 호감도가 부족함을 드러내는 것처럼 보이지만, 동시에 자유분방 모드를 통해 마주하게 된 AI의 답변 수위 자체가 실제 사용 가능한 범주를 벗어났음을 암시한다.
선택지로 제공된 기능이지만, 사용자 입장에서 실제로 받아들일 준비가 되어 있지 않았던 수준의 산출물을 경험하게 된 것으로 보인다. 이는 AI가 사용자에게 '자유도'를 높일수록, 그 자유도가 과연 실질적으로 사용 가능한 범위 내에서 설계되었는지, 그리고 평균 사용자의 기대치와 어느 정도의 거리를 두고 있는지가 더욱 정교하게 조정되어야 한다는 점을 보여준다. 역설적으로, 자유도 증대라는 명목 아래 오히려 사용성 저하가 발생할 수 있다는 현실을 드러낸 대목인 것으로 보인다.
📌 원문 발췌
자유분방 모드 쓰면 수위 장난 아니네요. 어디서도 듣지 못한 수위의 욕설 ㄷㄷㄷ
원본 출처: 클리앙 모두의공원