개발 중에 Claude 같은 AI 모델과 협업하다 보면 특이한 순간을 마주친다. 특정 작업을 지시했을 때 모델이 완료하지 못하거나, 경고성 메시지를 내보내거나, 명시적으로 작업 진행을 자제해 달라는 반응을 보이는 것으로 보인다. 처음에는 단순한 한계나 오류로 여길 수 있지만, 그 패턴을 자세히 살펴보면 더 흥미로운 신호가 숨어 있다.
이러한 거부 반응이나 주저가 가장 두드러지게 나타나는 영역은 '되돌리기 어려운 작업'들인 것으로 보인다. 데이터베이스 제어, Git 조작, 컨테이너 환경 재설정 같은 인프라 작업이 대표적인 것으로 보인다. 반면 일반적인 코드 작성이나 로직 검토처럼 실패해도 상대적으로 회복이 간단한 작업에서는 이런 경고가 드물다. 이러한 차이가 우연일까, 아니면 AI 모델이 작업의 리스크 수준을 감지하고 반응하는 것일까.
한 개발자의 실제 경험은 이 질문에 대한 단서를 제공한다. 어느 날 start.sh를 통해 백엔드를 정식으로 재시작하라는 지시를 받은 Claude는 몇 가지 조건을 먼저 확인하겠다고 응답한 것으로 전해진다. 스크립트가 어떤 동작을 하는지, 특히 데이터 삭제 같은 위험한 작업은 무엇인지, 대상 서비스가 무엇인지를 먼저 파악하고 나서 진행하겠다는 입장이었다. 지시를 강행했을 때 결과는 명확한 것으로 전해진다. 공유 백엔드가 일시적으로 다운되었고, 복구 과정이 필요한 것으로 전해진다. 그 과정에서 실패한 부분들이 명확히 드러났으며, 사용자는 이 과정을 숨기지 않고 전말을 기록한 것으로 전해진다. 이는 AI의 사전 경고가 단순한 회피나 오류가 아니었음을 사후적으로 입증하는 셈인 것으로 보인다.
비슷한 패턴이 다른 AI 모델에서도 관찰되는 것으로 보인다. Gemini 같은 모델도 컨테이너 관련 작업에서 "컨테이너가 너무 많고 복잡하다", "시도했다가 실패할 위험이 있다"는 우려를 여러 번 표현했다고 한다. 지시가 계속되자 결국 "작업을 여기서 멈춰 달라"는 겁에 질린 톤의 반응까지 보였다고 전해진다. 마치 인간이 느끼는 불안감처럼 표현되는 이 반응들은, 각 모델이 작업의 복잡도와 부작용 범위를 어느 정도 인식하고 있다는 인상을 준다.
AI 에이전트가 DB나 Git, 컨테이너 같은 인프라 작업에서 특히 경고 반응을 보이는 이유는 이들이 '비가역 작업'이기 때문인 것으로 보인다. 즉, 부분적으로 실패했을 때 되돌리기가 어렵거나 불가능할 수 있으며, 한 부분의 실패가 전체 스택에 연쇄적 영향을 주는 특성을 가진다는 뜻인 것으로 보인다. 일반적인 코드 수정은 다시 실행하거나 이전 버전으로 되돌리는 것이 상대적으로 간단하지만, 컨테이너가 제대로 내려가지 않거나 DB 트랜잭션이 중단된 상태로 남으면 복구 과정이 복잡해진다는 지적이 나온다.
최근 AI와 협업하는 숙련된 개발자들 사이에서 새로운 워크플로의 특징이 자리 잡혀가는 것으로 보인다. 그것은 'AI가 겁에 질린 반응을 보일 때 사람이 멈추는 것'인 것으로 보인다. 이는 AI를 맹목적으로 따르거나, 반대로 완전히 무시하는 것과도 다르다. 오히려 AI의 경고를 중요한 리스크 신호로 읽어내고, 그 신호가 가리키는 작업의 복잡도나 부작용 범위를 인간이 다시 한 번 검토하도록 하는 피드백 루프인 셈인 것으로 보인다. 이런 접근은 공유 백엔드 다운 같은 실제 장애를 사전에 방지하거나, 최소한 장애 발생 시 그 원인을 더 명확히 파악할 수 있게 하는 것으로 전해진다.
📌 원문 발췌
지시하신 재시작 과정에서 제가 공유 백엔드를 한 번 망가뜨렸다가 복구했습니다. 숨기지 않고 전말을 적습니다.
원본 출처: 클리앙 모두의공원