한 해 시작 무렵, 대규모 언어모델(LLM)을 직접 돌려보면 좋을까 하는 단순한 호기심이 불을 지폈다. 취미로 시작한 기술 실험이 어떻게 될 줄은 아무도 예상할 수 없었다. 본인도, 그리고 독자도 말인 것으로 보인다.
처음엔 기존 PC 사양으로 LLM 실행을 시도한 것으로 전해진다. 하지만 메인보드 한 장이 날아갔다. 시스템을 정상화하기 위해 첫 번째 업그레이드에 나섰고, AMD의 최신 그래픽카드인 9070XT와 7600을 조합해 총 24GB 메모리로 구성한 것으로 전해진다. 그럼에도 만족감이 부족했다는 게 흥미롭다. 성능 기준이 점점 상향되는 경험이 생긴 것으로 보인다. 다음으로 중고 RTX3090 구매를 알아봤지만, 결국 선택한 건 AMD 7900XTX(24GB 단독 탑재)였다. 이 고성능 카드를 언더볼팅 기법으로 전력 효율을 조절하며 돌리고 있다. 불과 몇 개월 사이 하드웨어 교체가 2회 이상 이루어진 셈인 것으로 보인다.
이렇게 된 배경에 이미지 생성 인공지능이 있다. 단순히 LLM을 만지작거리다가, 시각 콘텐츠 생성에 눈이 떠진 것으로 보인다. 그 과정에서 ComfyUI라는 도구를 만났다. ComfyUI는 흔한 웹 기반 이미지 생성 도구와는 다르다. 노드(node) 단위로 작업 흐름을 직접 구성해야 하고, 각 단계의 매개변수를 세세하게 조정해야 하는 구조다. 자동화된 인터페이스가 아니라 수동 제어 기반이라는 뜻인 것으로 보인다. 그 덕분에 자유도는 높지만, 입문자가 진입하기엔 벽이 상당하다.
특히 AMD GPU 환경에서는 더욱 그러한 것으로 전해진다. 대부분의 이미지 생성 AI 도구는 NVIDIA의 CUDA 플랫폼 기반으로 최적화되어 있다. NVIDIA 그래픽카드라면 거의 '설치하고 실행하기만 해도' 작동한다. 하지만 AMD는 ROCm(Radeon Open Compute)이라는 자신들의 컴퓨팅 플랫폼을 밀고 있는데, 생태계 성숙도가 CUDA와 비교가 안 될 정도로 뒤떨어져 있다는 게 현실인 것으로 보인다. 이 사연자의 경우, 대학 컴퓨터공학 수업에서 배웠던 최적화 기법까지 동원해 직접 우회 경로를 찾아야 했던 것 같다.
'AI 그림 생성은 누르면 딱 나온다'는 말이 SNS에 퍼져 있다. 하지만 현실은 훨씬 복잡하다. 본인이 표현한 대로라면, "딸깍이면 그림 나온다던 AI는 직접 만나서 항의해보고 싶다"는 심정이 우러나온다. ComfyUI를 성실하게 다루려면 워크플로우 설계 원리, 모델 선택 기준, 매개변수별 영향도, 하드웨어 최적화 등 배울 것도, 시도할 것도 끝이 없는 것으로 보인다. 처음엔 장난 삼아 시작했던 일이 이제 제법 깊은 기술적 이해를 요구하는 영역이 된 것으로 보인다.
그렇지만 성과는 분명하다고 본다. 본인은 손으로 그릴 수 없는 그림을 AI를 통해 구현해냈다. 그것도 단순히 자동 생성이 아니라, 자신의 미적 감각을 반영해 매개변수를 조정하고, 결과물을 비판적으로 평가하면서 얻은 산물인 것으로 보인다. 이제 시선은 이미지에서 영상으로 향하고 있다. 동영상 생성 기능까지 해보고 싶다는 바람이 생겼기 때문인 것으로 보인다. 현재 경험에 비추면, AI 영상 도구가 '버튼 하나면 될까' 싶겠지만, 역시 또 다른 고민의 시작이 될 것 같다. 그런데도 그 도전 자체가 매력이 된 건, 이 여정의 재미가 바로 거기에 있다는 뜻인 것 같다.
이 사연은 결국 한 가지를 보여준다. AI 도구가 대중화된 시대라지만, 진지하게 다루려는 순간 진입장벽이 얼마나 가파른지, 그리고 그 장벽을 넘어가는 과정에서 개인은 얼마나 많은 학습과 시행착오를 겪는지 하는 현실 말인 것으로 보인다.
📌 원문 발췌
메인보드 한장 날려먹고, 9070XT + 7600 (총24G) 써봐도 뭔가 아쉬워 7900XTX를 사가지고 언더볼팅해서 돌리고 있습니다. 딸깍이면 그림 나온다던 AI는 직접 항의해보고 싶네요. 꼼꼼하게 해보려니 할거 엄청 많더군요.
원본 출처: 클리앙 모두의공원