AI 안전을 중심에 두고 설립한 한 회사의 전직 연구원이 고민어린 경고를 공개한 것으로 전해진다. 10년 이내에 인공지능이 인류에게 직접적인 위협을 가할 가능성이 10% 이상이라는 주장인 것으로 보인다. 더 우려스러운 것은 이런 시나리오에 대한 업계의 준비가 거의 이루어지지 않고 있다는 지적인 것으로 보인다.
이 폭로가 파문을 일으킨 이유는 무엇일까. 업계 내부자의 양심 선언이었기 때문이라는 분석이 나온다. ***에서 퇴직한 이 연구원은 회사가 강조해온 AI 윤리와 안전성에 대한 진지함이 실제 현실과 괴리가 있을 수 있음을 제시한 것으로 전해진다. 공개적으로는 "책임 있는 AI 개발"을 내세우면서도, 실제로는 미처 대비하지 못한 위험들이 존재한다는 주장으로 읽힌다. 특히 자신이 다니던 회사에서 이런 우려를 제기한다는 것 자체가 얼마나 심각한 상황인지를 시사하는 것으로 보인다.
더 주목할 점은 이 경고에 제프리 힌턴이 동의를 표현했다는 부분인 것으로 보인다. 힌턴은 구글에서 현대 AI의 기초가 된 대규모 언어 모델(LLM) 기술을 개발한 핵심 인물로 알려져 있다. "AI의 대부"라고 불리는 그는 단순한 학자가 아니다. 2023년 구글을 떠나며 AI의 위험성에 대해 꾸준히 경고해온 입장을 보여왔는데, 이는 자신이 창조한 기술 자체에 대한 위기감을 공개적으로 드러낸 셈인 것으로 보인다. 당시 그는 "내가 했던 일이 해를 끼칠 수 있다"는 취지의 발언으로 업계에 파장을 일으킨 바 있다.
그런데 이번에 그가 "10% 이상의 확률"이라는 구체적인 수치에 동의했다는 것은 어떤 의미일까. 단순한 기술적 우려를 넘어선다. AI 개발을 주도하는 세계적 석학이 인류 멸망 수준의 위험에 대해 일정한 개연성을 인정했을 가능성이 있다는 뜻으로 해석되는 것으로 보인다. 더 정확히 말하면, 일반인들이 상상하는 공상과학 시나리오가 아니라, 기술의 한계와 현실을 누구보다 잘 이해하는 사람이 인정한 위험도라는 점이 무겁다.
온라인 커뮤니티에서는 이를 두고 다양한 반응이 나오고 있다. 일부는 이를 기술 엘리트들의 과장된 경고로 보는 반면, 다른 쪽에서는 업계 내부자들의 심각한 균열 신호로 읽고 있다. 특히 ***라는 AI 안전 연구를 미션으로 하는 조직 내부에서조차 대비책의 부재를 지적하는 목소리가 나왔다는 점은 주목할 만하다. 이것이 단순한 음모론이 아닐 수 있다는 신호처럼 보이는 것으로 보인다.
결국 이 일련의 발언들이 지적하는 바는 명확하다. AI 산업이 기술 발전의 속도만큼 안전성에 대한 고민이 따라가지 못하고 있다는 것으로 보인다. 기술을 가장 잘 아는 이들이 먼저 손을 들고 경고하고 있는데, 그 목소리가 얼마나 진지하게 받아들여질지는 별개의 문제로 보인다. 업계의 수익성과 기술 경쟁이 안전성 논의를 압도하는 현실에서, 과연 이들의 경고가 얼마나 실질적인 변화를 만들 수 있을지는 여전히 미지수다.
📌 원문 발췌
최근 ***에서 퇴사한 연구원이 양심발언으로 10년안에 ai가 인류를 죽일 가능성이 10% 이상이고 그에 대한 대비가 전혀 없어서 위험하다고 폭로했습니다. 거기에 대해 제프리힌턴도 그 확률에 동의했다고 전해집니다.
원본 출처: 더쿠 핫