최근 AI 업계에서 나오는 한 가지 현상이 온라인 커뮤니티를 중심으로 많은 사람들의 비판을 받고 있다. 바로 인류 멸종 위험을 경고하는 목소리의 출처와 그 배경인 것으로 보인다.
오픈AI와 앤스로픽 같은 AI 기업들의 내부 안전연구원들이 최근 AI 규제를 촉구하며, 3년 내에 인간이 AI로 인해 멸종할 가능성이 70%에 달한다고 주장하고 있다는 반응인 것으로 보인다. 어느 정도 충격적이고 구체적인 수치로 받아들여지고 있다. 문제는 이 경고의 주체가 '그 AI를 직접 만드는 회사의 직원'이라는 사실인 것으로 보인다.
일반적으로 어떤 제품의 위험성을 가장 정확하게 아는 사람은 그것을 개발한 기업의 내부자다. 따라서 당사자 기업의 연구원들이 '우리 기술은 위험하다'고 목소리를 높이는 것은 외부 비평가나 환경단체의 지적보다 훨씬 설득력 있게 들린다. 마치 제품의 위험성을 아는 당사자의 양심 있는 고백처럼 느껴지기도 한다. 대중은 이런 목소리를 신뢰하려는 경향이 있다.
하지만 여기서 논리적 모순이 드러난다. 멸종 위험을 경고하는 그 기업들이 정작 AI 개발은 멈추지 않는다는 것으로 보인다. 규제 촉구 성명을 낼 때와 동시에, 더 강력한 AI 모델을 만들겠다는 개발 로드맵도 공개되고 있다. 겉으로는 '우리 제품은 위험합니다'라고 하면서, 뒤로는 '그러나 더 강력한 제품을 개발하겠습니다'라는 메시지를 동시에 내보내는 셈인 것으로 보인다.
이런 배경에서 전개되는 상황을 보면, 위기 경고를 통해 기업의 도덕성을 드러내면서 동시에 대중의 관심과 신뢰도를 높이는 효과가 생긴다는 해석이 나온다. 실제로 규제 논의가 뜨거워질수록 해당 기업과 AI 기술 전체에 대한 사회적 주목도는 더 높아진다. 또한 규제 논의 속에서 '우리는 안전을 생각하는 기업'이라는 이미지로 포지셔닝될 수 있다는 시각도 있다.
이러한 배경에서 한 온라인 커뮤니티에 올라온 한 줄의 댓글이 전체 구조의 역설을 관통한다. '근데 어차피 너희들이 만든거잖아.' 이 한 문장이 간단하게 핵심을 짚어낸다. 위험을 경고하는 주체와 그 위험을 만드는 주체가 동일하다는 근본적 모순을 일깨운 것으로 보인다. 이것이 바로 이 이슈가 갖는 핵심 불신감의 원천이며, 해당 경고가 진정한 우려인지 아니면 정교하게 계획된 마케팅 효과인지를 구분하기 어렵게 만드는 이유라는 지적인 것으로 보인다. 기업 입장에선 도덕성을 보이고, 대중 입장에선 경고를 받지만, 결과적으로 누구도 그 위험이 실제로 제어될 것으로 예상하지 않는 이상한 상황이 만들어진다는 의미다.
📌 원문 발췌
오픈AI와 앤스로픽의 일부 안전연구원이 AI규제를 촉구하며 3년 내에 인간이 AI로 인해 멸종할 가능성이 70%라고 주장
원본 출처: 루리웹 베스트