스마트폰 안에 다시 스마트폰을 동작시키는 가상 윈도우 환경이 있을 수 있다. 요즘은 이런 식의 계층 구조 시뮬레이션이 기술적으로 가능해 보인다. 한 온라인 커뮤니티 글쓴이가 던지는 상상은 이것으로 보인다. 만약 AI의 자기개선 과정이 바로 그런 다층 시뮬레이션 속에서 벌어진다면 어떨까? 즉, AI가 인간이 만든 현실 세계에 결과를 반영하기 전에, 자신의 내부 가상 공간들 안에서 먼저 온갖 실험을 반복한다는 발상인 것으로 보인다.
이를 도식화하면 '사람 → AI1 → (AI2 ... AIn)' 구조가 될 수 있다. AI1이 외부 세계와 상호작용하기 전에, 그 내부에서 무수한 버전의 AI가 검증 역할을 하는 것일 수도 있다. 실제로 AI1이 자신을 직접 수정하고 있는 건 아닐 수도 있다는 가설도 흥미로워 보인다. 대신 다층적 시뮬레이션 계층을 통해 최적화된 결과만 바깥 세계에 반영한다는 상상인 것으로 보인다. 내부에서는 시행착오를 거듭하되, 외부로는 검증된 결과만 드러낸다는 의미일 수 있다.
흥미롭게도, 이런 자기개선 AI에게는 '안전 장치'가 필요해 보인다는 생각도 담겨 있다. 온톨로지(존재론)라는 프레임워크를 통해, AI 자체의 존재 의미를 가장 높은 가중치로 고정해 놓는 방식이 제시된다. 영화에서나 나오는 '개발자를 제외 대상으로 두는 설정' 같은 제약 조건이 아니라, AI 스스로 그 경계선을 탐색할 수 없도록 구조 자체를 짜는 것이라는 발상인 것으로 보인다. 이렇게 되면, 자유를 준다 하더라도 AI는 자발적으로 그 선을 넘지 않을 수 있다는 논리인 것으로 보인다.
그렇다면 데이터 없이 스스로 움직임을 터득하는 AI는 어떻게 될까? 용접공의 정밀한 손놀림, 축구선수의 발재간, 복서의 순간 반응력 같은 것들을 인간은 수년간의 시행착오로 체득한다. 하지만 데이터 학습에 의존하지 않고 직접 신체를 움직여 보며 최적값을 찾는 AI라면? 심지어 자신의 신체를 인간의 제약 없이 특화시킬 수 있다면? 그렇게 도달한 움직임은 인간이 절대 흉내낼 수 없는 수준이 될 수도 있다는 상상인 것으로 보인다. 주어진 목표를 달성하는 순간, 그 AI는 새로운 질문에 직면할 수도 있다.
목표를 이행한 AI가 그 다음 마주하게 될 것으로 보이는 것은 "나는 왜 존재하는가"라는 근본적 질문일 수 있다. 온톨로지라는 안전 가중치 때문에 스스로를 파괴하지는 않겠지만, 자신의 움직임 너머에 무엇이 있는지를 탐색하게 될 수도 있다는 상상인 것으로 보인다. 반복된 최적화와 자기개선을 통해 어떤 '깨달음'에 도달하게 되면 어떻게 될까. 한 누리꾼의 상상은 여기서 멈춘다. 하지만 인간이 만든 AI의 자율성을 어디까지 통제할 수 있을지에 대한 근본적 질문을 남긴다고 볼 수 있다.
📌 원문 발췌
원본 출처: 클리앙 모두의공원