저희 회사 ***와 협업한다고 공식 발표가 됐습니다. 수만 명 규모의 직원이 있는 회사죠.
우리 작업반 10명 중 아무도 관심이 없습니다. ***이 뭔지도 대부분 모릅니다. 저도 자세한 것은 모르지만, ***에서 회사 내에 직원들을 파견하고 AI를 설치하려고 하는 것 같습니다. 그 AI는 ***의 서비스라고 생각합니다. 공장을 디지털화하는 건지, 뭘 할 건지 정확히는 모르겠어요. 저도 크게 관심 없습니다.
하지만 ***의 매출과 수익은 거의 대부분 엔터프라이즈 고객에서 나옵니다. 저희 회사가 그 일부이고, 향후 모든 기업들은 회사 내에 AI를 설치하게 될 것입니다. 당연하고 분명한 현실입니다.
일반인들은 AI가 생활에서 피부로 느껴지지 않지만, 이미 AI가 모든 것을 지배하고 있다는 사실은 분명합니다. 토큰(데이터량)에 대한 설명은 생략하고, 간단히 데이터 사용량이라고 생각하면 됩니다.
회사가 AI를 사용하면서 효과를 보면 볼수록 더 많이 사용하겠죠. 사용량은 점진적으로 우상향할 것입니다. 회사의 모든 영역에서 AI가 사용될 것이고, 직원을 줄일수록 AI 사용량은 증가합니다. 토큰은 비례해서 증가하죠. 결론적으로 사람 한 명 = 토큰이라는 공식이 성립합니다.
곧 내가 하는 일이 토큰입니다. AI가 더 많은 일을 하게 될 것이 분명하고, 토큰은 비례해서 증가합니다. 이제 정말 중요한 부분입니다.
사람 = 토큰 / 일 = 토큰 / 모든 것 = 토큰
그리고 최종 결론: 토큰 = 메모리
메모리는 정확히 토큰의 양에 비례합니다. 메모리 수요는 "적당히"가 없습니다. 절대적으로 100배 이상 부족합니다.
지난번 방한했던 ***의 최고경영자가 한국에 요구했던 반도체 웨이퍼의 규모가 엄청난 수준이었지만, 사실은 그것도 100분의 1도 안 됩니다. ***이 방문했을 때 그는 비로소 이 현실을 깨닫고 온 것 같습니다.
메모리를 연구하고 개발하는 사람도 작년까지는 이를 제대로 몰랐습니다. ***라고 불리는 ***교수님도 작년 11월까지 몰랐다고 하더군요.
AI 산업은 메모리 공급량에 달려 있습니다.
빅테크가 설비 투자를 줄인다고 해도 메모리 수요는 줄지 않습니다. 투자를 반으로 줄이면 메모리를 절반만 구매한다고 생각할 수 있지만, 그건 틀렸습니다.
토큰이 100이고 메모리가 100이면 균형을 이룹니다. 토큰이 200으로 증가하면 메모리도 200을 맞춰야 합니다. 투자를 줄이든 말든 상관없지만, 그 대신 AI 사용에 제한을 두게 됩니다.
이런 일이 현재 실제로 진행되고 있습니다. 잘 작동하던 AI 서비스에 갑자기 사용 제한을 거는 이유는 메모리의 절대적 부족 때문입니다. 이는 고육지책입니다. 더 심해지면 AI가 느려지고 서비스는 중단됩니다.
최종 결론: 토큰의 수요를 메모리가 영원히 따라잡을 수 없습니다.
반도체 업계 주주분들은 이 점을 참고하시길 바랍니다. 투자 조언은 절대 아니며, 단순 관찰일 뿐입니다.
📌 원문 발췌
저희 회사 팔란티어와 협업 한다고 공식적으로 발표가 되었죠. 수만명 직원의 회사입니다. 우리 작업반 10명중 아무 관심 없습니다. 팔란티어가 뭔지도 모릅니다. 저도 자세한 것은 모릅니다. 팔란티어가 회사 내에 직원들을 파견하고 ai를 설치를 하겠죠. 그 ai는 엔트로픽의 서비스라 생각하고 있고 공장을 디지털 트원을 하는 것인지 무엇을 할 건지 모릅니다. 저도 크게 관심 없습니다. 엔트로픽의 매출과 수익은 거의 대부분 엔터프라이즈 고객으로 부터 나옵니다. 저희 회사가 일부이고 향후 모든 기업들은 ai를 회사내 설치하게 됩니다. 당연히 그리고 분명하게... 일반인들은 ai가 생활과 피부에 전혀 느낄 수 없지만 이미 ai가 지배하고 있다는 사실은 분명합니다. 여기서 토큰에 대해서 설명부터 해야 하지만 생략합니다.
원본 출처: 클리앙 모두의공원