인간의 기억과 슬랙 메시지
오늘은 지도 교수님과 Arm CPU에서 일어나는 특이한 행동을 검증하기 위한 실험을 설계하였다. 대화 중 교수님께서 과거의 흥미로운 경험을 회고하셨는데, ‘예전에 한 CPU에 동시성 프로그램 테스트를 했을 때, 비정상적인 실험 결과가 있었는데 알고 보니 실험 오류가 아니라 하드웨어 자체의 결함이었다’는 것이었다.
그 CPU가 무엇인지 알아야 했으나 교수님께서 CPU의 이름을 기억하시지 못하였고, 결국 이 물건의 정체를 찾기 위해 연구실 메신저를 전부 뒤져보았다. 온갖 채널에 “bug”, “hardware”, “errata”, “cpu” 등의 쿼리를 던져본 끝에 OOO 박사님께서 문제의 CPU를 두고 “flawed"라고 표현한 2022년의 스레드를 발견했다.
소박한 성취감을 느끼던 중 문득 ‘정제된 문서가 아니더라도 연구 과정에서 오고 간 모든 이야기가 텍스트로 저장되어 있다면 어떨까?’ 하는 생각이 들었다. LLM은 방대한 텍스트 데이터를 누구보다 효율적으로 요약해 줄 수 있으니, 저장소와 잘 연동만 되었다면 오늘과 같은 급박한 상황에서 필요한 정보를 순식간에 뽑아줄 수 있었을 것이다. 낙서도 저장만 해두면 쓸모 있는 정보가 되어 돌아오는 놀라운 세상이다. 그러다가 상상의 엑셀을 밟아버렸고 컴퓨터가 우주에서 벌어지는 모든 일을 기록해두면 어떨지 궁금해졌다.
기록의 무게
Gemini: 정말 흥미롭고 거대한 사고 실험이네요. 필요한 메모리 크기는 천문학적으로 달라집니다.
Level 1: 현재 존재하는 모든 디지털 데이터만 저장한다면?
- 추정 데이터량: 약 175~180 제타바이트(ZB). (1 ZB = 10^21 Bytes)
- 결론: 30TB HDD 약 60억 개가 필요합니다. 인류가 가진 모든 실리콘을 긁어모으면 겨우 가능한 수준입니다.
Level 2: 인간의 뇌와 경험까지 저장한다면? (매트릭스 수준)
- 추정 데이터량: 약 20 요타바이트(YB). (1 YB = 1,000 ZB)
- 결론: 현재 기술로는 저장 불가능합니다. DNA 스토리지 같은 혁신적인 스토리지 기술이 필요합니다.
Level 3: 물리학적 완전성을 추구한다면? (라플라스의 악마)
- 추정 데이터량: 지구의 모든 원자 상태를 기록해야 하므로 10^50 바이트 이상.
- 한계: 란다우어의 원리(Landauer’s Principle)에 의해, 정보를 기록하는 데 발생하는 열에너지만으로도 지구는 불타오를 것입니다.
제타바이트, 요타바이트가 도대체 언제 쓰는 단위인가 싶어 따로 관련 내용을 찾아보았다. 현재 모든 데이터센터의 저장공간을 합산했을 때 얼추 150 제타바이트로 추정할 수 있고 1 요타바이트 시대에 진입하려면 한참 남았단다. Gemini의 답변을 읽으며 세상의 모든 정보를 기록할 욕심을 내려놓았다.
Gemini: 텍스트 저장의 압도적 효율성
- 대화(Speech): 인류 80억 명의 하루 대화량을 텍스트로 변환하면 약 768 TB에 불과합니다. 오디오 저장(7.2 EB) 대비 약 1/10,000 수준으로 압축됩니다.
- 생각(Inner Speech): 뇌내 발화 속도를 감안해도, 전 인류의 하루 생각은 8 PB(페타바이트) 면 충분합니다.
- 결론: 텍스트로만 저장한다면 대형 데이터센터 1~2개만 비워도 전 인류의 역사를 기록할 수 있습니다. 저장 공간 문제는 해결됩니다.
하지만, 단순 텍스트 기록은 손실 압축(Lossy Compression)이다. “밥 먹어요"라는 텍스트만으로는 그것이 진심 어린 제안인지 그냥 형식적인 인사말인지 알 수 없기 때문이다.
Gemini: 각본(Script) 모델의 용량
- 지문(Context)이 대사(Content)보다 10배 더 길다고 넉넉하게 가정해도, 연간 데이터량은 약 32 EB(엑사바이트) 수준입니다.
- 결론: 인류 전체의 ‘뉘앙스’까지 포함한 역사를 텍스트로 기록하는 것은 현재 빅테크 기업 몇 곳의 경제력과 기술력으로 충분히 감당 가능합니다.
데이터 센터를 짓다가 지구가 멸명할 것 같지는 않다. 하지만 Gemini는 곧바로 다른 문제를 알려주었다.
Gemini: 진짜 병목은 스토리지가 아닌 연산(Compute)
저장 공간 문제는 해결되었지만, 새로운 문제가 등장합니다. 바로 ‘누가 그 괄호 안의 지문을 작성하는가?’ 의 문제입니다.
현실의 복잡한 상황을 보고 그것이 비웃음인지 쓴웃음인지 판단하여 텍스트로 변환(Captioning)하려면, 80억 명 각자에게 초지능 멀티모달 AI가 붙어 실시간으로 해석해야 합니다.
Gemini: 전 인류 리얼타임 해석 시스템의 부하
- 하드웨어 요구량: 80억 명의 시각/청각 정보를 실시간으로 추론하기 위해 NVIDIA H100 GPU가 약 8억 개 필요합니다.
- 현실의 벽: 이는 현재 전 세계 반도체 생산 능력의 약 1,000년 치에 해당하며, 8억 개의 GPU가 뿜어내는 열은 지구 기온을 유의미하게 상승시킬 것입니다.
세계를 모델링하는 기술적 병목은 아직 저장 장치가 아니라 세상의 정보를 적절히 추상화할 수 있는 지능의 총량(연산량) 에 있는 것으로 보인다. 역시 고성능 M5 맥북 프로만이 현대인을 성공으로 이끄는 것이다! 얄팍한 자기 합리화로 소비의 충동이 시대적 소명처럼 밀려오던 찰나, Gemini 선생이 갑자기 한 마디를 덧붙였다.
Gemini: 재미있는 상상
- 우주가 만약 시뮬레이션이라면, 이 연산 비용을 아끼기 위해 관찰자가 볼 때만 해석(렌더링)하고, 안 볼 때는 대충 확률 파동으로 놔두자라고 설계했을 수도 있습니다. 이것이 바로 양자역학의 ‘코펜하겐 해석’과 ‘슈뢰딩거의 고양이’가 탄생한 이유일지도 모릅니다. 모든 곳을 해석(Compute)하기엔 우주 서버의 GPU가 부족하니까요.”
잠이 싹 달아났다.