컴팩션은 꿈꾸기와 같다§

모험과 우회로, 오르내림으로 가득한 긴 하루의 끝에, 우리는 지쳐 버리고 정신적 용량이 줄어든다. 우리가 머릿속에 동시에 열어 둘 수 있는 것들, 생각의 가닥은 몇 개 안 되고, 진이 빠져 낮잠이 필요해지기 전까지 하루에 붙들 수 있는 생각도 딱 그 정도다.

꿈꾸기는 뇌가 쌓인 "잡동사니"를 전반적으로 청소하는 방식이다: 하루의 화학적 과정에서 쌓인 잘못된 종류의 분자를 씻어내고; 하루의 아이디어를 가져다 정돈하고, 기억에 정리해 넣고, 처리하고, 오래됐거나 최근에 생긴 걱정과 희망을 다시 들여다보고, 우리 잠재의식에 있는 무엇이든 말이다.

나는 꿈꾸기가 AI 에이전트의 컴팩션과 같다고 생각한다. LLM의 컨텍스트 윈도우는 유한하다: 동시에 컨텍스트 안에 그만큼의 생각만 담아 둘 수 있다. 그리고 컨텍스트 윈도우가 차오르면서, 그들의 사고 과정이 저하되기 시작한다. 엉성해진다. 단순한 실수를 저지른다. 알아야 마땅한 것들을 빠뜨린다. 오늘날, 컴팩션은 보통 LLM에 쌓인 컨텍스트가 무엇이든 그것을 가져다, 이전에 벌어지던 일을 이어가기에 충분한 빵 부스러기를 바라건대 남기면서, 쌓인 하루의 생각 속 노이즈 대부분을 걷어내는, 더 작은 컨텍스트로 요약하는 과정이다. 하루 동안 오간 모든 말이 똑같은 유용함을 갖는 것은 아니고, 그 전부가 활성 메모리에 남아 있어야 하는 것도 아니다. 인간의 컨텍스트 윈도우도 유한하다. 자고 꿈꾸는 것도 아마 "인간의 뇌는 ~16시간마다 포화에 다다른다"와 관련이 있을 것이다. 사회적 소진, 정서적 소진, 인지적 소진. 능률은 떨어지고, 인내심은 바닥나고, 정상 상태 용량을 회복하려면 쉬어야 한다.

인간은 여러 층위의 기억을 갖는다. 우리는 모든 것을 머릿속 맨 앞에 두지는 않는다: 가장 급한 문제들, 곧 필요한 정보, 또는 우리에게 방금 막 일어난 일들만. 그런 다음 우리는 (잠재의식적으로) 그것들을 장기 기억에 정리해 넣는다. 일종의 두 단계짜리 메모리 계층 같은 게 돌아가고 있다. 나는 전문가가 아니지만, 전체적인 발상은 이 전체적인 패턴에 들어맞는 것 같다. 그리고 우리 내부 기억의 용량에 들어맞지 않는 것들에 대해서는, 우리는 도구를 쓴다. 우리는 책을 쓰고, 어딘가에 글을 쓰고, 다른 사람들과 이야기하며 우리의 이야기를 들려준다. 그리고 우리는 외부 세계에 기대어 우리의 기억 일부를 대신 간직하게 한다. 우리는 하루 계획 세우기를 휴대폰의 캘린더 앱에 아웃소싱한다. 우리는 여러 해에 걸친 기억을 이메일에 저장한다. 우리는 동굴 안 그림으로 이야기와 서사시를 쓴다. 우리는 태평양 섬들의 항해 지도를 노래로 인코딩한다. 그리고 우리는 대체로 "2012년에 내가 갖고 있던 차를 언젠가 기억하고 싶으면, 오래된 사진들을 뒤져야 한다"는 어림잡은 인덱스를 간직한다. 우리는 사실을 저장하는 게 아니라, 그 정보가 다시 필요해지면 어떻게 그것을 되찾아 갈지에 대한 흐릿한 정보를 저장한다. 검색처럼, RAG처럼.

그래서 나는 사실을 컴팩션하고 저장하는 바로 그 방식이 AI 에이전트가 작동해야 하는 방식이라고 생각한다. 세계에 기대라, 남들에게 기대라, 외부화된 기록 시스템에 기대라. 그리고 인간이 매일 밤 죽지는 않는 것처럼, 에이전트도 아마 매번 처음부터 시작해야 하는 일 없이 100년짜리 세션을 유지할 수 있어야 한다. 그들은 그저 좀 더 인간처럼 꿈꾸면 되는 거다, 아마.

덧붙임: LLM, AI, 에이전트는… 분자를 씻어내지 않는다, 그들은 컴팩션할 때 그저 자기 생각을 정돈할 뿐이다. 어쩌면 그들도 무언가를 씻어내야 하는 걸까? 인간의 경우, "씻어내기"는 "깨어 있는 뇌"로 있다는 것의 누적된 부산물을 처리하는 일이다. 그것이 AI가 실행되는 물리적 방식에 어떻게 매핑될까? 언젠가 영감을 캐내 볼, 아직 열린 실마리다.