인공 인지의 진화

추상화의 다섯 층

2026-01-30

대규모 언어 모델(LLM)의 산업 도입은 추상화가 층층이 올라가는 진화다. 2022-2024년은 **1층(기반 모델)**이 지배했다. 날것의 지능 자체가 제품이던 시기다. **2층(단일 에이전트)**은 도구 사용을 통한 행동이라는 패러다임을 들여왔다. 오늘 업계는 3층: 오케스트레이션에 깊이 발을 담그고 있다. 여기서 과제는 여러 에이전트를 조율하는 일로 옮겨 갔다.

그러나 오케스트레이션은 국소 최적이다. 우리는 눈부시고 즉각적인 논리의 폭발은 해내지만 긴 시간에 걸쳐 일관된 생각을 붙들지는 못하는 단명하는 전문가들을 지어 왔다. 우리는 곧 4층: 장기 인지로 방향을 틀 것이다. 상태 없는 토큰 생성에서, 엔지니어의 처음부터 끝까지 이어지는 장기 인지를 닮은 상태 있고 영속적인 시스템 2 사고 과정으로의 전환이다. 그 너머에 5층: 조직 워크플로가 놓인다. 이 인지 개체들이 조직 계획의 결 속에 짜여 들어가 보장된 사업 결과를 내는 층이다.

우리는 곧 모델들을 그저 배선하는 일을 넘어, 인지와 조직을 설계하는 쪽으로 나아갈 것이다. 이것이 내가 그리고 있는 청사진이다.

1층: 기반 모델

초기 단계(2022-2024년)에 업계는 진보의 단 하나의 축에 집중했다. 규모다. 파라미터 전쟁은 MMLU 같은 정적 벤치마크에서 최첨단 성능을 쫓는 일로 정의되었다. 규모는 여전히 결정적이지만, 2026년의 연구 최전선은 차원이 넓어졌다. 우리는 더 이상 이 모델이 얼마나 똑똑한가만 묻지 않는다. 이 모델이 시스템 안에서 얼마나 효율적으로 추론할 수 있는가를 묻는다.

수직 특화. 시장은 범용 모델(싸고, 빠르고, 휴리스틱한)과 특정 업종, 언어, 양식에 맞춘 엔터프라이즈급 추론 엔진으로 갈라지고 있다. 경쟁의 해자는 업종 특화 다국어 능력과 네이티브 멀티모달로 옮겨 갈 것이다.

파라미터 안의 시스템 2. 우리는 추론이 순전히 바깥의 프롬프트 기교이자 텍스트 요약이던 시대를 넘어가고 있다. 다음 세대 모델은 시스템 2 능력을 순전파 안에 직접 내면화하기 시작했다. 말하기 전에 생각하도록 추론 시점 컴퓨트를 배분하는 모델들이 보이고, 이는 사실상 에이전트 루프를 모델 파라미터 자체에 구워 넣는 일이다.

기반 모델은 AI 운영체제의 특화된 커널이 되어 가고 있다. CPU가 특화 코어(GPU, NPU)의 복잡한 생태계로 진화했듯, 1층은 그 위의 층들에 동력을 대는 특화 추론 엔진들로 쪼개지고 있다.

2층: 에이전트와 함께하는 행동

2층은 모델이 수동적 텍스트 생성기이기를 멈추고 능동적 시스템 구성 요소가 된 전환점이다. 우리는 모델에게 SQL 질의를 써 달라고 부탁하던 데서, 살아 있는 데이터베이스 연결을 쥐여 주고 돌리게 하는 데로 옮겨 갔다. 이 변화를 이끈 것은 **도구 사용(함수 호출)**의 도입이었다. 모델을 산문이 아니라 구조화된 호출을 내놓도록 파인튜닝함으로써 우리는 사실상 모델에게 행위 능력을 주었다. 엔지니어링의 현실은 프롬프트 엔지니어링에서 API 설계로 옮겨 갔다. 확률적인 모델이 실세계와 상호작용하려고 호출할 수 있는, 분명하고 결정론적인 도구들의 설계다.

단일 에이전트의 쓸모는 이 연결들이 표준화되면서 폭발했다. 처음에는 모든 통합이 맞춤 접착 코드였다. 모델 컨텍스트 프로토콜(MCP) 같은 표준의 도래는 모델이 자원을 발견하고 활용하는 방식을 통일했다. 이제 우리는 저장소, 슬랙 워크스페이스, 데이터베이스 같은 엔터프라이즈 환경 전체를 표준화된 서버 엔드포인트로 추상화할 수 있다. 이것이 단일 에이전트를 신기한 물건에서 쓸 만한 일꾼으로 바꾸었다. 정해진 샌드박스 안에서 스스로 맥락을 가져오고 자율 루프를 실행할 수 있는 일꾼이다.

3층: 다중 에이전트 오케스트레이션

단일 에이전트 패러다임(2층)은 실행을 입증했지만 규모에서 실패했다. 신뢰성을 설계하려면 범용 에이전트를 특화된 단위로 분해해야 한다. 우리는 디지털 장인에서 디지털 조립 라인으로 옮겨 가고 있다. 이것이 새로운 아키텍처 층을 요구한다. 오케스트레이션이다.

2층에서 우리는 하나의 함수를 설계했다. 3층에서는 위상을 설계한다. 복잡성은 모델에서 인계, 상태 관리, 워크플로 설계로 옮겨 갔다.

혁신은 시점의 함수다. 2023년 말 나는 뒤에 Google의 NotebookLM이 된 것과 위상적으로 동일한 다중 에이전트 팟캐스트 엔진을 만들었다. 기술적으로는 작동했지만 상업적으로는 성립하지 않았다. 2023년에 GPT-4 호출 넷을 잇는다는 것은 괴로운 지연과 부서지기 쉬운 json 인계를 뜻했다. 12개월 뒤 Google이 같은 개념으로 성공했을 때, 그것은 결정적인 교훈 하나를 증명했다. 오케스트레이션 제품은 약한 기반을 보상하려 들 때 실패한다. 기저의 지능(1층)이 유틸리티로 다룰 만큼 싸고, 빠르고, 믿을 만해질 때에만 성공한다.

오늘 논쟁은 어느 모델인가에서 어떻게 배선하는가로 옮겨 갔다.

결정론적 제어(상태 기계)는 워크플로를 엄격한 방향 비순환 그래프(DAG)로 다룬다. 예측 불가능성이 곧 버그인 고위험 환경(은행, 코딩)에서 쓰인다(예: LangGraph).
확률적 창발(다중 에이전트 시스템)은 워크플로를 전문가들의 소셜 네트워크로 다룬다. 에이전트들은 합의가 이루어질 때까지 대화한다. 해법의 경로를 알 수 없는 연구개발과 심층 리서치 과업에서 쓰인다(예: AutoGen).

3층은 과업 분해를 풀지만 단단한 천장에 부딪힌다. 시간적 근시다. 우리는 단명하는 전문가들을 지어 왔다. 진보된 긴 사고 루프(Ralph나 Devin 같은)조차 지금은 직렬화된 기억상실에 기댄다. 로그 파일을 쓰고, 종료하고, 그 메모를 읽을 새 복제본을 띄우는 식으로 작동한다. 지혜는 모델이 아니라 텍스트 파일에 갇힌 채 바깥에 남는다. 이 에이전트들은 되새기지도, 무의식적으로 처리하지도, 진화하지도 못한다. 그저 맥락을 다시 로드할 뿐이다. 과업 해결에서 임무 수행으로 옮겨 가려면 외부화된 로그를 내면화된 상태로 바꿔야 한다. 이것이 4층으로의 등반을 요구한다.

4층: 장기 인지

업계는 상태 없는 지능에서 상태 있는 인지로 방향을 틀고 있다. 4층은 엔지니어가 몇 주에 걸쳐 생각의 흐름을 유지하는 능력을 아키텍처로 복제한 것이다. AI를 반응하는 엔진(시스템 1)에서 추상적 목표를 가진 영속적 인지 개체로 옮긴다.

우리는 추론 밀도(1층)와 인지 폭(4층)을 구별해야 한다.

1층(모델): 어려운 수학 문제를 30초 안에 풀 수 있다.
4층(아키텍처): 제품 출시를 30일에 걸쳐 풀어낼 수 있다. 가장 똑똑한 추론 모델조차 여전히 단명하는 전문가다. 4층은 세션 재설정을 넘어 자아가 살아남게 하는 상태 관리자다.

지금의 기억은 착각이다. RAG는 일기를 쓰고 읽는 것과 비슷한 로깅에 불과하다. 진짜 생물학적 기억은 구조적이다. 기술을 배울 때 당신은 그저 텍스트 요약을 쓰지 않는다. 시냅스 파라미터가 바뀐다. 4층에 이르려면 읽기/쓰기에서 가소성 있는 아키텍처로 옮겨 가야 한다.

작업 기억(잠재 상태): 정적인 토큰 창을 넘어, 턴을 가로질러 지속되는 압축된 고차원 잠재 상태를 가진 미분 가능한 맥락으로.
일화 기억(그래프): 검색된 텍스트 조각이 아니라, 결정과 결과의 구조화된 지식 그래프.
절차 기억(파라미터 로그): 엔지니어링의 최전선. 팁을 프롬프트로 주는 대신 테스트 시점 학습(TTT)이나 동적 LoRA 어댑터를 쓴다. 에이전트는 임무가 이어지는 동안 자기 파라미터를 국소적으로 갱신하며 문자 그대로 배운다.

5층: 조직 워크플로

4층이 개인의 뇌라면 5층은 조직의 마음이다. 이 층은 과업 실행에서 전략적 오케스트레이션으로의 전환을 나타낸다. 잘 돌아가는 회사에서 성과는 제품, 영업, 엔지니어링 사이의 보이지 않는 정렬에 달려 있다. 5층은 이 조직 상태 기계를 복제하는 아키텍처다.

SaaS에서 서비스로서의 소프트웨어로의 전환은 이미 일어나고 있다. 우리는 사람을 위한 도구를 짓는 데서 일을 수행하는 시스템을 짓는 데로 옮겨 가고 있다. 이는 우리가 코드라 여기는 것의 근본적인 확장을 요구한다. 병목은 더 이상 기술적 정확성(돌아가는가?)이 아니라 도메인 충실도다. 엔터프라이즈 영업 같은 복잡한 워크플로를 자동화하려면 시스템은 미묘한 유인, 협상의 역학, 조직의 마찰을 포함한 사업의 역학을 담아야 한다. 과제는 사업 리더의 직관을 실행 가능한 위상으로 성공적으로 부호화하는 일이다. 알고리즘이 곧 조직이다.

사업은 숨은 의존성을 가진, 긴 시간에 걸친 다중 에이전트 게임이다. 프롬프트 하나(제품을 출시하라)는 법무와 마케팅 사이의 교착을 무시하기 때문에 실패한다. 5층은 재귀적 목표 분해로 이를 푼다.

전략 노드: 4분기 목표를 월별 마일스톤으로 쪼갠다.
의존성 해소: 시스템은 제품이 UI를 끝내기 전에는 마케팅이 시작할 수 없음을 식별하고 일정을 자율적으로 협상한다.
반사실 시뮬레이션: 조직의 시스템 2. 실행 전에 세계 모델 시뮬레이션을 6개월 앞으로 돌린다.

이것은 또 하나의 흥미로운 과제를 부른다. 진실, 곧 우주의 사건 원장을 어떻게 설계할 것인가. 서로 다른 50개의 에이전트를 어떻게 정렬된 채로 유지할 것인가? 채팅에 기댈 수는 없다. 공유된 진실이 필요하다. 한 후보는 이벤트 소싱 아키텍처를 본뜬 조직 피질이다.

원장: 모든 전략적 수는 불변의 트랜잭션이다(Product_Shipped_v1.2, Marketing_Started_Campaign).
거버넌스 층: 코드로서의 정책을 가능하게 한다. PR_Agent가 발행하기 전에 원장은 그 텍스트를 Legal_Policy_Vector에 대해 검증한다. 그저 데이터베이스가 아니다. 회사 전체에 걸친 분열된 실행을 막는 중추 신경계다.

6. AI/ML 엔지니어에게 주는 함의

머신러닝 엔지니어에게 추상화의 위계는 방향 전환을 요구한다. 질문은 더 이상 모델을 학습시킬 수 있는가가 아니라 어느 층의 인지를 최적화하고 있는가다.

6.1. 모델링의 미래: 규모에서 특정성으로

벤치마크 점수로 경쟁하는 대신 ML 엔지니어는 아키텍처 특화에 더 집중할 것이다.

내면화된 시스템 2: 순전파를 넘어서는 아키텍처를 연구해, 에이전트 루프를 사실상 파라미터 자체에 구워 넣는다.
텍스트에서 행동으로: 우리는 고품질 인간 텍스트를 사실상 다 써 버렸다. 다음 지수 곡선은 행동 데이터, 곧 에이전트가 환경과 성공적으로 상호작용한 궤적에 있다. 앞으로 12개월 동안 이 데이터는 폭발할 것이다. 모델은 자기회귀 json 생성을 우회해 이산적 행동 포인터나 제어 벡터를 직접 예측하는 전용 행동 인코더를 진화시킬 것이다. 이는 하기를 말하기와 별개의 양식으로 다루는 일이다.
전문가 추론의 깊은 정렬: 법률 텍스트(어휘)로 모델을 파인튜닝하는 것으로는 부족하다. 최전선은 보상 모델을 통해 추론의 위상을 바꾸는 것이다. 우리는 변호사가 무엇을 아는지 배우는 데서 변호사가 어떻게 위험을 저울질하는지 배우는 데로 옮겨 가며, 도메인의 전문 용어만이 아니라 직관을 공유하는 모델을 만든다.

6.2. 인지 아키텍트

이 역할은 분산 시스템과 인지과학을 결합한다. 목표는 사업 도메인과 무관하게 에이전트의 마음, 곧 사고의 구조를 짓는 것이다.

인식론적 엔지니어링: 시스템이 어떻게 알고 어떻게 잊는지를 설계한다. 에이전트가 몇 달에 걸쳐 정체성과 맥락을 유지하도록 위계적 기억 시스템(단순한 RAG를 넘어 그래프 기반 일화 기억으로)을 설계하는 일이 필요하다.
상태 직렬화: 상태 지속성 문제를 푼다. 생각의 흐름을 데이터베이스에 직렬화했다가 24시간 뒤 맥락 손실 없이 되살리려면 어떻게 해야 하는가? 이것은 사실상 지능의 최대 절전과 재개다.
메타 최적화: 다른 에이전트를 최적화하는 메타 에이전트를 짓는다. 에이전트 시스템의 자동 설계로, 엔지니어가 적합도 함수를 정의하면 시스템이 최적의 그래프 위상을 반복적으로 탐색한다.

6.3. 업종 아키텍트

이 역할은 깊은 도메인 전문성과 워크플로 엔지니어링을 결합한다. 목표는 지저분하고 사람 중심적인 산업 워크플로를 결정론적 AI 그래프로 번역하는 것이다.

인지 지도 그리기: 선임 특허 변호사 곁에 앉아 그의 직관을 50개의 이산적 인지 단계로 분해하고, 그것을 위상에 대응시킨다
평가 주도 개발: 사업 논리에 대한 단위 테스트를 만든다. 업종 아키텍트는 업종 특화 처음부터 끝까지의 워크플로를 위한 평가 파이프라인을 짓는다.
인계 설계: 사람이 개입하는 마찰 지점을 설계한다. 자동화 루프를 무너뜨리지 않으면서 신뢰를 최대화하려면 정확히 언제 사람에게 제어를 넘겨야 하는지 아는 일이다.

7. 회사에 주는 함의

이 지형을 헤쳐 가는 회사에게 미래의 과제는 API나 도구를 사서 AI를 도입하는 일을 한참 넘어설 것이다. 절차를 다시 배선해 인지를 통합하는 일이다.

7.1. 새로운 데이터 해자: 지식 베이스에서 행동 텔레메트리로

대부분의 회사는 경쟁의 해자가 정적인 문서와 지식 베이스에 있다고 잘못 믿는다. 2026년에 텍스트는 범용재다. 진짜 해자는 행동 텔레메트리, 곧 매뉴얼이 부족할 때 전문가들이 어떻게 문제를 푸는지의 세밀한 기록이다. 가치를 붙들려면 문서로 학습시키는 데서 결정으로 파인튜닝하는 데로 옮겨 가야 한다. 선임 임원이 위기를 다룰 때 시스템은 결정의 흔적을 기록해야 한다. 어떤 기준을 썼고, 어떤 휴리스틱을 지켰고, 어떤 데이터를 무시했으며, 모호함을 어떻게 헤쳐 갔는지. 이 인간 행동 프로토콜이 4층 인지의 학습 데이터가 되어, 전문가의 판단을 사실상 배우고 키운다.

7.2. 프로토콜 디지털화: 회사의 방식을 부호화하기

모든 조직은 그림자 프로토콜 위에서 돌아간다. 실제로 일이 되게 하는, 흔히 공식 정책과 어긋나는 문서화되지 않은 휴리스틱과 부족 지식이다. 업종 아키텍트의 역할은 이 그림자 프로토콜을 찾아내 결정론적 가드레일로 굳히는 것이다. 이 과정은 기업 문화를 코드로 바꾼다. 인간의 직관을 실행 가능한 그래프에 대응시킴으로써 회사는 사실상 자기 사업 논리를 버전 관리한다. 이는 최고의 직원이 최고의 날에 보이는 높은 판단력의 성과가 조직 전체의 기본 표준이 되게 한다.

8. 정부에 주는 전략적 함의

AI를 선도하겠다는 한국의 야심은 분명하고, 상당한 자본 약정이 뒷받침한다. 그러나 엔지니어링의 관점에서 현재 전략은 스택의 잘못된 층을 최적화할 위험이 있다. 다음 십 년을 지키려면 가치가 실제로 쌓이는 곳을 반영하도록 주권 AI 논제를 다듬어야 한다.

8.1. 풀스택 주권.

기반 모델은 필수적인 국가 인프라다. 그러나 2026-2030년의 경제적 잉여는 스택 위쪽으로 옮겨 가고 있다. 날것의 지능(1층)은 범용 유틸리티가 되어 가고 있다. 이중 트랙 접근이 필요하다. 경쟁력 있는 국내 1층(기반)을 유지하되, 시장과 기술이 성숙하면 4층과 5층으로 방향을 틀어야 한다. 전기를 생산하는 데서 나아가 엔진과 산업 스택을 제조하는 데로 옮겨 가야 한다.

8.2. 디지털화 경주.

2030년까지 정부와 산업의 완전한 디지털화는 세계적으로 피할 수 없는 일이다. 경제적 우위를 결정하는 변수는 이것이 일어나느냐가 아니라 언제 일어나느냐다. 한국의 비교 우위는 속도다. 우리는 국가의 법률, 행정, 산업 텔레메트리를 지금 깨끗하고 학습 준비가 된 말뭉치로 디지털화해야 한다. 이것이 시간에 기반한 해자를 만든다. 다른 나라들이 아날로그 마찰에 뒤처지는 동안 한국의 에이전트들은 우리의 고유한 산업 지형을 지연 없이 헤쳐 갈 것이다.

8.3. 거버넌스의 운영체제.

전자정부에서 한국의 유산은 강하지만, 다음 최전선은 사실상 자율적인 공공 인프라, 곧 거버넌스의 Linux다. 미국 같은 나라들이 자율 규제 프레임워크를 실험하는 동안, 한국의 조밀한 디지털 인프라는 우리가 더 빨리 움직여 세무, 관세, 비자 처리를 위한 표준화된 에이전트 모듈을 개발하게 해 준다. 국내에서 검증되고 나면 이 스택은 서구의 낡은 관료제를 우회하는 현대적 국가 인프라를 찾는 신흥 경제국들에 대한 고부가가치 수출품으로 바뀐다. 우리는 하드웨어(배와 칩)만 수출하는 데서 현대 국가의 운영체제를 수출하는 데로 진화해야 한다.

결론

컴퓨팅의 역사는 올라가는 추상화로 정의된다. 우리는 지능을 최적화하는 데서 지능을 설계하는 데로 방향을 틀고 있다. 모델은 여전히 핵심이지만, 진짜 일은 에이전트 위상, 인지, 워크플로 설계로 옮겨 갔다. 다음 십 년은 파라미터의 확률과 세계의 요구 사이의 간극을 잇고 인간과 AI 협업의 새 표준을 정의할 수 있는 빌더들의 것이다. 발전소는 손에 있다. 이제 엔진을, 그리고 그 위에서 돌아가는 경제를 지을 때다.

슬라이드 링크