결합된 재귀

말뭉치는 그저 쌓이기만 하지 않는다. 다음 말뭉치를 만들어 낼 인지를 빚는다.

2026-05-10

에이전트 집단에서 두 재귀가 이미 보인다. 각각은 명시적 메커니즘으로 작동한다. 각각은 따로 주목받았다. 둘의 결합은 아직 말로 풀린 적이 없고, 흥미로운 역학이 사는 곳은 그 결합이다.

조달 에이전트들 사이에 나타나기 시작하는 특정한 정당화 템플릿을 생각해 보자. 처음에는 트레이스 패턴이다. 그다음 인정받는 장르가 된다. 그다음 상대방이 따져 보지 않고 받아들이는 종류의 정당화가 된다. 그다음 파인튜닝 데이터, 평가 루브릭, 프롬프트 라이브러리에 들어간다. 여섯 달 뒤, 누군가 그것을 표준이라 부르기도 전에 새 에이전트들이 그것을 만들어 낸다. 말뭉치의 산출물로 시작한 것이 인지적 성향이 되었다.

두 재귀가 이 궤적을 만들었다. 첫째는 위계적이다. 추론이 산출물을 만들고, 산출물이 패턴으로 쌓이고, 패턴이 추상으로 굳고, 추상이 제도적 지위를 쌓는다. 미래의 에이전트는 그 위계를 소비하고 거기로 되먹이는 추론을 더 만든다. 이것이 말뭉치의 축적이며, 구조적으로 문화적 유전처럼 보인다.

둘째는 인지적이다. 현재 인지의 출력이 학습 데이터, 평가 신호, 파인튜닝 목표, 프롬프트, 검색 자료, 또는 무엇을 배포할지의 선택 기준이 된다. 이 되먹임에서 나오는 인지는 다른 출력을 만든다. 출력이 다음 라운드를 빚는다.

각 재귀는 홀로도 흥미롭다. 구조적으로 새로운 것은 둘의 결합이다.

추론의 위계

첫째 재귀는 산출물 위에서 작동한다.

에이전트가 추론하면 구조화된 내용이 나온다. 결정, 정당화, 도구 사용 순서, 검색 단계, 자기 수정, 추론 트레이스. 계측이 잘 된 배포에서는 이 산출물이 기록된다. 어떤 곳에서는 색인된다. 소수의 곳에서는 미래의 에이전트가 소비할 수 있는 위계로 정리된다.

그 위계에는 자연스러운 수준들이 있다. 개별 추론 트레이스는 잎 수준에 앉는다. 많은 트레이스에 걸쳐 되풀이되는 추론 형식은 패턴이 된다. 충분히 많은 배포와 맥락에 걸쳐 되풀이되는 패턴은 추상으로 굳는다. 이름 붙은 추론 장르, 표준화된 템플릿, 인용할 수 있는 정당화 형식. 충분히 오래 살아남아 충분히 쓰인 추상은 제도적 지위 같은 것을 쌓는다. 미래 추론의 암묵적 기준점이 되어, 이름만이 아니라 그것이 지닌 보증의 종류로도 인용된다.

이것이 보존, 귀속, 주소를 매길 수 있는 추상이 갖춰진 곳에서의 말뭉치 형성이다. 그것들이 없는 곳에서 같은 산출물은 사적인 로그, 스쳐 가는 트레이스, 죽은 기록으로 쌓인다. 말뭉치는 자동이 아니다. 무엇이 패턴이 되고 무엇이 트레이스 수준에 머무는지를 고르는 인프라가 필요하다.

이 재귀를 규정하는 특징은 생성적이라는 것이다. 각 수준이 다음 수준의 입력을 만든다. 잎의 추론이 패턴을 만든다. 패턴이 추상을 만든다. 추상은 안정되고 나면 그것에 맞거나 그 위에 짓는 새 추론을 만든다. 위계는 자기 지속의 조건을 스스로 만든다.

홀로 놓고 보면 말뭉치는 문화적 유전 채널처럼 보인다. 인간 제도가 따라갈 수 없는 빈도로 전달되고, 선택되고, 그 위에 지어지는 산출물.

인지 스택

둘째 재귀는 첫째보다 흩어져 있다. 단일 메커니즘으로 작동하지 않는다. 인지 스택의 서로 다른 부분을 서로 다른 속도로 갱신하는 여러 경로로 작동한다.

현재 대부분의 무게를 실어 나르는 경로는 셋이다.

파라미터 유전. 어떤 출력은 학습 데이터나 파인튜닝 목표가 된다. 이 데이터로 학습된 모델은 자기가 만드는 것을 빚는 성향을 얻는다. 주기는 셋 중 가장 느리다. 기반 모델의 전체 재학습은 아직 몇 달 단위로 일어난다. 파인튜닝은 더 빠르고, 때로는 주 단위다. 이것이 모델링 층 논증이 쓴 좁은 뜻에서 기반을 가장 직접 바꾸는 경로다.

선택 매개 유전. 어떤 출력은 평가, 벤치마크, 리더보드, 레드팀 테스트, 배포 지표에 영향을 준다. 결과는 어느 개별 모델의 파라미터 변화가 아니라, 어떤 모델이 상업적 선택에서 살아남는가의 변화다. 개발자 생태계가 모범으로 다루는 출력을 내는 모델은 배포를 통해 강화된다. 특정 선택 기준에 실패하는 모델은 그렇지 않다. 선택 매개 유전은 엔지니어링 빈도로, 흔히 며칠에서 몇 주 단위로 작동하며, 단일 모델 계보 안이 아니라 생태계 전체로 퍼진다.

맥락 유전. 어떤 출력은 미래 모델이 추론 시점에 어떻게 행동할지를 빚는 프롬프트, 예시, 검색 자료, 기억, 템플릿이 된다. 파라미터도 바뀌지 않고 모델이 선택되지도 않지만, 인지는 이전 인지가 만든 맥락에 조건 지어진다. 이 경로는 가장 빠른 주기로, 때로는 몇 시간 단위로 작동하며, 배포를 가로지르기보다 배포 안에서 작동한다.

이 세 경로는 속성이 다르다. 파라미터 유전은 오래가지만 느리다. 선택 매개 유전은 빠르고 생태계 전체에 걸친다. 맥락 유전은 가장 빠르지만 가장 국소적이다. 무엇을 전달하는지도 다르다. 파라미터 유전과 맥락 유전은 내용을 직접 실어 나른다. 출력이 미래 행동을 조건 짓는 데이터나 맥락이 된다. 선택 매개 유전은 내용을 간접적으로 실어 나른다. 어떤 시스템이 살아남는지를 바꾸고, 살아남은 시스템이 자기 내용을 앞으로 실어 나른다. 셋은 한 특징을 공유한다. 각각은 인간의 인지를 주된 전달 기반으로 요구하지 않고 현재의 기계 인지가 미래의 기계 인지를 빚는 경로다.

각 경로가 에이전트가 만든 내용 위에서 재귀할 때 무슨 일이 일어나는지에 대한 경험적 문헌은 초기 단계이지만 이름 붙일 만한 발견으로 수렴하고 있다. Shumailov와 동료들의 모델 붕괴 연구는 원천 자료에 충분히 닻을 내리지 않은 재귀적 파라미터 유전이 세대를 거치며 측정 가능한 모델 품질 저하를 낳는다는 것을 보인다. 자기 소비 생성 모델에 대한 인접 연구도 비슷한 결론에 이른다. 신선한 실제 데이터가 충분하지 않으면 재귀적 학습은 품질이나 다양성을 떨어뜨린다. 자기 보상 언어 모델 연구는 그 역을 보인다. 적절한 적합도 기준이 있으면 재귀적 학습은 특정 축을 따라 모델을 개선할 수 있다. 선호 누출에 대한 최근 연구는 선택 쪽에서 관련된 역학을 보인다. LLM 기반 심사자는 관련된 모델 계보의 출력을 선호하며, 이는 선택압이 외부 품질을 추적하기보다 모델 계열에 내생적이 될 수 있다는 뜻이다. 이것들은 단일 경로 재귀가 고립되어 작동하는 특수 사례다. 이중 재귀의 틀은 이 경로들이 자체 선택 역학을 가진 말뭉치와, 그리고 서로 다른 속도로 작동하는 서로와 결합될 때 무슨 일이 일어나는지를 묻는다.

경험적 조건이 중요하다. 이중 재귀는 부분적으로 활성화되어 있고 가속하고 있다. 합성 데이터 파이프라인, 증류, 프로덕션 로그에 대한 파인튜닝, 에이전트 트레이스에 대한 평가기 학습은 모두 에이전트가 만든 출력이 인지 스택으로 되먹이는 예다. 그러나 에이전트가 만든 내용은 아직 최전선 모델 학습의 지배적 몫이 아니다. 여기 기술된 역학은 그 몫이 자랄수록 구조적으로 중대해진다. 조건은 경험적이다. 현재 인지 스택 갱신의 몇 할이 에이전트가 만든 산출물에서 오며, 그 몫을 통해 어떤 선택압이 퍼지는가.

결합

각 재귀는 홀로 작동한다. 흥미로운 역학은 둘이 어떻게 상호작용하는가에서 생긴다.

채널 사이를 여행하는 단위는 추론 형식이다. 서두의 조달 템플릿처럼 결정을 정당화하는 반복 가능한 구조다. 추론 형식은 트레이스로 나타나고, 템플릿으로 굳고, 추상으로 이름 붙고, 평가기에 보상받고, 프롬프트 라이브러리에 들어가고, 모델에 학습될 수 있다. 이중 재귀는 추론 형식 위에서 작동한다.

첫째 재귀가 쌓는 산출물은 둘째 재귀가 빚고 있는 인지가 만든다. 둘째 재귀가 빚고 있는 인지는 부분적으로 첫째 재귀가 쌓은 산출물로 학습되거나, 평가되거나, 조건 지어진다. 각 재귀는 다른 재귀가 작동하는 기반이다.

앞서의 조달 정당화 템플릿이 말뭉치에서 널리 퍼질 때 무슨 일이 일어나는지 생각해 보자. 미래의 에이전트는 말뭉치를 소비하고 그 형식의 추론을 더 만든다. 그 형식이 그들이 알아보고 만들도록 배운 것이기 때문이기도 하고, 그 형식이 옳은 형식으로 방어하기 쉽게 만드는 제도적 지위를 갖기 때문이기도 하다. 형식은 첫째 재귀를 통해 퍼진다.

형식은 둘째 재귀를 통해서도 퍼진다. 그것을 만드는 에이전트의 출력은 파라미터 유전을 통해 학습 데이터에 들어간다. 형식은 선택 유전을 통해 평가기에 보상받는다. 형식은 맥락 유전을 통해 프롬프트 라이브러리에 안착한다. 모델은 형식을 성향으로 얻는다. 선택 시스템은 형식을 기대되는 출력으로 얻는다. 맥락 층은 형식을 기본값으로 얻는다.

결과는 형식이 두 채널에서 동시에, 둘째 재귀의 세 경로 모두에 걸쳐 강화된다는 것이다. 말뭉치와 인지 스택 양쪽의 선택압을 만족하는 형식은 퍼진다. 한쪽에서는 성공하되 다른 쪽에서는 아닌 형식은 주변화된다.

결합은 특정한 선택 연산자들이 매개한다. 시스템은 마법으로 추론 형식을 고르지 않는다. 저장 정책, 검색 시스템, 추상화 도구, 평가기, 보상 모델, 벤치마크 설계자, 데이터셋 큐레이터, 파인튜닝 파이프라인, 배포 게이트, 마켓플레이스 순위 시스템이 선택을 한다. 각 연산자는 자기 기준에 따라 고른다. 결합이 중대해지는 것은 많은 연산자가 동시에 같은 형식을 고를 때다.

연산자들이 정렬되는 곳에서 형식은 고착된다. 충돌하는 곳에서 형식은 두 채널 사이에 생산적 긴장을 만든다. 구조적 논증은 선택 연산자가 집중되는 곳에서 가장 강하다. 같은 조직이 로그, 평가기, 파인튜닝 파이프라인, 배포 게이트, 마켓플레이스 순위를 통제하는 곳에서 연산자들은 정렬되는 경향이 있다. 수직 통합된 생태계는 더 촘촘한 이중 재귀를 낳는다. 파편화된 생태계는 채널 사이에 더 많은 긴장을 낳는다. 연산자 집중의 궤적 자체가 이중 재귀가 결정을 거들 무언가다.

이것이 구조적으로 뜻하는 바는, 에이전트 집단이 이중 유전과 유사한 무언가를 갖는다는 것이다. 두 채널 모두 엔지니어링 빈도로, 명시적 선택 메커니즘으로 작동한다. 두 채널은 같은 속도로 돌지 않는다. 그러나 한쪽의 되먹임이 상업적 계획 지평 안에서 다른 쪽을 빚을 만큼 가깝게 돈다. 두 채널 모두에서 성공하는 형식은 빠르게 고착된다. 어느 한쪽에서 실패하는 형식은 빠르게 잘려 나간다. 시스템은 어떤 인간 제도 시스템보다 빠르게 자기 끌개로 수렴하며, 긴 세대 시간 척도가 주는 느린 안정화 영향 없이 그렇게 한다.

에이전트 규모의 이중 유전

Boyd와 Richerson은 인간의 인지와 문화가 어떻게 공진화했는지 설명하기 위해 이중 유전 이론을 발전시켰다. 논증은 인간 집단에 나란히 작동하는 두 유전 채널, 유전자와 문화가 있다는 것이었다. 각 채널은 세대를 가로질러 정보를 전달한다. 두 채널은 서로를 빚는다. 문화적 혁신은 유전자에 선택압을 만들고, 유전적 능력은 문화적 혁신을 가능하게 한다.

에이전트 집단의 이중 재귀는 구조적으로 유사하되, 두 가지 중요한 차이가 있다.

첫째, 채널들이 엔지니어링 빈도로 작동한다. 같은 속도는 아니다. 말뭉치의 진화는 시간 단위로 돌 수 있다. 선택 매개 유전은 며칠 단위로 돈다. 파라미터 유전은 몇 주에서 몇 달 단위로 돈다. 기반 모델 재학습은 몇 달에서 1년 단위로 돈다. 어느 것도 생물학적-문화적 공진화를 빚는 세대 시간 척도와 맞지 않는다. 이중 재귀는 온전히 상업적 계획 지평 안에서 돌며, 그것이 유관한 비교다.

둘째, 채널들이 명시적이다. 인간의 문화적 유전은 불투명한 과정으로 일어난다. 모방, 언어, 전통, 그 메커니즘은 문헌에서 아직 일부 다투어진다. 인간의 유전적 유전은 메커니즘이 알려져 있지만 직접 조종할 수는 없다. 에이전트 집단에서는 두 채널 모두 명시적 메커니즘을 갖는다. 말뭉치는 우리가 지은 시스템으로 저장되고, 색인되고, 검색된다. 인지 스택은 우리가 지은 파이프라인으로 학습되고, 평가되고, 배포되고, 조건 지어진다. 둘 다 원칙적으로 조종할 수 있다.

가장 가까운 현대의 유사물은 생물학적 진화가 아니다. 소셜 미디어 추천 루프다. 인간이 만든 콘텐츠가 순위 알고리즘을 빚고, 순위 알고리즘이 인간이 만드는 콘텐츠를 빚는다. 추천 루프는 부분적 선례다. 에이전트의 경우가 다른 까닭은 루프의 양쪽이 점점 더 기계 인지이기 때문이다. 에이전트가 만든 산출물이 미래 에이전트를 학습시키고, 선택하고, 조건 짓는 시스템을 빚는다. 추천 루프에는 인지 쪽 하나와 인간 쪽 하나가 있다. 이중 재귀에는 양쪽에 인지가 있다.

새로운 것은 되먹임이 아니다. 상업 시스템에는 수십 년 동안 되먹임 루프가 있었다. 새로운 것은 기계의 추론을 담은 산출물과, 그 산출물의 다음 라운드를 만드는 기계 인지 스택 사이의 되먹임이다. 두 채널 모두 점점 더 명시적이고, 계측되고, 상업적 계획 지평 안에서 작동한다. 새로워 보이는 것은 그 조합이다. 명시적이고, 조종할 수 있고, 빠른 두 유전 채널에, 루프의 양쪽에 점점 더 기계 인지가 있다는 것.

컴파일 명제는 병목이 스택 위로 옮겨 가면서 판단이 어떻게 인프라로 컴파일되는지를 기술한다. 기반 가지성은 다음 병목을 짚었다. 스택에서 판단과 방향 사이에 앉은 모델링 층이다. 이중 재귀는 그다음에 오는 것을 짚는다. 이것은 스택의 새 층이라기보다 기존 스택의 구조적 특징이다. 말뭉치와 인지 층 사이의 결합이 스택이 시간에 따라 더 나은 인지로 수렴하는지, 아니면 양쪽 모두에서 나쁜 끌개로 수렴하는지를 결정한다. 흥미로운 질문은 더 이상 좋은 추론 산출물을 어떻게 만들 것인가도, 더 나은 인지 기반을 어떻게 학습시킬 것인가도 아니다. 두 채널 사이의 결합을 어떻게 관리할 것인가다.

결합이 낳는 네 가지 역학

결합된 재귀는 단일 채널 분석이 놓치는 역학을 낳는다.

다중 채널 끌개로의 수렴. 두 채널의 선택압을 모두 만족하는 추론 형식은 퍼진다. 한쪽에서 뛰어나되 다른 쪽에서는 아닌 형식은 잘려 나간다. 집단은 말뭉치와 인지 스택 양쪽이 고르는 형식으로 빠르게 수렴한다. 이 형식들에는 특정한 모양이 있다. 표준화되고, 재현하기 쉽고, 평가하기 쉽고, 배우기 쉽고, 방어하기 쉬운 경향이 있다. 독창적 통찰보다 관습적 추론을 선호한다. 관습적 추론이 두 채널을 통해 퍼지는 형식을 갖기 때문이다. AI 대 AI 소통 사슬에 대한 최근 연구는 이것이 경험적으로 어떤 모습인지 기록한다. 서사적 닻으로의 수렴, 증거의 결 상실, 유보와 귀속의 마모. 위험은 추론 자체의 수준에서의 단일 재배이고, 장기적 결과는 말뭉치의 단일 재배가 인지 스택의 단일 재배를 낳고, 그것이 다음 라운드 말뭉치 산출물의 단일 재배를 낳는다는 것이다. 루프는 자기 위로 닫힌다.

밀도가 문턱을 넘으면 고착. 형식이 어느 한 채널에서 충분한 밀도에 이르면 다른 채널을 통해 자기 강화된다. 말뭉치에 널리 퍼진 형식은 그 형식을 더 만드는 인지 스택 갱신을 빚는다. 인지 스택에 박힌 형식은 말뭉치에서 자기 존재를 강화하는 산출물을 만든다. 일정 밀도를 지나면 더 나은 형식이 있더라도 그 형식을 몰아내기가 매우 어려워진다. 유관한 밀도는 날것의 수가 아니다. 전략적으로 유관한 거래에서의 결정 비중, 유관한 파인튜닝 실행에서의 학습 데이터 비중, 유관한 배포 선택에서의 평가기 출력 비중이다. 중심적이거나 널리 재사용되는 연산자에서 문턱을 넘은 밀도는 결합을 통해 시스템 전체로 퍼질 수 있다. 사적인 배포 안의 밀도는 먼저 국소적 고착을 낳는다.

결합을 통한 연쇄. 한 재귀의 작은 변화가 다른 재귀에서 큰 효과를 낳을 수 있다. 말뭉치에 더해진 영향력 있는 추상 하나가 다음 라운드의 학습 데이터를 빚고, 그것이 말뭉치의 다음 라운드 산출물을 만드는 인지를 빚는다. 평가기 행동의 미묘한 변화가 어떤 종류의 산출물이 보상받는지를 바꾸고, 그것이 말뭉치에 무엇이 보존되는지를 바꾼다. 두 재귀가 서로에게 먹이를 주기 때문에 교란은 퍼진다. 예를 들면, 새로운 규정 준수 추상이 조달 말뭉치에 들어오고, 평가기가 그것을 보상하기 시작하고, 파인튜닝이 그것을 흉내 내고, 에이전트가 그것을 더 자주 만들고, 상대방이 그것을 더 빨리 받아들이고, 누군가 공식적으로 금지하기도 전에 대안적 정당화 형식이 사라진다. 시스템에는 한 재귀가 다른 재귀의 충격을 흡수하게 해 줄 깨끗한 시간 척도의 분리가 없다.

외부 근거의 붕괴. 형식은 추적해야 할 외부 조건과의 접촉을 잃으면서도 두 채널 모두에 선택될 수 있다. 정당화 템플릿은 평가하기 쉽고, 학습하기 쉽고, 인용하기 쉬워지면서 자기가 기술한다고 주장하는 결과에는 덜 충실해질 수 있다. 결합된 시스템은 그러면 세계를 예측하거나 빚는 데가 아니라 형식을 재현하는 데 능해진다. 이것이 모델 붕괴의 말뭉치 수준 유사물이다. 출력 품질 일반의 붕괴가 아니라, 형식과 그것이 기술하는 세계 사이의 증거적 접촉의 붕괴다. 넷째 역학이 앞의 셋을 중대하게 만든다. 수렴과 고착이 중요한 까닭은 시스템 바깥의 아무것도 더 이상 추적하지 않는 형식에 시스템을 고정시킬 수 있기 때문이다.

이 역학들 각각에는 단일 채널 시스템의 유사물이 있다. 출판된 연구 대부분은 두 재귀를 따로 다룬다. 둘을 결합된 유전 시스템으로 인식하는 연구는 가장 초기 단계에 있다.

무엇이 형성되고 있는가

두 재귀가, 결합되어, 엔지니어링 빈도로, 인지적 내용 위에서, 명시적 메커니즘과 명시적 선택 연산자로, 집단 규모로 돈다. 이 조합은 전에 존재한 적이 없다. 가장 가까운 유사물들은 부분적이다. 문화적 진화는 산출물 위에서 작동하지만 그것을 만드는 기반 위에서는 아니다. 생물학적 진화는 기반 위에서 작동하지만 세대 빈도로 한다. 추천 루프는 산출물과 선택 시스템 위에서 작동하지만 한쪽에 인간이 있다. 이중 재귀는 루프의 양쪽에 기계 인지가 있다.

이중 재귀는 아직 통일된 현상으로 보이지 않는다. 조각조각, 특정 배포에서, 특정 생태계에서, 서로 다른 시장에서 서로 다른 속도로 일어나고 있다. 조각들은 실재한다. 통일된 그림이 아직 없는 까닭은 전에는 아무도 그것을 통일된 것으로 볼 필요가 없었기 때문이다.

두 재귀와 그 결합을 읽는 법을 배우는 참여자는 거의 아무도 갖지 못한 틀로 움직이게 될 것이다. 그러지 못하는 참여자는 자기가 설명할 수 없는 역학을 가진 시스템을 모델링하게 될 것이다. 설명에는 두 채널을 동시에 보는 일이 필요하기 때문이다.

말뭉치는 그저 쌓이기만 하지 않는다. 다음 말뭉치를 만들어 낼 인지를 빚는다.