왜 코드는 컴파일되고 법은 그러지 못하는가

다음 AI 전환을 가르는 것은 누가 가장 큰 모델을 학습시키느냐가 아니라 누가 검증기를 짓느냐다.

2026-04-20

영어 원문에서 옮김 · 기계 초벌 번역, 검수 전

검증 가능한 보상으로 하는 강화 학습의 시대가 2년째에 접어들면서 AI 능력의 지형에 이상한 일이 일어났다. 코드 모델은 2023년에는 믿기 어려웠을 수준으로 작동하는 코드를 쓴다. 수학 모델은 한 해 전만 해도 분야 전체가 풀지 못한 올림피아드 문제를 푼다. 그러나 법률 추론은 그에 견줄 만큼 움직이지 않았다. 임상 판단도 그렇다. 문학적 글쓰기도 그렇다. 빠르게 컴파일되는 도메인과 멈춰 선 도메인 사이의 격차는 좁아지지 않고 넓어졌다.

표준적인 설명들이 돌고 있다. 모델이 결국 충분히 똑똑해져 모든 도메인이 컴파일될 것이라는 능력 격차 이야기가 있다. 느린 도메인에 학습 데이터가 더 필요할 뿐이라는 데이터 격차 이야기가 있다. 더 나은 에이전트와 검색이 기반 모델이 못 하는 것을 열어 줄 것이라는 비계 격차 이야기가 있다. 각각은 부분적으로 옳고, 각각은 실제로 일어나는 일을 놓친다.

격차는 구조적이다. 도메인이 갖거나 갖지 않는 속성 하나가 그것을 정한다. 그 안에서 검증이 생성보다 구조적으로 싼가. 그 비대칭이 있는 곳에서 학습 루프는 닫히고, 데이터는 컴퓨트에 따라 늘며, 컴파일은 가속한다. 비대칭이 없는 곳에서 데이터는 인간의 노력에 갇히고, 능력이 아무리 자라도 남은 거리를 좁히지 못한다. 이것이 이 틀의 예측력이다. 어떤 도메인은 컴파일되고 어떤 도메인은 구조적으로 그러지 못하며, 둘의 차이는 AI가 얼마나 어려운가가 아니다. 도메인이 스케일링을 작동하게 하는 비대칭을 공급하는가다.

이 글은 그 주장을 전개한다. 컴파일 밑의 메커니즘을 명시함으로써 컴파일 명제를 확장하고, 분야가 저평가해 온 구체적 연구 프로그램으로 끝맺는다. 더 나은 기반 모델이 아니라 검증기 구축이다.

RLVR이 실제로 활용하는 것

여기서 빌려 올 만한 컴퓨터과학의 구조적 관찰이 있다. P 대 NP는 보통 어떤 문제가 다룰 만한가에 대한 질문으로 진술되지만, 그 밑의 통찰은 비대칭에 관한 것이다. 어떤 문제는 답을 찾기는 어렵지만 확인하기는 쉽다. 스도쿠의 풀이 후보가 주어지면 몇 초 만에 검증할 수 있다. 처음부터 풀이를 찾기는 훨씬 어렵다. 생성 비용과 검증 비용 사이의 그 비대칭이, 확인할 후보가 있을 때 탐색 문제의 부류 전체를 다룰 만하게 만든다.

검증 가능한 보상으로 하는 강화 학습은 이 통찰의 응용형이다. 학습 루프는 풀이 후보를 생성하고, 싼 검증기에 통과시키고, 살아남은 것으로 학습한다. 루프의 효율은 P 대 NP 틀이 신경 쓰는 바로 그 비율, 곧 검증 비용 분의 생성 비용이 정한다. 코드와 수학은 비율이 높은 도메인이다. Pytest는 밀리초가 든다. 올바른 코드를 쓰는 데는 진짜 인지 노동이 든다. Lean의 타입 검사기는 몇 초 만에 돈다. 증명을 찾는 데는 수학자의 평생이 걸릴 수 있다. 비대칭은 엄청나고, 그것이 이 도메인들을 먼저 컴파일되게 했다. 쉬워서가 아니다. 검증과 생성의 간극이 학습 루프를 규모화하게 하기 때문이다.

이 글의 나머지가 답하는 질문은, 그 간극이 존재하려면 도메인에 무엇이 필요한가다.

세 가지 전제 조건

세 속성이 함께 도메인이 비대칭을 갖는지를 결정한다. 코드와 수학은 셋 모두를 갖는다. 느리게 컴파일되는 도메인들은 각기 다른 부분집합에서 실패한다.

입력 완전성. 검증기가 확인하는 문제는 완전히 명세되어 있어야 한다. 수학 정리의 진술은 완전하다. 증명할 주장이 적혀 있고, 증명된 것은 그것과 일치하거나 하지 않는다. 함수 시그니처에 테스트 모음을 더하면 완전하다. 함수의 입력과 기대 출력이 고정되어 있다. 의뢰인의 법적 상황은 완전하지 않다. 사건에 중요한 사실들은 증거 개시나 증언 녹취, 상대편의 서면 제출 중에 드러난다. 환자의 증상 발현도 완전하지 않다. 증상은 변하고, 동반 질환은 상호작용하며, 진짜 진단은 흔히 의사가 아직 고려하지 않은 것이다. 입력 완전성이 없으면 검증기는 대조할 잘 정의된 것이 없다. 입력이 여전히 움직이고 있기에 “이 출력은 그 입력에 대해 올바르다”고 말할 수 없다.

합의 검증 가능성. 유일한 정답이, 또는 자격 있는 검토자들이 동의할 만큼 그에 가까운 것이 있어야 한다. 증명은 타입 검사를 통과하거나 하지 않는다. 테스트는 통과하거나 실패한다. 법률 서면의 올바름은 원칙적으로 합의 검증이 가능하다. 충분히 정통한 변호사가 읽으면 그것이 제 일을 하는지에 동의할 수 있다는 뜻에서, 실제로 그 검증이 비싸더라도 그렇다. 법률 사례의 실패는 합의가 아니라 입력 완전성에 있다. 단편 소설의 질은 어느 수준에서도 합의 검증이 되지 않는다. 독자마다 취향이 다르다. 전통마다 기준이 다르다. 문학적 판단은 수렴하지 않으며, 검토자의 시간이 무한하고 주의가 완벽해도 대조할 유일한 정답은 없다.

단계 종결 검증 가능성. 검증기는 다음 단계에 정보를 줄 만큼 빠르게 신호를 돌려줘야 한다. Pytest는 밀리초 안에 돌아온다. Lean은 몇 초 안에 돌아온다. 학습 루프가 아직 돌고 있는 동안 신호가 도착한다. 재판의 결과는 몇 년 뒤에 돌아오고, 그때조차 결정과 판결 사이에 일어난 모든 일에 교란된다. 환자의 진짜 예후는 수십 년 동안 알 수 없을 수 있고, 그 사이의 개입들이 결과의 뜻을 바꾼다. 단계 종결 신호가 없으면 과거 데이터로 학습할 수는 있어도 실제로 컴파일을 가속하는 상호작용 루프를 닫을 수는 없다.

코드와 수학은 세 속성을 모두 갖는다. 법률 추론은 첫째에서 실패한다. 의료 진단은 첫째에서 실패하고 셋째에서 부분적으로 실패한다. 창작 글쓰기는 둘째와 셋째에서 실패한다. 세 전제 조건, 서로 다른 실패 패턴, 서로 다른 컴파일 궤적. 이 패턴은 능력 격차와 데이터 격차 이야기가 설명하지 못하는 것을 설명한다. 왜 비슷한 수준의 투자에서도 어떤 도메인은 빨리 컴파일되고 다른 도메인은 멈춰 서는가.

“법률 추론”이나 “의료 진단” 같은 말은 내부적으로 이질적인 일을 덮는 거친 바구니다. 법률 리서치와 문서에 한정된 검토는 재판 전략보다 비대칭에 더 가깝다. 의료 영상과 약물 용량 결정은 열린 임상 추론보다 더 가깝다. 범주 수준의 주장은 각 도메인의 명망 있는 핵심에 관한 것이지, 그 안의 모든 과업에 관한 것이 아니다. 뒤에 나올 분해는 정확히 이 이질성에 기댄다.

실제로는 어떤 모습인가

세 전제 조건이 모두 성립하면 놀라운 일이 가능해진다. 학습 데이터를 합성으로 생성할 수 있다. 문제 후보를 제안하고, 검증기가 풀이를 거르게 하고, 검증된 쌍을 남긴다. 데이터셋은 인간의 노력이 아니라 컴퓨트에 따라 자란다. PRM800K에 75,000개의 수학 풀이에 걸쳐 800,000개의 단계 수준 정오 레이블이 있는 까닭이 이것이다. 검증된 테스트 커버리지를 갖춘 코드 데이터셋이 사실상 무한한 까닭이 이것이다. 검증기는 학습 중의 신호에 그치지 않는다. 학습 집합 자체가 규모를 키우는 메커니즘이다.

전문직과 창작 도메인의 전문가 판단 데이터셋은 이렇게 하지 못한다. 가장 많이 인용되는 창작 글쓰기 평가 벤치마크, LLM 심사자가 전문 작가를 대신할 수 있는지에 대한 Chakrabarty의 2024년 CHI 논문은 14개의 이진 전문가 테스트로 평가한 이야기 48편을 쓴다. 대략 672개의 레이블된 판단이 나오고, 논문의 핵심 발견은 LLM 심사자가 전문가 평가와 거의 0에 가까운 상관을 보였다는 것이다. 임상 추론 벤치마크는 수천 사례 안팎인 경향이 있다. 법률 추론 벤치마크도 비슷하다. 코드·수학 학습 규모와 전문가 판단 학습 규모의 격차는 고정된 배수가 아니다. 그것이 더 깊은 요점이다. 한 곡선은 컴퓨트에 따라 자란다. 다른 곡선은 인간의 노력에 따라 자란다. 의미 있는 어떤 시간 구간에서든 컴퓨트 스케일링 곡선은 인간 노력 곡선을 임의의 양만큼 압도한다. 격차는 숫자가 아니다. 끝없이 벌어지는 발산이다.

도메인 특화 언어 모델을 지어 본 사람이라면 누구나 이 벽에 부딪혔고, 그것은 늘 모양만 다른 같은 벽이다. 처음에는 도구 문제라고, 레이블링 예산 문제라고, 노동 시장 문제라고 가정한다. 여섯 달을 그중 하나로 다루며 보낸다. 결국 도메인이 데이터를 내어 주지 않는 것이 아님을 깨닫는다. 비대칭을 내어 주지 않는 것이고, 수집 노력을 아무리 쏟아도 구조적으로 수집 가능한 것은 바뀌지 않는다.

이는 더 근본적인 무언가를 가리킨다. 규모화 가능한 학습 루프를 닫는 데 필요한 검증기는 보조 도구가 아니다. 코드와 수학에서 검증기는 풀이와 별개의 산출물이다. Pytest는 코드를 쓸 필요가 없다. Lean은 증명을 찾을 필요가 없다. 그것들은 일을 스스로 할 수 없어도 일을 확인할 수 있는 독립 시스템이다. 법률 추론에서 학습 루프를 닫는 데 필요한 수준으로 서면의 질을 믿을 만하게 검증하려면 서면을 쓰는 것과 같은 판단이 필요하다. 선임 변호사가 읽는 방식으로 읽지 않고서 서면의 질을 확인할 수 있는 더 싼 독립 시스템은 없다.

부분적 평가기는 어디에나 있고, 일부는 유용하다. 이 주장은 그것들에 관한 것이 아니다. 도메인이 실제로 신경 쓰는 판단 수준에서 규모화 가능한 학습 루프를 닫는 데 필요한 검증기에 관한 것이다. 그 수준에서, 그 도메인들에서, 더 싼 독립 검증기는 전문가의 온전한 판단 자체로 녹아들고, RLVR이 활용하는 비대칭도 함께 사라진다.

검증기가 곧 도메인이다.

비대칭을 짓는 세 가지 방법

컴파일 속도가 검증-생성 비대칭으로 정해진다면, 도메인 AI를 떠받치는 연구 프로그램은 분야가 지금 우선하는 것이 아니다. 주로 더 나은 기반 모델이 아니다. 더 나은 에이전트나 검색이 아니다. 검증기 구축이다. 이어지는 세 가지 엔지니어링 수는 비대칭이 저절로 존재하지 않는 곳에 그것을 짓는 서로 다른 방법이다.

분해는 검증기가 빈약한 과업을 검증기가 넉넉한 하위 과업들로 쪼개는 수다. 법률 일이 이 패턴을 가장 분명히 보여 준다. 모두가 이야기하는 법률 실무의 부분, 서면 작성과 전략은 세 전제 조건을 갖춘 부분이 아니다. 분야가 잡일로 다루는 부분이 셋을 모두 갖춘다. 증거 개시, 곧 수백만 건의 문서를 뒤져 사건과 관련된 것을 찾는 과정은 입력 완전성(문서는 고정되어 있다), 합의 검증 가능성(자격 있는 변호사들은 문서가 관련되는지에 대체로 동의한다), 단계 종결 검증 가능성(선임 변호사가 표본을 몇 분 안에 확인할 수 있다)을 갖는다. 증거 개시는 검증기가 빈약한 도메인 안에 앉은, 검증기가 넉넉한 하위 과업이다. 이 틀이 내놓는 예측은 직관에 어긋나고, 대부분의 독자가 기대하는 위계를 뒤집는다고 나는 생각한다. 법률 일의 화려하지 않은 부분들이 명망 있는 부분들보다 훨씬 빨리 컴파일될 것이다. 선임 어소시에이트 수준 이상의 서면 작성은 현재 패러다임 안에서 멈춰 설 것이다. 증거 개시 일이 전문가 인간의 수준에 크게 다가서는 동안에도. 이것이 일반적 패턴이다. 분해는 바깥에서는 한결같이 어려워 보이는 도메인 안에서 컴파일 가능한 섬들을 찾는다.

세 수 가운데 분해가 가장 두루 믿을 만하다. 대리 지표 구성은 자연히 존재하는 상관 신호에 기대며, 이는 도메인에 달려 있다. 합성 정답은 학습 신호가 일반화할 만큼 풍부한가에 기대며, 이는 더 작은 규모에서의 규모가 다 해결한다는 베팅이다. 분해는 도메인이 검증기가 넉넉한 하위 구조를 담고 있는가에만 기대며, 큰 전문직 도메인 대부분은 그렇다. 다른 두 수는 통하는 곳에서 통한다. 분해는 시도할 수 있는 거의 모든 곳에서 통한다.

대리 지표 구성은 계산하기 비싼 진실과 상관되는, 계산하기 싼 신호를 짓는 수다. 단위 테스트가 정석적인 예다. 테스트 모음은 프로그램이 완전한 의미론적 뜻에서 올바른지 검증하지 않는다. 유한한 사례 집합에서 프로그램이 기대 출력을 내는지 검증한다. 테스트 통과와 올바름의 상관은 개발을 이끌 만큼 강하고, 정기적으로 깨질 만큼 약하며, 소프트웨어 산업 전체의 품질 인프라는 그 두 사실 사이의 공간에 지어져 있다. Kent Beck이 1990년대 말 테스트 주도 개발을 정식화했을 때, 그는 엔지니어들이 이미 암묵적으로 하던 것에 이름을 붙였다. 그 규율이 떠받치는 것으로 드러난 까닭은 테스트가 버그를 잡기 때문이 아니라(잡기는 한다), 테스트가 자연히 존재하지 않던 곳에 싼 검증기를 만들기 때문이다. 이것이 산업화된 그 수다. MMLU와 HumanEval 같은 벤치마크는 두 번째 형태의 대리 지표로, 불완전하고 속일 수 있으며 바로 싸기 때문에 유용하다. 속일 수 있다는 것 자체가 정보다. 굿하트의 법칙은 구성상 대리 지표에 적용된다. 대리 지표가 목표가 되면 진짜 신호와의 상관은 떨어진다. 엔지니어링 규율은 속일 수 없는 대리 지표를 찾는 것이 아니다. 진실과의 상관이 한동안 최적화의 표적이 되어도 살아남을 만큼 강한 대리 지표를 찾는 것이다.

합성 정답은 전문가 데이터로 검증기 모델을 학습시킨 뒤 그 학습된 모델을 검증기로 쓰는 수다. RLHF의 보상 모델이 정석적인 예다. 학습 중에 모델이 내는 모든 출력을 사람에게 싸게 평가해 달라고 할 수 없으니, 유한한 인간 선호 집합으로 보상 모델을 학습시켜 그것을 대리 검증기로 쓴다. 보상 모델은 진실과 다른 무언가를 재지 않는다. 진실 자체의 모델이며, 그것이 대리 지표 구성과의 차이다. 대리 지표는 우연히 진실과 상관되는 다른 신호다. 합성 정답은 진실 자체의 학습된 근사다. 그 질은 학습 신호가 근사하려는 것을 얼마나 잘 담았는가에 전적으로 달려 있고, Chakrabarty의 2024년 결과가 여기서의 경고담이다. 그 연구는 LLM 심사자가 창작 산문을 평가할 때 전문 작가와 거의 0에 가까운 상관을 보인다고 밝혔다. 합성 정답은 원천 데이터가 학습된 검증기가 일반화할 만큼 풍부할 때만 통한다. 전문가 신호가 너무 드물거나 너무 다투어지면 학습된 검증기는 취향이 아니라 잡음을 담고, 자기 자신과는 동의하되 도메인이 실제로 신경 쓰는 전문가들과는 어긋나는 유창한 검증기를 얻게 된다.

최전선의 베팅, 그리고 그것이 예측하는 것

이 틀에 맞서는 최전선의 베팅은 극한에서는 이 모든 것이 중요하지 않다는 것이다. 충분히 유능한 기반 모델은, 그 논증에 따르면, 추론 시점에 자기 출력을 충분히 믿을 만하게 심사하거나, 사람이 모은 데이터를 규모에서 능가하는 합성 전문가 판단 데이터를 생성함으로써, 스스로의 검증기가 된다. 이 관점에서 비대칭은 현재 모델 능력에 대한 일시적 사실이고, 기반 모델이 충분히 진보하면 이 틀이 빠졌다고 말하는 검증기가 생겨날 것이다.

이 틀의 응답은, 그것이 두 능력을 뒤섞는다는 것이다. 생성 능력과 검증 능력은 같은 모델 안에서도 같은 것이 아니다. 이는 바둑과 체스를 푼 자기 대국과 종류가 다르다. 그 시스템들이 규모를 키운 까닭은 게임의 규칙이 시뮬레이션된 모든 결과에 대해 흠 없고 사실상 공짜인 검증기를 제공했고, 그 검증기가 위에 지어진 것이 아니라 도메인 자체의 일부였기 때문이다. 전문직과 창작 도메인에는 그런 내재적 검증기가 없다. 어떤 검증기든 설계되어야 하고, 그 설계가 어려운 부분이다. 인간이 만든 것으로 학습된 기반 모델은 학습 분포에서 공짜 검증기를 물려받지 않는다. 그 검증 능력의 천장은 학습 중에 흡수한 판단의 천장이다. 전문가 판단 수준에서 비대칭이 없는 도메인에서 그 전문가 판단은 학습 분포에 널리 담겨 있지 않다. 전문가 신호는 얇고, 다투어지고, 늦고, 기관에 갇혀 있으며, 결과물을 흉내 내는 모델의 능력은 그것을 검증하는 능력으로 옮겨 가지 않는다. Chakrabarty의 2024년 연구가 기존 증거다. 그 연구의 LLM 심사자들은 현재 모델이 만드는 범위 안의 산문을 평가하고 있었고, 전문가 작업처럼 보이는 산문을 쓰는 능력은 그것을 전문가 수준에서 심사하는 능력으로 옮겨 가지 않았다. 여기서의 주장은 미래 모델이 결코 강한 평가자가 될 수 없다는 것이 아니다. 평가자에게 필요한 전문가 신호가 드물고, 늦고, 다투어지는 도메인에서는, 생성 규모만으로 그 능력을 공짜로 얻지 못하리라는 것이다. 자기 검증 기반 모델 가설은 규모가 다 해결한다는 베팅의 가장 강한 형태이고, 이 틀은 그것이 어디서 왜 실패할지를 구체적으로 예측한다. 비대칭이 구조적으로 없는 도메인, 곧 이 틀이 애초에 다루던 바로 그 도메인에서 실패할 것이다.

이 틀이 독자에게 주는 것은 바로 쓸 수 있는 도구다. 어떤 AI 연구 프로그램에든 물어라. 검증기를 짓고 있는가, 아니면 검증기가 나타나리라 가정하는가. 어떤 도메인에든 물어라. 비대칭은 어디에 있고, 세 수 가운데 무엇이 그것을 설계할 수 있는가. 전문직과 창작 AI의 현재 연구 다수는 능력 성장을 통해 검증기가 도착하리라는 데 암묵적으로 걸고 있다. 이 틀은 그것이 잘못된 베팅이라고 말한다. 능력 성장이 돕지 않아서가 아니라, 검증기가 빈약한 도메인의 데이터셋 천장은 기반 모델의 개선과 함께 움직이지 않기 때문이다. 천장은 누군가 검증기를 지을 때만 좁혀지고, 그것을 짓는 일이 분야가 저평가해 온 일이다.

다음에 무엇이 컴파일되는가는 검증-생성 비대칭이 어디에 존재하거나 설계될 수 있는가에 달려 있고, 그것이 이 층에서 컴파일 명제가 예측하는 바다. 분해나 대리 지표나 합성 정답으로 비대칭을 지을 수 있는 도메인은 컴파일될 것이다. 세 수가 모두 실패하는 도메인은 가장 높은 판돈이 걸린 일의 수준에서 판단하기 비싼 잔여를 남길 것이다. AI가 할 수 있는 것의 가장자리는 AI가 무엇을 생각할 수 있는가로 정해지지 않는다. 누군가 수고를 들여 무엇을 검증 가능하게 만들었는가로 정해진다.