AI는 수학자보다 더 잘 생각하는 게 아니다. 더 잘 기억하는 것이다
1952년 Institute for Advanced Study 컴퓨터 헌정식에서.
AI는 전자식 아인슈타인이라기보다 기계로 증폭된 폰 노이만에 가까울지 모른다. 엄청난 속도와 폭넓은 지식, 기호 기억 능력을 갖춘 존재 말이다.
AI 시스템이 어려운 수학 문제를 풀면, 우리는 보통 AI가 더 지능적으로 변했다고 설명한다.
수백만 개의 수학 예제를 학습했기 때문일 수도 있다. 강화 학습으로 더 나은 추론 전략을 익혔을 수도 있다. 진정한 수학적 직관과 비슷한 무언가를 발달시키기 시작했을 수도 있다.
이 설명들은 모두 어느 정도 사실일 수 있다. 하지만 더 단순한 가능성을 놓치고 있다.
AI는 인간의 뇌보다 훨씬 큰 작업 기억을 활용할 수 있다.
더 정확히 말하면, 인간의 작업 기억이 맡는 여러 기능을 수행하는 거대한 외부 기호 작업 공간을 활용할 수 있다.
이 차이는 수학에서 특히 중요할 수 있다.
인간 수학자는 익숙하지 않은 요소를 동시에 몇 개밖에 머릿속에 담지 못한다. 반면 AI 모델은 전체 문제, 수백 개의 중간 방정식, 포기한 여러 접근법, 정의, 제약 조건, 앞서 내린 결론을 모두 컨텍스트 윈도에 보관할 수 있다.
우리는 그 결과로 나타나는 성과를 뛰어난 추론 능력의 증거로 해석한다. 하지만 그중 일부는 인간의 추론을 제한하는 가장 중요한 생물학적 제약 하나가 사라진 결과일 수 있다. 바로 극도로 제한된 작업 기억 용량이다.
수학은 기억력의 제약을 받는다
작업 기억은 정보를 짧은 시간 동안 유지하고 조작할 수 있게 해주는 정신 체계다.
방정식을 풀 때는 각 변수가 무엇을 나타내는지, 어떤 연산을 이미 수행했는지, 현재 목표가 무엇인지 기억해야 한다. 증명 과정에서는 가정, 중간 보조정리, 예외, 여러 가능한 경우를 계속 추적해야 할 수도 있다.
인간의 작업 기억은 놀라울 만큼 제한적이다.
정확한 용량은 과제와 정보 구성 방식에 따라 달라지지만, 그 한계는 일상에서도 쉽게 확인할 수 있다. 세 자리 수 두 개를 암산으로 곱해보라. 연산 자체는 단순하다. 어려운 이유는 추가 계산을 수행하는 동안 중간 결과를 보존해야 하기 때문이다.
숫자를 종이에 적으면 문제가 완전히 달라진다.
종이가 사람을 더 지능적으로 만들어주는 것은 아니다. 실질적으로 사용할 수 있는 작업 기억을 확장해줄 뿐이다.
더 높은 수준의 수학에도 같은 원리가 적용된다. 수학자는 답을 전달하려고만 표기법, 연습장, 도표, 앞서 작성한 보조정리를 사용하는 것이 아니다. 이런 도구가 있어야 인지적으로 추론할 수 있기 때문이다.
전문가는 ‘청킹(chunking)’으로 이 한계를 보완한다. 초보자에게는 긴 기호의 나열로 보이는 것도 전문가는 익숙한 구조로 인식해 하나의 개념적 대상으로 다룬다. 덕분에 똑같은 생물학적 작업 기억의 한계 안에 훨씬 많은 정보를 담을 수 있다.
하지만 청킹이 한계를 없애지는 않는다. 정보를 압축할 뿐이다.
AI 모델이 마주하는 제약은 이와 매우 다르다.
작업 기억은 IQ와 별개로 수학 성과를 예측한다
작업 기억이 수학에서 중요하다는 주장은 이론에만 머물지 않는다. 사람들 사이의 차이에서도 확인할 수 있다.
작업 기억은 일반 지능과 밀접하게 관련돼 있다. 그렇다면 당연히 이런 질문이 생긴다. 작업 기억은 수학 성과를 독립적으로 예측하는가, 아니면 IQ를 불완전하게 측정하는 또 하나의 척도일 뿐인가?
여러 연구에 따르면 작업 기억은 기존의 지능 척도만으로는 설명할 수 없는 부분에 기여한다. 예를 들어 Alloway와 Passolunghi(2011)는 아동의 작업 기억, 언어 능력, 수학 능력을 조사했다. 그 결과 작업 기억 측정치는 수학과 일반 언어 능력의 연관성을 그대로 재현하는 데 그치지 않고, 수학 성과에 별도로 기여했다.
별도의 6년 종단 연구에서 Alloway와 Alloway(2010)는 아동이 5세일 때 능력을 측정한 뒤 6년 후 학업 성취도를 조사했다. 분석에 IQ를 포함한 뒤에도 어린 시절의 작업 기억 성과는 이후의 문해력과 수리력을 예측했다. 실제로 이 연구에서는 작업 기억이 사용된 IQ 척도보다 이후의 학업 성과를 더 잘 예측했다.
Blankenship과 동료들(2015)도 IQ와 나이를 통계적으로 통제한 뒤 작업 기억이 수학적 유창성과 계산 능력의 고유한 차이를 설명한다고 보고했다. Friso-van den Bos와 동료들(2013)이 수행한 대규모 메타분석에서도 초등학생 대상 연구 전반에 걸쳐 작업 기억과 수학 사이에 일관된 관계가 확인됐다. 다만 그 관계의 강도는 측정한 작업 기억 및 수학 과제의 유형에 따라 달랐다.
이 결과를 과장해서는 안 된다. 작업 기억과 지능은 상당 부분 겹치며, 통계적 통제만으로 두 요소를 독립된 심리 기제로 완벽하게 분리할 수는 없다. 상업적인 작업 기억 훈련이 반드시 지능이나 수학 능력을 크게 향상한다는 뜻도 아니다.
그럼에도 더 제한적인 결론은 중요하다. 측정된 지능이 비슷한 아동 사이에서도 정보를 유지하고 갱신하고 조작하는 능력의 차이는 수학 성과의 차이를 예측한다.
이는 AI를 이해하는 데 중요한 단서가 된다. 인간의 수학 능력이 작업 기억의 병목 때문에 어느 정도 제한된다면, 기계에 거대한 기호 작업 공간을 제공하는 순간 경쟁의 성격 자체가 달라진다. 인간의 성과를 억누르는 인지적 제약을 기계는 훨씬 덜 받기 때문에 수학적으로 더 지능적인 것처럼 보일 수 있다.
컨텍스트 윈도는 거대한 노트다
현대 언어 모델은 한 번에 엄청난 길이의 토큰 시퀀스를 처리할 수 있다. 이 시퀀스에는 원래 질문, 정의, 예시, 중간 계산, 모델이 앞서 수행한 추론까지 들어갈 수 있다.
컨텍스트 윈도는 인간의 작업 기억과 같지 않다. 이미 적힌 내용을 불완전하게 검색하고 활용하는 체계와 결합된 거대한 외부 노트라고 보는 편이 더 정확하다.
이 차이는 중요하다.
인간에게는 능동적인 내부 기억이 있다. 아무 말도 하거나 적지 않고도 숫자 하나를 선택해 머릿속에 유지하고, 변형한 뒤 새로운 값으로 바꿀 수 있다.
표준 언어 모델은 이처럼 외부에 드러나지 않고 계속 갱신되는 정신 상태를 유지하는 능력이 훨씬 약하다. 모델이 가장 안정적으로 이용할 수 있는 기억은 대개 이미 생성한 토큰의 시퀀스다.
모델이 다음과 같이 쓰고,
x=6
나중에 다음과 같이 쓰면,
x+3=9,
이 문장들은 컨텍스트 안에 남는다. 모델은 다음 단계를 생성할 때 이 내용을 다시 참조할 수 있다.
따라서 모델의 추론은 외부로 표현되는 경우가 많다. 텍스트는 완료된 사고 과정을 보고하는 수단에 그치지 않는다. 추론이 이루어지는 기제의 일부다.
인간도 연습장을 사용할 때 비슷한 일을 한다. 가장 큰 차이는 규모다.
아무 도구도 쓰지 않는 인간은 익숙하지 않은 조건 다섯 개를 동시에 유지하는 데도 어려움을 겪을 수 있다. AI는 수십 개나 수백 개의 조건을 명시적인 형태로 보존할 수 있다.
그렇다고 긴 컨텍스트 안의 모든 항목을 완벽하게 찾아낸다는 뜻은 아니다. 모델도 관련 정보를 놓치거나, 주의가 분산되거나, 세부 사항을 잊을 수 있다. 명시된 컨텍스트 길이가 완벽하게 활용할 수 있는 기억 용량과 같지는 않다.
그럼에도 잠재적 용량의 차이는 엄청나다.
이 차이가 수학에서 특히 중요한 이유
컨텍스트 윈도가 제공하는 이점이 모든 추론에서 똑같이 유용한 것은 아니다.
수학적 추론은 명시적인 기호로 유난히 잘 옮길 수 있기 때문에 수학에서 특히 중요하다.
수학 문제와 관련된 거의 모든 요소를 적어둘 수 있다.
가정
정의
이미 알려진 방정식
현재 목표
이미 증명한 결과
배제한 경우
각 단계가 유효한 조건
한번 적어두면 이 정보는 안정적으로 유지된다.
증명 첫머리에서 (x)를 정수로 정의했다면, 증명이 그 정의를 명시적으로 바꾸지 않는 한 계속 정수다. 분위기나 맥락, 해석이 달라졌다고 해서 엄격 부등식이 어느새 등호를 포함하는 부등식으로 변하지 않는다.
수학 기호는 모호성을 줄이도록 만들어졌다.
그래서 수학은 거대한 텍스트 작업 공간을 통해 작동하는 지능에 거의 완벽하게 들어맞는다.
풀이 과정에서 다음 내용을 기억해야 하는 문제를 생각해보자.
n은 홀수다.
p는 소수다.
x≠0이다.
논증의 한 분기에서는 이미 모순이 나왔다.
인간은 기본 전략을 이해하고도 x≠0임을 확립하기 전에 x로 나눌 수 있다. 지능이 부족해서 생긴 오류라고 단정할 수 없다. 추적 관리에 실패했을 수도 있다.
AI는 단계마다 현재 적용되는 제약 조건을 다시 적을 수 있다.
현재 (n)은 홀수이고, (p)는 소수이며, (x≠0)이라는 가정 아래에서 풀이하고 있다.
이렇게 컨텍스트는 현재 추론 상태를 기록하는 장부가 된다.
어려운 수학 문제 상당수에는 초반부 어딘가에 심오한 통찰이 담겨 있지만, 그 뒤에는 그보다 덜 화려한 작업이 많이 따라온다. 식을 전개하고, 경우를 확인하고, 변형 과정에서도 조건을 유지하며, 최종 결론이 앞서 세운 모든 가정과 일치하는지 확인해야 한다.
기계가 이 과정에서 우위를 점하기 위해 인간보다 더 깊은 통찰력을 갖출 필요는 없다. 긴 연산을 끝낼 때까지 문제의 전체 상태를 보존하는 데 더 적합할 뿐일 수 있다.
긴 추론 사슬은 인간의 능력을 넘어설 수 있다
수학은 구성성이 매우 높다.
증명은 흔히 다음과 같이 나타낼 수 있다.
A → B → C → D
각 단계가 타당하고 사슬이 정확하게 유지되면 결론이 따라온다.
작업 공간이 크면 모델은 논지를 놓치기 전까지 훨씬 긴 사슬을 구성할 수 있다.
문제의 난도는 개별 단계가 얼마나 어려운지에 따라서만 결정되지 않기 때문에 이 점은 중요하다. 얼마나 많은 단계를 조율해야 하는지도 난도에 영향을 준다.
사람은 100단계 논증의 국소적인 추론을 하나하나 모두 이해할 수 있으면서도, 아무 도움 없이 전체 논증을 만들어내지는 못할 수 있다. 전체 구조를 유지하는 능력을 넘어서는 문제이기 때문이다.
AI는 거의 모든 내용을 적어두는 방식으로 이를 보완할 수 있다.
이 점은 ‘생각할 시간’을 더 주면 모델의 성능이 향상되는 경우가 많은 이유를 설명할 수도 있다. 연산량이 늘어나면 시스템은 더 많은 중간 상태를 생성하고, 다른 분기를 검토하고, 부분적인 결론을 보존할 수 있다.
더 깊은 사고처럼 보이는 것이 때로는 훨씬 큰 노트 안에서 수행한 더 폭넓은 탐색일 수도 있다.
비형식적 추론은 같은 방식으로 작동하지 않는다
이제 수학 문제를 다음과 같은 사회적 질문과 비교해보자.
Maria는 왜 갑자기 내 메시지에 답하지 않는 걸까?
컨텍스트 윈도가 크면 AI는 수년간 오간 대화를 살펴볼 수 있다. 어조, 응답 시간, 어휘의 변화도 찾아낼 수 있다.
하지만 결정적인 정보가 여전히 빠져 있을 수 있다.
Maria가 화가 났을 수도 있다. 바쁠 수도, 아플 수도 있다. 휴대전화를 잃어버렸거나, 전혀 다른 문제를 피하고 있을 수도 있다.
아무리 기억 용량이 커도 관찰한 적 없는 사실을 찾아낼 수는 없다.
이 과제는 이미 알려진 전제들을 보존하고 그 결과를 도출하는 데 그치지 않는다. 숨겨진 원인을 두고 불확실성 속에서 추론해야 한다.
비형식적 추론은 의미가 안정적이지 않은 개념에도 크게 의존한다.
‘공정하다’, ‘성공적이다’, ‘책임이 있다’, ‘해롭다’, ‘지능적이다’ 같은 말은 수학 변수처럼 정확한 의미를 갖지 않는다. 문화와 목표, 맥락에 따라 의미가 달라진다.
모델은 토론의 모든 문장을 기억하면서도 참여자들의 의도를 잘못 이해할 수 있다.
정치 분석, 역사 해석, 사업 전략, 심리적 판단도 마찬가지다. 이런 분야에서 핵심 문제는 작업 기억의 용량이 아닐 때가 많다. 증거가 불완전하고 모호한 가운데 올바른 인과 모델을 찾아내는 것이 문제다.
더 큰 노트는 도움이 되지만 근본적인 문제를 해결하지는 못한다.
수학은 가정을 명시하고 변형을 검증할 수 있도록 추론 환경을 인위적으로 구성했다는 점에서 다르다.
수학은 유난히 강력한 피드백을 제공한다
수학의 답은 확인할 수 있는 경우가 많다.
방정식의 해를 원래 식에 다시 대입할 수 있다. 제안된 항등식에 숫자를 넣어 계산할 수 있다. 컴퓨터 프로그램으로 수백 가지 경우를 시험할 수 있다. 형식 증명 보조기로 모든 추론이 승인된 규칙에 따라 도출됐는지 검증할 수도 있다.
AI에는 이상적인 환경이다.
모델은 컨텍스트를 사용해 해답을 만들 뿐 아니라 다른 접근법을 기록하고, 모순을 찾아내고, 앞선 실수를 바로잡을 수 있다.
덜 형식적인 분야에서는 피드백이 훨씬 약하다.
설득력 있는 역사적 설명도 결론적으로 검증하기는 불가능할 수 있다. 사업 전략은 몇 년이 지나야 옳았는지 알 수 있다. 심리적 해석은 영원히 불확실한 채로 남을 수도 있다.
이런 분야에서는 길고 일관된 논증도 완전히 틀릴 수 있다.
수학은 명시적인 중간 상태를 생성하고 저장하고 검증할 수 있는 시스템에 유리하다. 컨텍스트 윈도, 스크래치패드, 코드 실행, 형식 검증이 정확히 이런 능력을 강화한다.
이것을 정말 작업 기억이라고 부를 수 있을까?
일부 연구자는 컨텍스트 윈도를 작업 기억이라고 표현하는 데 반대할 것이다.
일리가 있는 지적이다.
인간의 작업 기억은 단순한 저장 버퍼가 아니다. 주의, 억제, 지속적인 갱신, 내부 표상의 능동적인 조작이 모두 포함된다.
언어 모델의 컨텍스트는 더 수동적이다. 이전 토큰은 고정된 채로 남는다. 모델은 말 그대로 이전 줄로 돌아가 내용을 교체할 수 없다. 기존 기록을 조건으로 새로운 토큰을 생성한다.
따라서 가장 정확한 표현은 증강된 기호 작업 기억일 수 있다.
모델은 어떤 면에서는 인간보다 외부에 드러나지 않는 정신적 기억이 약하지만, 다른 면에서는 명시적인 기억 용량이 압도적으로 크다.
인간은 작은 내부 상태를 소리 내지 않고 유지하는 데 더 능하다. AI는 방대한 기록을 바탕으로 작업하는 데 더 능하다.
수학에서는 두 번째 능력이 더 유용할 때가 많다.
형식적 추론에서 모든 관련 상태를 비공개로 유지할 필요는 없다. 오히려 가정과 중간 단계를 명시할수록 수학은 더 나아진다.
AI가 ‘소리 내어 생각’하는 경향은 겉보기에는 약점이지만, 글로 적은 기호로 구성된 분야에서는 장점이 된다.
지능인가, 인지 구조인가?
그러면 더 넓은 질문이 생긴다. AI가 인간보다 ‘수학을 더 잘한다’는 말은 무엇을 뜻하는가?
두 사람에게 같은 수학 문제를 준다고 생각해보자.
한 사람은 전적으로 머릿속으로만 풀어야 한다. 다른 사람에게는 종이가 무제한으로 주어지고, 완벽한 기록과 이전의 모든 계산에 즉시 접근할 수 있으며, 여러 접근법을 병렬로 시도할 수 있고, 각 결과를 확인해주는 기계도 있다.
두 번째 사람이 이겼다고 해서 그 사람의 타고난 수학 지능이 더 뛰어나다고 단정하지는 않을 것이다. 그보다는 해당 과제에 훨씬 유리한 인지 구조를 갖췄다고 판단할 수 있다.
인간과 AI를 비교할 때도 똑같이 신중해야 한다.
AI 시스템은 방대한 수학 자료로 학습한다. 가능한 해법을 여러 개 생성하고, 코드를 실행하고, 도구를 활용하고, 긴 추론 기록을 보존할 수 있다.
따라서 AI의 성과는 수학 지식, 추론 능력, 기억 용량, 탐색, 검증 등 여러 요소가 결합된 결과다.
우리는 추론이 철학적으로 가장 흥미로운 요소이기 때문에 여기에 집중하는 경향이 있다. 하지만 우리가 생각하는 것보다 기억력이 훨씬 많은 일을 하고 있을 수 있다.
검증할 수 있는 예측
작업 기억 가설에서는 명확한 예측이 나온다.
AI는 다음 요소가 포함된 문제에서 가장 큰 우위를 보여야 한다.
서로 영향을 주는 많은 제약 조건
긴 계산
광범위한 경우 분석
이전 결과의 반복적인 참조
정확한 기호 추적 관리
방대한 형식적 정의
주로 한 번의 짧은 개념적 도약에 의존하는 문제에서는 AI의 우위가 더 작아야 한다.
핵심 과제가 문제를 완전히 새롭게 표현하는 방법을 찾는 것이라면 뛰어난 수학자가 여전히 AI보다 잘할 수 있다. 하지만 그 표현을 찾아낸 뒤에는 AI가 그로부터 나오는 모든 결과를 탐색하는 데 더 뛰어날 수 있다.
이 가설대로라면 모델이 실제로 활용할 수 있는 컨텍스트를 줄이거나 중간 단계를 쓰지 못하게 했을 때, 긴 수학 과제의 성능이 특히 크게 떨어져야 한다.
반대로 명확한 표기법, 도표, 소프트웨어, 체계적인 기록으로 인간의 외부 기억을 확장하면 격차의 일부가 줄어들어야 한다.
따라서 가장 공정한 비교 대상은 도구를 쓰는 AI와 아무 도움 없이 생각하는 인간이 아닐 수 있다. 도구를 쓰는 AI와 그에 버금가는 강력한 외부 기억 및 검증 시스템을 쓰는 인간을 비교해야 할지도 모른다.
AI가 우리보다 더 잘 기억하는 것일 수 있다
수학 AI의 부상은 흔히 기계 지능이 인간 지능을 이긴 결과로 묘사된다.
이런 해석은 아직 이를 수 있다.
AI가 더 나은 추론 전략을 학습하는 것으로 보이는 것은 분명하다. 언젠가는 인간과 같거나 인간을 넘어서는 형태의 수학적 직관을 발달시킬 수도 있다.
하지만 현재 AI가 지닌 우위의 일부는 훨씬 평범한 이유에서 나올 수 있다.
인간의 뇌는 심각한 제약 속에서 진화했다. 작업 기억이 제한돼 있고, 피로를 느끼며, 중간 결과를 잊고, 익숙하지 않은 기호가 길게 이어지면 이를 조율하기 어려워한다.
AI는 같은 구조에 얽매이지 않는다.
AI는 추론을 텍스트로 바꾸고 그 텍스트를 거대한 외부 인지 작업 공간으로 활용할 수 있다. 수학은 정확하고 기호적인 구조를 갖췄기 때문에 이 장점을 뛰어난 성과로 가장 쉽게 전환할 수 있는 분야다.
따라서 AI가 수학에서 인간을 이기는 진짜 이유는 우리가 생각하는 것만큼 신비롭지 않을 수 있다.
어쩌면 가장 많은 것을 드러내는 비교 대상은 AI와 평범한 인간이 아니라, 서로 매우 다른 두 천재일 것이다.
John von Neumann과 Albert Einstein을 모두 알았던 물리학자 Eugene Wigner는 자신이 만난 사람 가운데 폰 노이만만큼 ‘빠르고 예리한’ 정신을 지닌 사람은 없었다고 썼다. 폰 노이만은 방대한 정보를 흡수하고, 극도로 복잡한 논증을 따라가며, 놀라운 속도로 여러 수학 분야를 넘나들 수 있었다. 하지만 Wigner는 여전히 Einstein의 이해가 더 깊고 통찰력이 뛰어나며 독창적이라고 평가했다. 순수한 지적 처리 능력은 폰 노이만이 더 뛰어났을지 모르지만, 문제 자체를 새로운 개념으로 다시 구성할 가능성은 Einstein이 더 컸다.
오늘날의 AI는 두 번째 능력보다 첫 번째 능력을 기계로 증폭한 형태에 더 가까워 보인다. AI는 엄청나게 빠르고 폭넓으며, 막대한 양의 명시적 정보를 보존하고 조작할 수 있다. 수많은 가능성을 탐색하고, 긴 연역의 사슬을 기억하며, 아무 도구도 쓰지 않는 인간은 따라갈 수 없는 규모로 형식적 추론을 수행할 수 있다. 하지만 그렇다고 해서 AI가 반드시 아인슈타인과 같은 깊이, 즉 기존의 틀을 버리고 숨겨진 개념적 오류를 찾아내 현실을 바라보는 근본적으로 새로운 방식을 발명하는 능력을 갖췄다는 뜻은 아니다.
이 비유를 지나치게 확대해서는 안 된다. 폰 노이만 자신도 단순히 계산이 빠른 사람이 아니라 대단히 독창적인 사상가였다. 하지만 Wigner가 구분한 두 능력은 중요한 점을 짚어낸다. 현재 AI가 수학에서 인간을 이기는 이유는 Einstein처럼 생각해서라기보다, 폰 노이만을 연상시키는 속도와 폭넓은 능력에 사실상 무제한인 노트를 결합했기 때문일 수 있다.
AI가 인간보다 기존 문제를 빠르게 푸는 데 그치지 않을 때 다음의 위대한 문턱을 넘게 될 것이다. 문제의 틀이 잘못됐음을 알아보고, 그 문제를 이해하는 근본적으로 더 나은 방법을 발명할 수 있을 때다.
source https://davidepiffer.com/p/ai-isnt-outthinking-mathematicians
HN에서는 AI의 수학적 성과를 깊은 통찰보다 방대한 작업 기억과 지치지 않는 탐색으로 설명하는 해석이 큰 공감을 얻었다. 여러 분야의 지식과 풀이 기법을 한꺼번에 불러오고, 실패한 접근까지 남겨 두며 다음 조합을 계속 시도한다는 것이다. 다만 인간 전문가 역시 축적한 지식을 익숙한 개념 단위로 압축해 사고한다는 점에서 기억과 지능을 깔끔하게 나누기 어렵다는 반론도 나왔다.
개발 현장의 경험은 이런 강점과 한계를 함께 드러낸다. 코딩 에이전트는 대규모 코드베이스를 살피거나 반복 구현을 맡을 때 유용하지만, 학습 사례가 드문 환경 오류나 새로운 문제에서는 엉뚱한 결론을 내리기 쉽다. 문제를 잘 아는 사람이 의심할 지점을 짚어 주면 세부 작업은 빠르게 해내지만, 중요한 단서를 스스로 골라 검증하는 판단력까지 안정적이라고 보기는 어렵다.
넓은 작업 기억이 좋은 추상화로 곧장 이어지지도 않는다. AI는 반복되는 코드를 묶고 구조를 단순화하기보다 비슷한 코드를 더 많이 작성하는 경향이 있다. 처음에는 사람이 읽기 쉬운 설계가 덜 중요해 보일 수 있지만, 모델이 해결하지 못한 결함을 사람이 고쳐야 하는 순간 복잡한 구조와 코드에 대한 팀의 이해 부족이 유지보수 비용으로 돌아온다.
수학에서도 긴 증명을 만드는 것만으로 성과가 완성되지는 않는다. 결과를 검증하고, 왜 그 접근이 통하는지 설명해 공동의 이해로 바꿔야 지식으로 남는다. 결국 현실적인 판단 기준은 AI가 인간보다 더 똑똑한지를 가르는 데 있지 않다. 방대한 기억과 탐색을 어디까지 맡길지, 문제 선택과 추상화, 오류 검증과 설명 책임을 누가 맡을지 먼저 정해야 한다.
