지능이 핵심 병목은 아니다

편집자 주: 분명히 해두자면, 샌프란시스코 기술 업계에 있는 모두나 과반수가 이런 식으로 생각한다는 뜻은 아니다. 하지만 분명 일부는 그렇고(가령 글을 여는 대화는 실제로 오간 말을 그대로 옮겼다), 이 글은 담론과 정책 결정에서 실제 규모보다 훨씬 큰 영향력을 행사하는 특정 핵심 집단을 다룬다.

최근 한 저녁 식사 자리에서 AI 연구소에 다니는 사람이 내게 꽤 노골적으로 물었다. 왜 그런 일을 하느냐고. 왜 의료 발전을 가로막는 규제 병목을 글로 쓰고, 왜 임상시험 관련 정책에 시간을 쓰느냐는 질문이었다. 그의 표정을 가장 잘 설명하는 단어는 연민이었다.

나는 내가 믿는 바를 말했다. AI 시대가 되면 의학은 규제와 고된 임상시험 절차 때문에 이전보다 더 심각하게 막힐 것이며, 아무리 매력 없는 문제라도 전임상 연구를 가속하는 데 수십억 달러를 쏟는다고 해결되지는 않는다는 것이다. 주택 문제도 꺼냈다. 더 좋은 주택을 지을 기술은 수십 년 전부터 있었지만, 주택 가격은 어느 때보다 비싸졌다. 주택은 순수한 역량이 아니라 정치적 의지의 문제이기 때문이다.

그는 믿을 수 없다는 표정으로 나를 바라봤다. 나처럼 똑똑한 사람이라면 AI, 더 정확히는 AGI가 곧 엄청난 설득력을 갖추리라는 사실을 당연히 알아야 하지 않겠느냐는 것이었다. 이미 여러 벤치마크에서 전문 토론가보다 사람을 더 잘 설득한다고 했다. 나는 *“음.”*이라고 답했다. 그는 *“그렇죠, 그렇죠”*라고 말했다. AI 연구소 직원이 아닌 나 같은 보통 사람은 알기 어려운 깊은 지식을 자신은 꿰뚫고 있다는 말투였다. 그리고 곧 도살될 운명을 기다리는, 지적 능력은 조금 떨어지지만 귀여운 동물을 보듯 다시 연민 어린 눈으로 나를 바라봤다.

그날 밤 나는 잠들지 못하고 뒤척였다. 내 삶에 과연 의미가 있었는지, 지금까지 내린 모든 결정이 어떤 면에서는 잘못이 아니었는지 생각했다. 무엇을 더 잘할 수 있었을까?

하지만 해가 뜰 무렵 다시 같은 생각으로 돌아왔다. AI가 아무리 ‘지능적’이 되더라도 현실 세계를 바꾸는 데 지능이 핵심 병목이 아닌 경우가 많다. 나보다 똑똑하고 공개되지 않은 정보까지 접하는 사람들이 그렇지 않다고 단언하면 이 믿음을 지키기 어렵다. 어쩌면 이 모든 생각은 도살을 기다리는 순진한 햄스터가 현실을 견디려고 내놓는 자기합리화에 불과할지도 모른다.

그래도 나는 내 믿음을 지키겠다.

이 연구소들에 있는 사람들이 한때 미친 생각처럼 보였던 발상에 베팅해 큰돈을 벌었기 때문에, 이제 세상은 그들이 하는 거의 모든 말을 무조건 믿는다. 나는 그것이 실수라고 생각한다. 우리가 문제를 명확히 파악하지 않는다면 AI가 의학을 비롯해 대다수 사람이 실제로 중요하게 여기는 문제를 해결하리라는 보장은 없다. 지금 우리는 그렇게 하지 못하고 있다고 생각한다. 적어도 할 수 있는 만큼 충분히 하지는 못한다. 내 주장은 단순하며 두 방향의 관찰에서 나왔다. 하나는 샌프란시스코의 사회적 역학과 그곳 사람들이 이 모든 것을 말하는 방식이다. 다른 하나는 내가 어느 정도 아는 분야인 의학에서 확인한 사실이다.

AI와 의학

AI가 초래할 위험을 정당화할 때 가장 자주 거론되는 약속 중 하나는 AI가 *‘질병을 치료할 것’*이라는 주장이다. 주요 AI 연구소의 CEO는 모두 그렇게 말하며, 투자자도 동의하는 듯하다. 기존 방식의 바이오테크 기업은 자금을 구하지 못해 문을 닫는 반면, AI 이야기를 붙인 바이오테크 스타트업은 어디든 놀라운 기업가치를 인정받는다. 하지만 내가 오래전부터 주장했듯이 이 사업 전체를 막는 병목 가운데 상당수는 ‘지능’ 자체와 별 관계가 없다. 그런데도 이 사실이 자주 인정되지 않는 모습은 이상할 정도다.

과학의 발전을 지능의 대략적인 대리 지표로 보고, 과학 발전만으로 진척을 가로막는 장애물이 해소되는지 물으면 증거는 어디에나 있다. Eroom의 법칙을 보자. 과학 도구가 훨씬 강력해졌는데도 R&D 비용 1달러당 승인되는 신약 수는 수십 년간 감소했다. 원천 역량이 커지면 예상할 법한 결과와 정반대다. 희귀암에 획기적인 치료제 두 종을 출시한 Adaptimmune도 개발 비용 때문에 생존을 위해 고군분투하고 있다. 맞춤형 유전자 편집 치료로 목숨을 구한 아기 ‘KJ’의 연구진에게 물어봐도 된다. 이들은 과학적으로 필요한 것을 모두 갖췄지만, 제조 비용 때문에 다음 아이에게 같은 치료를 쉽게 제공하지 못한다. 이 비용은 규제 요건 때문에 커진 측면이 있다.

그림 2. 기초과학이 발전했는데도 제약 R&D 생산성은 1960년부터 꾸준히 감소했다. 다만 지난 10년 동안에는 유전학 등을 통한 예측 타당성 향상과 여러 요인이 결합하면서 제약 생산성의 하락세가 완화된 것으로 보인다. 승인 기준이 상대적으로 낮은 경우가 많은 종양학과 희귀질환에 더 많은 노력이 투입된 것도 한 요인이다. 이 분야들은 충족되지 않은 의료 수요가 크기 때문이다.

특히 바이오제약에서 큰 병목 중 하나는 임상시험이다. 이 이야기를 계속 반복한다는 것은 안다. 오늘날 신약 하나의 임상시험에는 약 7년이 걸리고 10억 달러 넘게 든다. 임상시험은 단순한 요식 행위도 아니다. 더 나은 모델을 훈련하는 데 가장 필요한 종류의 데이터, 즉 결국 다른 것으로 대체할 수 없는 인간 데이터를 만들어낸다.

임상시험을 단축하면 생의학 혁신이 직접적으로 촉진될 뿐 아니라, 업계 종사자의 위험 감수 성향을 높이고 빠른 피드백 순환으로 유인을 더 잘 정렬하는 등의 2차 효과도 생긴다는 폭넓은 증거가 있다. 다른 조건이 같을 때 시험 기간이 짧아지면 해당 질환 분야의 투자가 크게 늘어난다는 탄탄한 경제학 논문부터 중국이라는 자연실험까지 증거의 범위도 넓다. 중국 바이오테크 기업은 이제 서구 대형 제약사의 기술 도입 계약 가운데 절반 넘게 차지하며 미국을 추월할 기세다. 불과 10년 전에는 그 비율이 0이었다. 중국은 여전히 기초과학 수준이 뒤처지는데도 이런 변화를 이뤘다. 인간 대상 데이터로 더 빠르게 반복 학습할 수 있도록 한 규제 개혁이 주된 이유로 꼽힌다.

다만 Milan Cvitkovic은 인간 대상 데이터를 더 빨리 확보하게 한 규제 개혁이 중국의 부상을 주도했는지는 명확하지 않다고 지적했다. 중국은 2015년에 보장 범위 확대, 밀린 규제 결정 처리 등 여러 정책을 한꺼번에 개혁했기 때문에 무엇이 가장 큰 영향을 미쳤는지 판단하기 어렵다. 한 글에서는 보장 범위 확대가 핵심이었다고 주장한다. 나는 그 주장에 어느 정도 의문을 품는 이유를 이 X 게시물에서 설명했다. 어느 쪽이든 인간 대상 데이터를 빨리 확보하는 역량이 중국의 강점을 이루는 큰 요소라는 점과, 그것이 규제 개혁의 결과인지와 별개로 중국 바이오테크 부상의 직접적인 원인이 정책 변화였다는 점에는 모두가 동의한다고 생각한다. Milan과 나눈 의견은 여기에서 확인할 수 있다.

AI를 활용하면 임상시험 자체를 더 짧고 유익하며 효과적으로 만들 수 있다. 내가 특히 가능성을 높게 보는 분야는 대리 평가변수와 바이오마커다. AI를 이용하면 약효 여부를 불연속적이고 거친 지표로 판독하는 대신, 빠르고 연속적인 지표로 측정할 수 있다. 그러면 임상시험을 대폭 최적화할 수 있다. 적절한 대리 지표를 찾는다면 일부 적응증에서는 임상시험의 속도와 비용을 최대 10배 개선할 수도 있다. 시험 기간을 꼭 줄이지 않고 임상시험만 최적화해도 얻을 수 있는 이점은 여기에 포함하지 않았다. 치료 효과를 충분히 일찍 알려주는 적절한 바이오마커가 있다고 상상해 보라.

그림 3. 대리 평가변수는 특정 분야에 투자할 유인을 키운다. 이를 입증한 경제학 논문의 결과가 사실임을 나도 확인할 수 있었다. FDA가 골다공증 임상시험에서 골밀도(Bone Mineral Density, BMD)를 대리 평가변수로 인정한 뒤, 대형 제약사들이 이 적응증을 개발하려는 의지가 눈에 띄게 커지는 모습을 직접 봤기 때문이다.

그러나 여기서도 실제로 진전을 막는 제약이 전적으로 지능인 것은 아니다. 거버넌스가 제약이 되는 경우가 많다. 이런 바이오마커를 개발하려는 기업들과 계속 대화해 보면, 이들이 반복해서 부딪히는 문제는 기반 데이터에 접근하기가 너무 어렵다는 것이다. 일부 기업은 더 나은 바이오마커를 만드는 데 쓸 영상 데이터세트를 NIH가 공개하기를 1년째 기다리고 있다. 평가변수를 검증받기 위해 FDA와 협의해야 한다면 더 심각하다. 골다공증 임상시험의 대리 평가변수로 골밀도(BMD)를 검증하는 데 12년이나 걸렸다는 사실을 전에 글로 쓴 적이 있다. 이를 뒷받침할 데이터는 이미 완전하게 존재했고, 분석이라고 해봐야 기본적으로 회귀분석이었는데도 말이다.

AI 업계 사람들이 의학의 규제와 거버넌스를 다룰 때는 접근 방식이 상당히 피상적으로 느껴질 때가 많다. 지난 수십 년간 기초과학에 비해 의학의 발전이 둔화한 현상을 규제로는 제대로 설명할 수 없다는 주장을 여러 번 봤다. 대부분의 약물이 효능 부족으로 실패하니, 효능 없는 약을 더 많이 승인한다고 도움이 되지는 않는다는 논리다. 얼핏 맞는 말처럼 들리지만 사실은 그렇지 않다. 내가 계속 강조하듯이, 규제가 생의학 발전을 늦춘다고 말할 때 사람들이 뜻하는 것은 대개 마지막 단계의 승인 결정이 아니다. 그보다 앞선 전체 과정이 문제다. 인간 데이터를 얼마나 쉽게 수집할 수 있는지, 그리고 수집한 데이터를 실제로 얼마나 쉽게 활용할 수 있는지가 핵심이다.

내가 가장 잘 아는 분야는 임상시험이지만, 거버넌스와 정책이 발전을 늦추는 영역은 그뿐만이 아니다. 특허 제도의 구조가 신약의 혁신성에 어떤 영향을 주는지도 한 가지 사례다.

생의학에는 표적 쏠림이라는 문제가 있다. 대부분의 기업이 위험성이 이미 낮아진 동일한 생물학적 표적을 뒤쫓기 때문에, 우리가 탐색하는 생물학적 영역은 가능한 범위보다 훨씬 좁다. 그 이유는 위험을 나눠 보면 가장 분명해진다. 신약 개발에서는 두 종류의 위험이 중요하다. 표적 위험은 생물학적 불확실성을 뜻한다. 이 단백질이 질병에 인과적으로 관여하는가? 이 단백질을 공략하면 감당할 수 없는 독성 없이 환자에게 도움이 되는가? 분자 설계 및 최적화 위험은 표적을 정한 뒤 생기는 후속 문제다. 해당 표적을 겨냥한 새로운 분자를 설계하고 효능, 선택성, 안전성을 비롯해 화합물(예: 저분자)이나 생물학적 제제(예: 항체)의 무수한 특성을 개선하는 일이다. 이는 대부분 화학의 영역이며, 본질적으로 훨씬 다루기 쉽고 예측 가능하다. 검증된 표적만 주어지면 뛰어난 팀은 대개 괜찮은 분자를 만들어낸다. 물론 실제로는 모든 약물이 분자는 아니며 세포 치료제나 유전자 치료제도 있어 조금 더 복잡하다. 그래도 큰 원리는 유지된다. 이미 알려진 표적을 겨냥한 T세포 치료제를 개선하는 일은 본질적으로 위험이 더 낮다.

그림 4. 표적 쏠림이 발생하는 원리

특허 제도는 기업이 표적 위험을 감수할 유인을 한층 더 떨어뜨린다. 새로운 생물학적 발견이 아니라 새로운 화학 물질에 보상하기 때문이다. 대부분의 특허가 보호하는 대상은 물질 조성이다. 이는 특정 분자를 뜻하므로, 어떤 표적을 약물로 공략할 가치가 있다는 발견 자체는 보호하지 않는다.

앞서 말한 제약을 보면 표적 쏠림은 거의 기계적으로 발생한다. 새로운 표적을 찾아내는 일은 실제로 더 어려운데 특허 제도는 그 노력에 보상하지 않는다. 새로운 표적을 검증하고 그 과정에서 새로운 생물학적 사실을 발견한 주체는 막대한 표적 위험을 감수하지만, 특허 제도의 설계 때문에 그 보상을 확보할 수 없다. 최초 계열 신약이 설득력 있는 임상 데이터를 내놓으면 표적이 검증되고 그 검증 결과는 사실상 공개 정보가 된다. 그러면 경쟁사는 위험이 낮아진 같은 표적을 겨냥해 서로 다른 분자를 설계하고, 각각 강력한 특허를 얻는다. 결국 기업들은 새로운 표적을 검증하는 대신 이미 입증된 표적에 몰리고, 같은 유형의 생물학적 기전을 겨냥한 약물이 물결처럼 계속 쏟아진다. 최초 계열 신약이 상업적으로 ‘승리’하는 약이 아닌 경우도 많다. 후발 주자는 대개 화학적 특성을 더 잘 최적화하고 최초 신약의 결함에서 배울 수 있기 때문이다. 그래서 새로운 접근법을 개척한 주체가 그 가치를 확보하기는 어렵다.

AI로 새로운 표적을 찾는 연구를 비롯해 치명적인 질병의 분자적 원인을 밝히는 연구에 자금을 지원하는 유명 비영리단체의 한 책임자는, 현재의 지식재산권 제도 아래서는 자신이 지원하는 기관이 새로운 생물학적 사실을 밝혀 창출한 가치를 회수하기가 거의 불가능하다고 내게 말했다. 그는 그래도 기꺼이 계속 자금을 지원하겠지만, 그 가치를 회수할 수 있다면 모두에게 더 나을 것이며 현재의 유인 구조는 심하게 왜곡돼 있다고 본다.

아이러니하게도 가장 큰 투자 라운드를 유치하는 AI 생물학 기업은 대부분 이미 많은 기업이 뛰어든 분자 설계와 최적화 문제를 겨냥한다. 예를 들어 초기 바이오테크 기업으로서는 엄청난 수준인 38억 달러의 기업가치를 인정받은 Chai Discovery와 Isomorphic Labs는 본질적으로 모두 분자 설계·최적화 엔진이다. 표적이 주어지면 더 나은 화합물을 더 빠르고 정확하게 설계한다. 이는 훌륭한 일이지만, 나와 여러 사람이 이전부터 주장했듯이 검증된 표적의 범위를 넓히는 편이 사회 전체에는 더 큰 가치를 창출할 것이다. 그런데 특허 제도가 유인을 제공하지 않는 영역이 바로 이 부분이다. AI 기반 기업도 결국 경제적·법적 유인에 반응하는 셈이다!

내 생각에 같은 원리는 의학을 훨씬 넘어선 영역에도 적용된다. 기술의 확산은 어렵다. 기술이 실제로 경제 전반에 퍼지는 속도는 그 기반 기술 자체가 발전하는 원초적인 속도만으로, 혹은 주로 그 속도로 결정되지 않는다. 어떤 역량이 존재한다는 것과 제도가 그 역량을 받아들이는 것은 다르다. 무엇보다도 그 역량이 사람들이 중요하게 여기는 결과로 이어지는지는 또 다른 문제다.

이를 뒷받침하는 증거는 방대하다.

오늘날 세상을 돌아다니다 보면 이상할 정도로 달라진 것이 없다고 느낄 수 있다. LLM은 에이전트를 만들고 복잡한 애플리케이션을 작성할 수 있지만, 고객 서비스처럼 평범한 업무조차 아직 제대로 자동화되지 않았다. 오히려 자동화된 챗봇이 고객 경험에서 가장 나쁜 부분인 경우가 많다. GDP가 증가한 것은 좋은 일이지만 폭발적으로 늘지는 않았다. 종말이 닥칠 것이라는 거듭된 경고와 달리 신입 일자리도 대체로 그대로이며 오히려 늘고 있는 듯하다.

많은 사람에게 이는 놀라운 일이다. 얼마 전 한 콘퍼런스에서 만난 사람은 몇 년 전에 지금의 AI 역량을 미리 봤다면 크게 놀랐을 것이며, 지금쯤 세상이 훨씬 많이 바뀌고 GDP 성장률도 훨씬 높아졌으리라고 예상했을 것이라고 말했다. 새로운 관찰처럼 제시했지만 사실 이전에도 나온 이야기다. 기술이 현실에 확산되는 장벽을 생각해 온 사람이라면 지금까지의 경로를 충분히 예상할 수 있었다. 2023년 Progress Conference에서 경제학자 Tyler Cowen이 AGI를 확신하는 청중 앞에서 정확히 같은 주장을 했던 기억이 난다. 솔직히 말해 믿지 못하겠다는 반응을 보인 사람이 많았다. 그의 주장은 역량이 그 역량으로 일으키려는 변화보다 먼저 도착할 것이며, GDP 성장률은 기대에 못 미치고 대규모 일자리 대체도 일어나지 않으리라는 것이었다. 지금까지 나온 데이터는 그의 예측을 뒷받침하는 듯하다.

이를 예상한 사람들은 기술이 현실 세계에 얼마나 느리고 불균등하게 확산되는지, 그 과정에서 발생하는 마찰을 더 잘 이해한다. 이상하게도 뛰어난 지성을 지닌 사람들로 가득한 샌프란시스코 핵심 기술 업계는 이를 이해하지 못하는 듯하다. 어떻게 이렇게 똑똑한 사람들이 똑같은 맹점을 공유할 수 있을까?

획일적 사고는 어떻게 만들어졌나

내가 보기에 샌프란시스코의 일부 공동체는 획일적 사고가 지배하는 집단에 가까워졌다. 앞으로 편의상 이들을 ‘SF 사람들’이라고 부르겠지만, 문자 그대로 샌프란시스코의 모두나 대다수를 뜻하지는 않는다. 이 집단에는 서로를 강화하는 두 가지 특성이 있다. 첫째, AGI가 적어도 스스로 모든 것을 바꿀 정도의 힘은 없을 수 있다고 말하는 일이 실제로 지위를 떨어뜨리는 행위가 됐다. AI의 잠재력을 일찍부터 정확하게 판단한 사람들은 막대한 돈을 벌었다. 하나의 중대한 사안을 맞혔다는 사실은 이제 그들이 모든 사안에서 옳다는 전제로 굳어졌다. 가장 극단적인 주장에 의문을 제기하면 둔하고 IQ가 낮으며 ‘AGI를 충분히 믿지 않는’ 사람으로 낙인찍힌다. 연구소에서 일하는 사람, 특히 CEO라면 외부인은 접근할 수 없는 미래의 비밀을 알고 있다는 믿음도 계속된다. 그 결과는 자기검열이다. 샌프란시스코에서 내가 아는 똑똑한 사람 중 상당수는 AI 확산을 막는 병목을 알아보면서도, AGI에 대한 확신이 부족해 보일까 봐 아무 말도 하지 않는다.

하지만 그렇게 똑똑한 사람들이 어떻게 틀릴 수 있을까? 어떤 것에서든 말이다. 나는 여기에 이상하거나 특이한 점이 전혀 없다고 생각한다. 더 지혜로운 시대였다면 이 사실을 말하기도 쉬웠을 것이다. 나는 최고의 인간과 평균적인 인간 사이에는 아주 큰 차이가 있지만, 신과 최고의 인간 사이에는 그보다 훨씬 더 큰 차이가 있다고 말한 적이 있다. 아무리 똑똑하고 강하며 경험이 많아도 모든 답을 아는 사람은 없다는 뜻이다.

그뿐만 아니라 AI 경쟁의 승자들은 AI 개발이라는 핵심 과업에는 도움이 됐지만 그 밖의 일을 판단할 때는 부적응을 일으키는 방식으로 자신의 판단력을 과신할 수 있다고 생각한다. 스타트업에서는 망상이 도움이 될 때가 많다. 비합리적인 확신이 있어야 작은 집단이 불가능한 일에 도전하고 이따금 성공할 수 있기 때문이다. Byrne Hobart와 Tobias Huber는 Boom에서 이와 비슷한 주장을 편다. 보통 파괴적이라고 비난받는 금융 거품이 실제로는 획기적인 발전을 이끈 동력이었다는 것이다. 집단적 망상처럼 보이는 믿음이 진정한 발전에 자금을 대고 이를 밀어붙이는 경우가 많다. 하지만 이 원리는 양쪽으로 작용한다. 생산적인 망상으로 성공했다고 해서 다른 모든 일에서도 옳은 것은 아니다. 오히려 성공을 만들어낸 바로 그 특성이 다른 영역에서는 쓸모없는 방식으로 자신감을 부풀릴 수 있다.

이 획일적 사고의 두 번째 특성은 일종의 가짜 반골 기질이다. 외부 세계의 대다수가 오랫동안 AI의 잠재력을 의심했기 때문에 샌프란시스코 사람들은 자신을 용감한 반대자로 여긴다. 하지만 그들만의 집단 안에서 그런 견해는 안전할 뿐 아니라 지위까지 높여준다. 자신이 오해받는 반대자라고 믿는 데는 사람을 취하게 하는 힘이 있고, 그 믿음 때문에 근본적인 확신을 바꾸기가 더 어려워진다.

학계에 있던 시절, 학자들은 대체로 매우 진보적이면서도 자신을 반대자라고 생각한다는 점을 자주 발견했다. 적어도 부분적으로는 대부분이 대학보다 보수적인 곳에서 왔기 때문이다. 이들은 함께 모여 서로가 아니라 외부 세계와 자신을 비교한 뒤, 그 자리에서는 명백한 합의인 진보적 견해를 어쩐지 용감한 태도라고 결론 내렸다. 내가 보기에 SF는 AI를 두고 똑같은 일을 했다. 엘리트 기술 업계에서 AGI를 진지하게 받아들이는 것은 전혀 반대자의 태도가 아니다. 오히려 그 반대에 가깝다. 하지만 비교 대상은 언제나 다른 사람, 예를 들면 워싱턴 DC의 정책 담당자이기 때문에 현실과 마주하고도 포위된 반대자라는 감각은 살아남는다.

이 모든 것이 정말 중요한지 물을 수 있다. 무엇이 나쁘다는 것일까? 내가 모르는 것일 뿐, 기술 업계라는 거품 안에서는 AGI 신을 향한 열광이 계속되는 편이 나을지도 모른다. 하지만 이 믿음은 공공 담론 전반으로 스며들어 우선순위를 나쁜 방향으로 재편할 수 있다.

가장 기본적으로는 경험적 진실에서 멀리 떨어지는 것보다 가까이 다가가는 편이 낫다고 생각한다. 더 구체적인 대가도 있다. 잘못된 믿음은 잘못된 우선순위로 이어질 수 있다. 나는 AI가 큰 혼란을 일으킬 것으로 예상한다. SF 집단이 생각하는 것과 같은 방식일 필요는 없지만 말이다. 그렇기에 지금은 우선순위를 잘못 정하기에 특히 나쁜 시기일 수 있다.

다시 의학을 예로 들겠다. 우리는 엉뚱한 병목에 노력을 쏟고 있을지 모른다. 앞서 주장했듯이 의학에서 규제 개혁이 받는 관심은 AI 기반 생물학에 쏟아지는 관심의 극히 일부에 불과하다. AI 기반 생물학 안에서도 실제로 큰 변화를 일으킬 개입에는 투자금이 적게 몰리는 경우가 많다.

이 문제는 의학을 훨씬 넘어선다. 우리는 AGI 신에게 집착하는 동안 더 평범한 문제들은 방치된 채 쌓여간다. 사회적 유대가 눈앞에서 무너지고 있다. 집을 마련하거나 관계를 유지할 여력이 없는 청년이 갈수록 늘어난다. 사람들은 젊은 시절을 도박 앱에 쏟아붓고 있으며, 그중 일부는 우리가 계속 논하는 바로 그 AI 덕분에 더 강력해졌다. 생각하는 일을 기계에 더 많이 넘기면서 사람들의 능력도 퇴화하고 있다. 나는 가끔 AI가 내 일자리를 빼앗는 것보다 사람들이 호기심을 잃어 아예 글을 읽지 않게 되는 일이 더 걱정된다고 말한다. 이 모든 문제에는 해결하려고 일할 사람이 필요하다. 모든 문제를 마법처럼 녹여 없애줄 디지털 신에게 사로잡히면, 이미 우리 곁에 닥친 더 단순하고 인간적인 문제에서 관심이 멀어진다.

^{source https://www.writingruxandrabio.com/p/intelligence-is-not-the-main-bottleneck}

HN에서는 지능의 가치를 부정하기보다, 현실의 성과를 가로막는 제약이 어디에 있는지를 두고 판단이 갈렸다. 더 나은 해답을 찾는 능력과 그 해답을 채택하고 실행하는 능력은 다르다는 지적이 많았다. 데이터와 권한이 제한되고 이해관계가 충돌하는 상황에서는 뛰어난 계획도 행동으로 이어지기 어렵다. 설득을 원하지 않거나 변화로 손해를 보는 주체가 있다면 지능을 높이는 것만으로는 부족하다.

제품과 조직을 다뤄 본 이들은 인간을 위한 시스템이 기계 중심의 시스템보다 훨씬 어렵다고 짚었다. 성패는 개인의 영리함뿐 아니라 현장과의 소통, 문제에 대한 이해, 여러 주체의 협력에 좌우된다. AI가 작업 절차를 알려주더라도 숙련자가 몸으로 익힌 감각까지 곧바로 대신할 수는 없다. 뛰어난 연구자나 AI가 결과를 내놓아도 이를 이해하고 검증해 적용할 사람이 필요하다.

의료에서는 이 구분이 더욱 뚜렷했다. 데이터 공개, 임상시험, 규제기관의 승인처럼 연구자가 임의로 단축하기 어려운 단계가 있다. 한편 질병의 원리를 파악하고 유효한 표적을 찾는 일 자체가 매우 어렵다는 반론도 나왔다. AI가 실패 가능성이 큰 후보를 임상 전에 걸러내면 시험 절차를 바꾸지 않고도 부담을 줄일 수 있다. 반대로 규제를 장애물로만 보면 안전과 인간의 돌봄이라는 목적을 놓칠 수 있다는 경계도 뒤따랐다.

결국 따져야 할 것은 지능이 중요한지가 아니라, 추가된 지능이 현재의 제약을 실제로 움직일 수 있는지다. 데이터와 실행 권한이 있는지, 이해관계를 조정할 수 있는지, 현장에서 검증하고 수행할 수 있는지부터 확인해야 한다. AI의 성능만으로 변화의 폭을 예상하기보다 문제의 어느 단계가 막혀 있고 그 제약을 누가 풀 수 있는지 구분하는 일이 먼저다.