마크 저커버그, ‘폐쇄형’ AI 경쟁자를 비판하며 Meta의 오픈 모델 전략으로 복귀
한 줄 요약
“초지능을 소수 기업·정부·AI 자체에 집중시키지 말고, 모든 개인에게 나눠줘야 더 안전하고 풍요로운 미래가 된다”
AI의 목적은 Automation보다 Invention
기존 업무를 없애는 것보다, 사람들이 이전에는 불가능했던 것을 발명·창조하게 만드는 것이 초지능의 가장 큰 가치라고 봄
개인의 능력 향상이 자동화 속도를 따라잡거나 앞선다면, AI가 오히려 새로운 직업과 기업을 늘릴 수 있다고 주장
Meta의 최종 제품은 ‘Personal Superintelligence’
개인의 목표와 맥락을 이해하고 24/7 일하는 에이전트
건강, 커리어, 금융, 학습, 창작, 사업 운영 등을 지원하며 안경을 포함한 여러 디바이스에서 사용
모든 사람에게 무료 또는 저렴한 버전을 제공한다는 방향
Alignment의 정의도 바꾸겠다는 입장
“AI를 회사가 정한 단일 가치관에 맞춘다”가 아니라 “각 사용자의 목표와 가치에 맞춘다”로 정의
법률·안전 경계는 유지하되, AI 회사가 사회 전체의 가치판단자가 되는 것을 경계함
AI Safety의 핵심을 ‘통제’보다 ‘권력의 균형’으로 봄
하나의 완벽하고 선한 Superintelligence를 만드는 것은 현실적이지 않다고 주장
여러 개인, 기업, AI 모델이 서로 경쟁·견제하는 구조가 민주주의와 시장경제처럼 더 안전하다는 논리
즉 Centralized AI → 위험 / Distributed AI → Checks & Balances
Open Source AI를 계속 밀겠다고 명시
오픈소스는 AI 권력 집중을 막는 핵심 수단이라고 평가
Meta Superintelligence Labs 출범 이후 오픈소스 모델 공개를 곧 재개하겠다고 밝힘
Privacy도 Personal AI의 핵심 조건
개인 에이전트에는 Meta조차 데이터를 보거나 제공할 수 없는 완전한 Private Mode를 만들겠다고 약속
WhatsApp의 E2E 암호화와 비슷한 철학을 제시
AI 위험에 대한 해법은 ‘능력 제한’보다 방어자의 능력 강화
Cybersecurity·Bio Risk 때문에 일반인의 AI 능력을 제한하면 중앙집중화가 심해진다고 주장.
Frontier AI Lab이 정부에 훈련 중간 체크포인트와 기술 인력까지 미리 제공해 중요 인프라를 방어하도록 하자는 제안도 포함
상당히 강한 미국 중심 AI 전략
미국과 동맹국이 AI와 오픈소스 생태계를 선도해야 한다고 주장
데이터센터·전력 등 AI 인프라 건설은 가속하고, 해외 경쟁국에 대한 반도체 수출통제는 유지해야 한다는 입장
미국 AI 출시를 획일적인 규제로 늦추는 것에는 반대
Meta 내부에도 별도 견제장치
Zuckerberg 개인이나 CEO 한 명이 초지능 출시를 결정하는 것은 바람직하지 않다며, 독립 이사회가 모델 출시 Safety Criteria를 승인·검토하는 구조를 도입한다고 밝힘
source https://www.ft.com/content/4e3957f8-ea7c-4c46-a3de-cdce8e526878
HN에서는 Meta의 의도를 신뢰하느냐와 별개로, 경쟁력 있는 개방형 모델이 늘어나는 일 자체는 긍정적이라는 반응이 중심을 이뤘다. Llama가 개방형 AI 생태계를 넓히는 데 기여했다는 평가와 함께, 선두 경쟁에서 밀린 Meta가 폐쇄형 경쟁사의 우위를 약화하려는 전략이라는 해석도 나왔다. 동기가 전략적이더라도 시장의 선택지를 늘린다면 결과까지 부정할 필요는 없다는 판단이다.
신뢰 여부는 선언보다 공개 방식과 지속성에 달렸다. “일부 모델을 곧 다시 공개한다”는 표현은 장기적인 약속으로 보기엔 모호하다. Meta가 그동안 여러 모델을 꾸준히 내놓았다는 점에서 ‘개방형 모델로 복귀했다’는 규정도 과장됐다는 반론이 있었다. 가중치만 공개한 모델을 곧바로 오픈소스라 부르기보다 라이선스와 공개 범위, 재현 가능성을 구분해 살펴야 한다는 지적도 이어졌다.
실무에서는 개인 장비로 구동할 수 있는지만큼 공급자를 바꿀 수 있는지가 중요하다. 많은 연산 자원이 필요해도 여러 추론 사업자의 가격과 속도, 안정성, 개인정보 처리 방침을 비교할 수 있다. 특정 업체가 정책을 바꿔도 다른 곳으로 옮길 여지가 생긴다. 다만 막대한 훈련·운영 비용을 누가 부담할지, 폐쇄형 최상위 모델에 기대는 증류 방식으로 개방 생태계를 계속 유지할 수 있을지는 분명하지 않다.
