Dario Amodei: 개방 가중치 모델에 대한 우리의 입장

우리는 오픈 가중치 모델에 대한 입장 2026년 7월 27일 Anthropic 최고경영자 Dario Amodei 글

지난 며칠간, 오픈 가중치 모델—특히 중국에서 나온 오픈 가중치 모델—에 대한 논의가 많이 일었다. 일부 미국 관리관들이 미국 기업이 중국의 오픈 가중치 모델을 사용하는 것을 금지하려고 검토하고 있다는 보도가 있었다. 이에 대응해 많은 기술 기업들이 오픈 가중치 모델을 지지하는 공개 서한에 공동 서명했으며, 심지어 Anthropic이 오픈 가중치 모델을 금지하려고 하여 자체 상업적 이익을 보호하려 한다고 비난하는 사람도 있었다. 내 이전 글을 읽은 사람이라면 모두 알겠지만, 나는 이러한 금지가 효과적인 조치라고 생각하지 않는다. 그러나 여기서 나는 어떤 의문도 남지 않도록 명확히 입장을 밝힌다: Anthropic은 오픈 가중치 모델에 대한 금지를 주장한 적이 전혀 없다.

위험 능력이 없는 오픈 가중치 모델은 공공재이다: 이를 실행하는 데 필요한 컴퓨팅 파워 외에는 거의 비용이 발생하지 않으며, 기업, 개발자 및 연구자에게 가치를 창출한다.

보호주의적 금지는 내가 가장 우려하는 국가 안보 문제를 해결하지 못한다. 구체적으로 나는 두 가지 악몽 같은 상황을 우려한다. 6개월 전 나는 《기술의 청춘기》(The Adolescence of Technology)라는 글에서 이 두 점을 제시했으며¹, 그 이후로도 이 입장은 변함이 없다:

내 가장 큰 우려는 권위주의 정부—단순히 중국공산당(CCP)만이 아니라, CCP가 가장 강력한 위협임은 분명하지만—가 미국보다 더 강력한 AI 모델을 구축하고 이를 통해 영구적인 군사적 우위를 확보하거나 자국 국민에게 극심한 억압을 가할 수 있다는 것이다. 이 우려는 미국 정부 내부에서도 널리 인정받고 있다: 부통령 Vance는 지난해 파리에서 "권위주의 정권이 AI를 탈취해 군사·정보·감시 능력을 강화하고 있다"고 경고했으며; 미국 정보계가 발표한 《2026년 위협 평가》에서도 "다른 글로벌 강대국들의 AI 분야 강력한 진전이 미국의 경제 경쟁력과 국가 안보 우위를 위협하고 있다"고 지적했다. 이러한 모델이 오픈 가중치 형태로 공개되는지는 중요하지 않으며, 미국 기업이 이를 사용하는지도 중요하지 않다. 실제로 가장 위험한 모델은 비밀 상태에서 훈련되어 중국 인민해방군에 무인기용으로, 국가안전부에 감시·진압용으로 제공되는 모델일 가능성이 크다. 두 번째 우려는 강력한 AI 모델이 사이버 공격이나 생물학적 공격에 악용될 수 있으며, 정렬(alignment) 문제도 심각할 수 있다는 것이다. 오픈 가중치 모델—중국이든 다른 어느 곳이든—은 폐쇄형 모델보다 위험이 더 클 수 있다. 왜냐하면 보호 조치를 가하거나 사용 상황을 감시하기 어렵고, 가중치가 공개되면 회수할 수 없기 때문이다². 그러나 미국 기업이 이러한 모델을 사용하는 것을 금지한다고 해도 위험이 해결되지 않는다. 악의를 가진 자는 합법적인 미국 기업이 아닐 가능성이 높기 때문이다. 이러한 금지는 미국 AI 기업이 경쟁에서 면제될 뿐이며, 이는 내 목표가 아니다.

이 문제들을 해결하기 위해 나는 실제로 다음 세 가지 조치를 지지한다. 이것은 나와 Anthropic이 지속적으로 옹호해 온 내용이다:

우리는 중국에 첨단 칩이나 칩 제조 장비를 판매해서는 안 되며, 현재 매우 만연한 밀수 행위³와 이러한 칩을 확보하기 위한 각종 우회 수단을 단속해야 한다. 중국의 국내 생산 능력은 제한적이므로, 규모 법칙(scaling laws)에 따라 미국 칩이 없으면 중국은 미국보다 더 강력한 모델을 구축할 수 없다. 이는 첫 번째 위협을 막는 가장 효과적이고 직접적인 방법이며, 동시에 미국 법이 도달하지 못하는 모델 훈련을 방해함으로써 두 번째 위협에도 간접적으로 도움이 된다. 우리는 산업 규모의 증류(distillation) 작업을 단속해야 한다. 모델을 처음부터 훈련하는 것보다 증류는 훨씬 계산 효율이 높아, 칩 수가 부족한 중국이 예상보다 훨씬 강력한 모델을 구축하도록 만든다. 증류가 CCP가 미국과 동등하거나 그 이상인 AI 능력을 얻는 것을 보장하지는 않지만, 중국의 최첨단 수준을 미국 최첨단과 몇 달 차이로 좁힌다. 실제로 이 증류 작업을 하는 많은 기업이 오픈 가중치 모델을 발표했지만, "이러한 작업 뒤에는 미국을 앞서려는 권위주의 국가가 있다"는 사실에 비하면 오픈 가중치 자체는 크게 중요하지 않다. 우리는 이러한 행위를 억제하기 위한 정책 개입 조치를 마련해야 한다. 오픈 가중치 모델에 대한 전면 금지는 올바른 해결책도 아니며 우리가 주장하는 바도 아니다⁴. 능력이 일정 수준에 도달한 모든 모델은 오픈이든 폐쇄이든 강제 안전 테스트를 받아야 한다. 두 번째 위협에 대응하는 최선의 방법은 모델이 공개되기 전에 네트워크 보안, 생물학적 안전 및 정렬 위험을 직접 테스트하는 것이다. 나는 이 생각이 실제로 합의에 가까워졌다고 본다: 한편, 트럼프 정부는 최근 몇 달 동안 이 방향으로 나아가고 있어 고무적이며; 다른 한편, 업계도 최근 몇몇 제안을 내놓아 모델이 어느 국가에서 왔든, 오픈이든 폐쇄이든, 능력이 가장 강력한 범주에 속하면 이러한 테스트를 받아야 한다(능력이 약한 모델, 예를 들어 스타트업이나 학계 모델은 완전히 면제)고 주장하고 있다. 이는 나에게도 안심이 된다. 오픈 모델이 더 높은 위험을 초래하는지, 그 위험을 완화할 수 있는지는 테스트를 통해 결론을 내려야 하며, 사전에 가정해서는 안 된다—게다가 이미 몇몇 유망한 방법이 존재해 오픈 가중치 모델의 안전성을 높일 수 있다. 여기에는 AE Studio와 Anthropic이 최근 모듈식 훈련 전략에 대해 공동 연구한 내용도 포함된다. 테스트를 진정으로 효과적으로 만들려면 전 세계적으로 시행되어야 하며, 이는 CCP도 참여해야 함을 의미한다. 나는 이것이 실현 가능하다고 본다: 내가 《기술의 청춘기》에서 쓴 바와 같이, AI 생물 무기를 방지하기 위한 제한적 협력은 가능하며, 이는 중국 자체 이익에도 부합한다.

이제 공개 서한에 대해 말한다. 나는 서한의 많은 의견에 동의한다: 오픈 가중치 모델은 AI 경제에 진입할 기회를 확대하고, 일부 적용 분야에서는 경쟁을 강화하며, 고객에게 더 큰 자율성을 제공한다. 증류에 대한 우려는 앞서 언급한 조치를 통해 법적·상업적 프레임워크로 해결해야 한다. 그러나 나는 서한의 다음 주장에는 동의하지 않는다: 오픈 가중치 모델이 반드시 방어 조치를 개발하는 데 더 유리하거나, 능력의 광범위한 획득이 방어 측에 더 유리하다는 주장이다. 내 생각에 상황은 정반대로 될 가능성도 충분히 존재한다. 예를 들어, 나는 생물 분야에서 강력한 공격-방어 비대칭이 발생할 것을 우려한다: 충분히 강력한 모델은 쉽게 구할 수 있는 물질을 이용해 대유행 수준의 바이러스를 무기화할 수 있으며, 이러한 병원체에 대한 방어는 가장 이상적인 경우에도 수년이 걸리는 작업이다(우리가 "워프 스피드 작전"(Operation Warp Speed)에서 본 바와 같이)⁵. 이러한 문제는 사전 가정이 아니라 공개 전에 엄격한 실증 테스트를 통해 답을 찾아야 한다.

요약하면, 나와 Anthropic의 입장은 다음과 같다: 우리는 과거에도 현재도 오픈 가중치 모델 전체에 대한 금지를 주장하지 않는다. 오히려 우리는 초첨단 칩이 권위주의 정부에 넘어가지 않도록 방지하고, 산업 규모의 증류 작업을 억제하며, 능력이 일정 수준에 도달한 모든 모델—오픈이든 폐쇄이든—이 안전 테스트를 받도록 하는 데 초점을 맞춰야 한다.

*편집자 주(7월 28일 업데이트): 문서에 언급된 모듈식 훈련 전략 연구는 Anthropic과 AE Studio가 공동으로 수행한 것이다.