미국 펜타곤 vs AI 기업 '앤스로픽' 정면충돌! 자율 무기 통제권 두고 초강수 둔다

Image Credits: Stefan Wermuth/Bloomberg / Getty Images

안녕하세요! 오늘은 전 세계 IT 업계는 물론 국제 사회 전체의 이목이 쏠린 초유의 사태를 전해드리려고 합니다. 바로 미국 국방부(펜타곤)와 실리콘밸리를 대표하는 AI 기업 중 하나인 '앤스로픽(Anthropic)' 사이에서 벌어지고 있는 팽팽한 기싸움에 대한 소식입니다.

국가의 안보(National Security)와 인공지능 기업의 윤리(AI Safety) 중 과연 어느 쪽이 우선되어야 할까요? 이 거대한 질문을 던지는 사건의 전말을 티스토리 독자 여러분을 위해 낱낱이 파헤쳐 보겠습니다.

금요일 저녁까지 시한폭탄! 펜타곤의 최후통첩

미국의 IT 전문 매체 악시오스(Axios)와 로이터(Reuters) 통신 등에 따르면, 피트 헤그세스(Pete Hegseth) 미 국방장관은 지난 화요일 오전 앤스로픽의 CEO 다리오 아모데이(Dario Amodei)를 국방부로 소환해 긴장감 넘치는 회의를 가졌습니다. 이 자리에서 펜타곤 측은 앤스로픽에게 "이번 주 금요일 저녁까지 미군이 AI 모델을 무제한으로 사용할 수 있도록 제한을 풀라"는 최후통첩을 날렸습니다.

만약 앤스로픽이 이를 거부할 경우, 펜타곤은 두 가지 치명적인 카드를 꺼내 들겠다고 압박했습니다. 첫째는 앤스로픽을 적성국이나 불량 기업에 주로 적용하는 '공급망 위협(Supply chain risk)' 대상으로 지정하겠다는 것입니다. 둘째는 코로나19 팬데믹 당시 인공호흡기나 마스크 생산을 강제하기 위해 발동했던 **'국방물자생산법(DPA)'**을 발동해 앤스로픽이 군의 요구에 맞춰 억지로라도 모델을 수정하게 만들겠다는 것입니다.

앤스로픽의 확고한 원칙: "자율 살상 무기와 대중 감시는 안 돼"

그렇다면 국방부와 앤스로픽은 도대체 왜 이렇게 충돌하게 된 걸까요?

앤스로픽 측은 오랫동안 확고한 원칙을 고수해 왔습니다. 자신들의 AI 기술이 미국 시민을 향한 '대규모 감시(Mass surveillance)'에 쓰이거나, 인간의 개입 없이 스스로 공격하는 '완전 자율 무기(Fully autonomous weapons)' 시스템에 사용되는 것만큼은 절대 허용할 수 없다는 입장입니다. 로이터 통신에 따르면 앤스로픽은 엄청난 압박에도 불구하고 이 부분만큼은 절대 타협하지 않겠다는 뜻을 고수하고 있습니다.

반면, 펜타곤 관계자들은 군의 기술 사용은 사기업의 약관이나 정책이 아니라 오직 '미국의 법과 헌법의 한계' 내에서만 통제되어야 한다고 맞서고 있습니다. 군사 작전에서는 제약 없이 모든 법적인 용도로 AI를 쓸 수 있어야 한다는 논리입니다. 일각에서는 데이비드 색스(David Sacks) 백악관 AI 차르(Czar) 등 현 행정부 인사들이 앤스로픽의 이런 안전망 정책을 두고 지나치게 이념적(woke)이라며 공개적으로 비난하기도 했습니다.

대체 불가능한 앤스로픽, 그리고 펜타곤의 조바심

흥미로운 점은 현재 펜타곤의 기밀 네트워크(Classified networks) 내에서 가동할 수 있는 유일한 첨단 AI(Frontier AI)가 바로 앤스로픽의 '클로드(Claude)'라는 사실입니다. 여러 보도에 따르면 국방부는 현재 이 시스템을 대체할 확실한 플랜 B가 없는 '단일 공급업체(Single-vendor)' 의존 상태에 놓여 있습니다. (최근 일론 머스크의 xAI와 기밀 시스템 내 '그록(Grok)' 사용 계약을 맺었다는 소식이 들리긴 하지만 당장 시스템을 교체하는 것은 불가능에 가깝습니다.)

미국기업연구소(FAI)의 딘 볼(Dean Ball) 선임 연구원은 펜타곤의 이번 강압적인 태도가 오히려 그들이 가진 백업 시스템의 부재에서 오는 초조함을 보여주는 것이라고 지적했습니다. 또한 "정부와 정치적으로 뜻이 다르다고 해서 기업을 파산시키려 하는 행위는 전 세계 상업의 중심지인 미국의 신뢰를 깎아먹는 일"이라며 강한 우려를 표하기도 했습니다.

과연 누가 먼저 눈을 피할 것인가?

국방물자생산법(DPA)을 기업의 윤리적 AI 가드레일을 무력화하는 데 사용하려는 펜타곤의 시도는 역사상 유례를 찾아보기 힘든 사건입니다. 금요일 저녁 시한이 다가오는 가운데, 양측의 치열한 '치킨 게임'에서 과연 누가 먼저 양보하게 될지 전 세계 테크 업계와 국방 전문가들이 숨죽여 지켜보고 있습니다.

새 창에서 열기

www.youtube.com

출처: TechCrunch / Anthropic / US Department of Defense

#앤스로픽 #Anthropic #펜타곤 #국방부 #미군AI #인공지능윤리 #클로드 #자율무기 #국방물자생산법 #테크크런치