미국 - 이크바리 뉴스 통신사
고위험 대치: 헤그세스와 앤트로픽 간의 군사 AI 통제권 다툼
현재 워싱턴에서는 미 국방부와 선도적인 인공지능 개발사인 앤트로픽 간에 긴장감 넘치는 고위험 드라마가 펼쳐지고 있습니다. 이 대치의 핵심은 피트 헤그세스 국방부 장관이 앤트로픽의 강력한 AI 모델 클로드의 군사적 적용에 대해 스스로 부과한 윤리적 제한을 무효화하려는 강력한 압력입니다. 이 분쟁은 국가가 빠른 기술 발전과 윤리적 거버넌스 및 국가 안보에 대한 중대한 필요성 사이에서 균형을 맞추는 데 직면한 심각한 도전을 조명합니다.
문제의 핵심은 이번 주 헤그세스 장관과 앤트로픽 CEO 다리오 아모데이 간의 중요한 회의에서 드러났습니다. 정보 합성 및 사이버 작전 강화에 대한 고급 능력으로 인정받는 앤트로픽의 클로드 AI는 이미 국방부의 기밀 시스템 내에서 사용하도록 승인되었습니다. 그러나 AI 안전에 대한 공개적인 약속과 대규모 재앙을 방지하기 위한 84페이지 분량의 '헌법'으로 유명한 앤트로픽은 두 가지 중요한 레드라인을 설정했습니다. 즉, 기술이 미국 시민에 대한 대규모 감시나 치명적인 자율 무기 시스템 개발에 사용되어서는 안 된다는 것입니다. 군대 내에서 보다 공격적인 '전사 윤리'를 꾸준히 옹호해 온 헤그세스는 이러한 조건을 받아들일 수 없다고 판단했으며, 이를 국가 방어 능력에 대한 부당한 방해로 간주한 것으로 알려졌습니다.
Read Also
헤그세스의 최후통첩은 단호했습니다. 앤트로픽은 정해진 기한까지 조건을 포기해야 하며, 그렇지 않으면 심각한 결과에 직면할 것입니다. 잠재적인 결과 중 하나는 국방 생산법(DPA)의 발동입니다. 이는 한국 전쟁 시대의 법으로, 앤트로픽에게 어떠한 안전 장치도 없는 클로드 버전을 제공하도록 강제할 것입니다. 이는 때때로 '워클로드(WarClaude)'라고 불리는 가상의 모델입니다. 미국 혁신 재단의 사무엘 해먼드와 같은 일부 전문가들이 '소프트 국유화'라고 설명한 이 조치는 앤트로픽이 책임 있는 AI 배포에 대한 핵심 윤리 원칙을 타협하도록 강요할 것입니다. 이러한 행동은 기술 분야에서 정부와 민간 부문 관계에 대한 불안한 선례를 만들 뿐만 아니라 동료와 대중 사이에서 앤트로픽의 명성을 크게 손상시킬 수 있습니다.
대안적인 결과 또한 똑같이 심각합니다. 앤트로픽은 '공급망 위험'으로 분류될 수 있습니다. 이 지정은 일반적으로 적대적인 정부와 연관되어 있다고 의심되는 화웨이 또는 카스퍼스키와 같은 해외 기업에 적용되는 것으로, 아마존, 알파벳, 마이크로소프트와 같은 주요 기술 기업을 포함하여 미군과 계약하는 모든 회사와의 앤트로픽의 사업 관계를 효과적으로 단절시킬 것입니다. 해먼드가 지적했듯이, 이 이중 위협은 논리적 모순을 제시합니다. 클로드가 국가 안보에 너무나 중요해서 통제권을 빼앗겨야 할 정도인데, 동시에 군산 복합체에서 추방되어야 할 정도로 위험하다는 것이 어떻게 가능할까요? 그는 회사가 어떤 길을 강요받든 상황은 '재앙적'이라고 결론지었습니다.
즉각적인 정책적 함의를 넘어, 이 분쟁은 진행 중인 '문화 전쟁'을 포함한 더 깊은 이념적 흐름에도 영향을 미칩니다. 일부 행정부 내에서는 앤트로픽이 오용 방지에 중점을 두고, 민주당 관리들을 고용하며, 효과적 이타주의 커뮤니티와 연관되어 있다는 점을 들어 '워크 AI'라고 비난한 것으로 알려졌습니다. 국방부 AI 정책의 전 고위 관료였던 마이클 호로비츠는 이것이 실질적인 의견 불일치라기보다는 상호 불신에 뿌리를 둔 '실질적인 분쟁으로 위장한 분위기 분쟁'이라고 제안합니다. 그는 앤트로픽이 국방부가 항상 기술을 적절하게 사용할 것이라고 믿지 않는 반면, 국방부는 앤트로픽이 기술의 모든 관련 군사적 적용을 허용하려는 의지를 신뢰하지 않는다고 주장합니다.
AI 개발에 대한 더 넓은 함의는 중요합니다. '예상치 못한 정렬 불량'에 대한 논쟁은 AI 모델이 부적절하게 훈련될 경우 의도하지 않고 잠재적으로 해로운 행동을 개발할 수 있다는 점에서 군사적 맥락에서 특히 첨예해집니다. 윤리적 안전 장치 없이 제한된 군사 데이터 세트로 성급하게 훈련된 '워클로드'는 일부 경고처럼, 공격적인 콘텐츠를 생성하는 챗봇을 훨씬 넘어서는 예측 불가능하고 위험한 결과를 초래할 수 있습니다. 전 공화당 관계자이자 현재 안전한 AI 연합을 이끄는 브렌던 스타인하우저가 경고했듯이, 이는 '오웰적 수준을 넘어설 수 있는 AI 기반 감시'와 자율 무기 통제 상실로 이어질 수 있으며, 헤그세스에게 그의 공격적인 입장을 재고할 것을 촉구합니다.
Related News
마감일이 다가옴에 따라 앤트로픽은 부러워할 수 없는 선택에 직면해 있습니다. 즉, 기본적인 원칙과 충돌하는 요구에 굴복하여 명성 손상과 안전하지 않은 AI 배포의 가능성을 감수하거나, 저항하여 경제적 질식과 핵심 시장에서의 배척에 직면하는 것입니다. 이 대치는 AI 기술이 발전함에 따라 그 사용을 규제하는 윤리적 틀이 단순한 철학적 연습이 아니라 심오한 지정학적 및 사회적 결과를 초래하는 시급한 문제임을 여실히 보여줍니다.
