미국 - 이크바리 뉴스 통신사
Anthropic CEO, 펜타곤 요구에 불응하며 AI 윤리 대치 심화
선도적인 인공지능 기업 Anthropic의 CEO 다리오 아모데이는 기업 윤리에 대한 과감한 주장으로, 펜타곤의 첨단 AI 시스템에 대한 무제한 접근 요구를 공개적으로 거부했습니다. 목요일 성명에서 표명된 이 반항적인 입장은 Anthropic을 민간 부문 혁신과 정부 국방 목표 사이의 신흥 갈등의 중심에 놓이게 하며, 특히 강력한 AI 기술의 책임 있는 배포와 관련이 있습니다. 이 고위험 거부는 피트 헤그세스 국방장관이 정한 중요한 금요일 마감 시한에 위험할 정도로 근접하여 회사에 심각한 영향을 미 미칠 수 있습니다.
아모데이의 성명은 Anthropic이 “선의에 따라 [펜타곤의] 요청에 따를 수 없다”는 점을 분명히 밝혔으며, 민주적 가치를 훼손할 수 있다고 믿는 사용에 대해 확고한 선을 그었습니다. 구체적으로 회사는 협상 불가능한 두 가지 레드라인을 확인했습니다. 즉, 미국 시민에 대한 대규모 감시와 어떠한 인간 감독 없이 작동하는 완전 자율 무기 시스템의 개발입니다. 이러한 윤리적 경계는 인공지능의 막대한 힘이 국가 안보 요구에 직면했을 때에도 엄격한 안전 장치와 도덕적 나침반을 필요로 한다는 AI 커뮤니티 내의 커져가는 정서를 강조합니다.
Read Also
반면에 펜타곤은 Anthropic의 모델을 모든 합법적인 목적으로 자유롭게 사용할 수 있어야 한다고 주장하며, 기술의 적용이 민간 기업에 의해 좌우되어서는 안 된다고 주장합니다. 이러한 근본적인 의견 불일치는 모든 기술적 우위를 추구하는 국방 기관과 그들의 창조물의 심오한 사회적 함의를 고심하는 AI 개발자 사이의 광범위한 철학적 격차를 강조합니다. 국방부의 입장은 도구가 국가 사용을 위해 획득되는 전통적인 군사 조달 관점을 반영하는 반면, Anthropic의 입장은 특히 잠재적으로 치명적인 결과를 초래할 수 있는 이중 용도 기술에 대해 기술 거버넌스에 대한 보다 미묘한 접근 방식을 옹호합니다.
국방장관 헤그세스의 최후통첩으로 대결은 극적으로 고조되었으며, Anthropic에게 금요일 오후 5시 1분까지 준수하거나 불특정 결과에 직면할 것을 요구했습니다. 국방부는 아모데이를 강제하기 위해 두 가지 중요한 위협을 가한 것으로 알려졌습니다. 하나는 Anthropic을 일반적으로 외국 적대국과 국가 안보에 위협이 되는 단체에 부여되는 지정인 "공급망 위험"으로 분류하는 것입니다. 다른 하나는 아마도 더 강력한 것으로, 국방 생산법(DPA)의 발동인데, 이는 대통령에게 국가 방위를 위해 기업이 생산을 우선시하거나 확대하도록 강제할 수 있는 광범위한 권한을 부여합니다. 이러한 움직임은 윤리적 이의에도 불구하고 Anthropic이 군에 기술을 제공하도록 효과적으로 강제할 것입니다.
아모데이는 이러한 강압적인 전술에 내재된 모순을 신속하게 지적했습니다. "하나는 우리를 안보 위험으로 분류하고, 다른 하나는 Claude를 국가 안보에 필수적인 것으로 분류합니다."라고 그는 언급하며, 회사 서비스를 동시에 처벌하고 의무화하는 비논리적인 본질을 지적했습니다. 이 관찰은 펜타곤의 공격적인 협상 전략을 폭로할 뿐만 아니라, 그들의 요구의 진정한 근거가 실제 필요성인지 아니면 무제한적인 통제를 위한 추진력인지 미묘하게 의문을 제기합니다.
현재의 교착 상태에도 불구하고 아모데이는 Anthropic이 두 가지 핵심 안전 장치가 존중된다는 전제하에 국방부와 군인들에게 계속 봉사할 의사가 있음을 재차 강조했습니다. 그는 국방부가 비전에 부합하는 계약자를 선택할 권리가 있음을 인정했지만, "Anthropic의 기술이 우리 군에 제공하는 상당한 가치"를 강조하며 재고의 희망을 표명했습니다. 이는 관계의 전면적인 단절보다는 상호 합의 가능한 조건 하에 지속적인 협력을 바라는 마음을 시사합니다.
Anthropic의 독특한 위치를 고려할 때 판돈은 특히 높습니다. 이 회사는 현재 군사 응용 분야에 적합한 "기밀 준비 시스템"을 보유한 유일한 "프론티어 AI 연구소"로 인정받고 있습니다. 이는 특히 빠르게 발전하는 글로벌 AI 경쟁 시대에 그 기술을 미국 국방 기관에 매우 탐나는 자산으로 만듭니다. 국방부가 xAI도 유사한 역할에 대비하고 있다는 보고서는 Anthropic과의 협상이 돌이킬 수 없을 정도로 실패할 경우에 대비한 전략적 다각화를 시사합니다.
Related News
아모데이는 그의 성명을 명확하면서도 단호한 미래 방향으로 마무리했습니다. "우리의 강력한 선호는 요청된 두 가지 안전 장치를 갖춘 상태에서 국방부와 우리 군인들에게 계속 봉사하는 것입니다. 국방부가 Anthropic을 해고하기로 선택하면, 우리는 현재 진행 중인 군사 계획, 작전 또는 기타 중요한 임무에 대한 어떠한 중단도 피하면서 다른 제공업체로의 원활한 전환을 가능하게 하기 위해 노력할 것입니다." 이 실용적인 접근 방식은 Anthropic이 윤리적 원칙이 수용될 수 없다면 우호적인 분리를 준비하고 있으며, 장기적인 갈등보다 원활한 전환을 우선시한다는 것을 나타냅니다. 전개되는 드라마는 강력한 AI를 군사 작전에 통합하는 데 내재된 복잡한 윤리적 및 전략적 과제를 강조하며, 전 세계 기술 거인과 국방 기관 간의 미래 상호 작용에 대한 선례를 세웁니다.
