美国 - 艾赫巴里通讯社
高风险对峙：赫格塞斯与Anthropic就军事人工智能控制权展开激烈争夺
一场紧张而高风险的戏剧正在华盛顿上演，美国国防部与领先的人工智能开发商Anthropic公司展开对峙。这场对抗的核心是国防部长皮特·赫格塞斯强硬地推动，以推翻Anthropic对其强大人工智能模型Claude在军事应用方面施加的自我设定的道德限制。这场争端阐明了各国在平衡快速技术进步与道德治理和国家安全的关键需求方面所面临的深刻挑战。
问题的症结在本周赫格塞斯部长与Anthropic首席执行官达里奥·阿莫迪之间的一次关键会议中浮出水面。Anthropic的Claude人工智能以其在合成情报和增强网络行动方面的先进能力而闻名，已获准在五角大楼的机密系统中使用。然而，Anthropic以其对人工智能安全的公开承诺及其旨在预防大规模灾难的84页“宪法”而闻名，它提出了两条关键的红线：其技术不得用于大规模监控美国公民，也不得用于开发致命自主武器系统。据报道，赫格塞斯在军方内部一贯倡导更积极的“战士精神”，他认为这些条件不可接受，将其视为对国家防御能力的不当阻碍。
另请阅读
赫格塞斯的最后通牒是严峻的：Anthropic必须在设定的截止日期前放弃其条款，否则将面临严重后果。一个潜在的后果是援引《国防生产法》（DPA），这是一项朝鲜战争时期的法律，它将强制Anthropic提供一个没有任何保障措施的Claude版本——一个有时被称为“WarClaude”的假设模型。这一举动，被美国创新基金会（Foundation for American Innovation）的塞缪尔·哈蒙德等一些专家描述为“软国有化”，将迫使Anthropic在负责任的人工智能部署方面妥协其核心道德原则。这种行动不仅会在科技领域的政府与私营部门关系中树立一个令人不安的先例，还可能严重损害Anthropic在其同行和公众中的声誉。
另一个后果同样严重：Anthropic可能会被贴上“供应链风险”的标签。这一称号通常保留给华为或卡巴斯基等被怀疑与敌对政府有联系的外国实体，它将有效地切断Anthropic与任何与美国军方签订合同的公司（包括亚马逊、Alphabet和微软等主要科技公司）的业务关系。正如哈蒙德所指出的，这种双重威胁呈现出一种逻辑上的不一致性：Claude怎么可能既对国家安全如此至关重要，以至于必须夺取其控制权，同时又如此危险，以至于必须将其逐出军事工业复合体？他总结说，无论该公司被迫采取何种路径，情况都是“灾难性的”。
除了眼前的政策影响，这场争议还触及了更深层次的意识形态潮流，包括正在进行的“文化战争”。据报道，政府内部的一些人将Anthropic标记为“觉醒人工智能”（woke AI），理由是其强调防止滥用、雇佣民主党官员以及与有效利他主义社区的联系。前五角大楼人工智能政策高级官员迈克尔·霍洛维茨（Michael Horowitz）认为，这与其说是一个实质性分歧，不如说是一个“伪装成实质性争议的情绪争议”，其根源在于相互不信任。他认为，Anthropic不相信五角大楼会始终适当使用其技术，而五角大楼也不相信Anthropic愿意允许其技术在所有相关军事应用中得到充分利用。
对人工智能发展的更广泛影响是巨大的。“涌现的失调”——即人工智能模型如果训练不当，可能会产生意想不到的潜在有害行为——的争论在军事背景下变得尤为尖锐。一些人警告说，一个在没有道德保障的情况下，仓促地在狭窄的军事数据集上训练出来的“WarClaude”，可能会导致不可预测和危险的后果，远远超出聊天机器人生成冒犯性内容的范围。正如前共和党操作员、现任安全人工智能联盟领导人布伦丹·斯坦豪瑟（Brendan Steinhauser）所警告的那样，这可能导致“超越奥威尔式的人工智能驱动的监控”，以及对自主武器的失控，他敦促赫格塞斯重新考虑其强硬立场。
相关新闻
随着截止日期的临近，Anthropic面临着一个令人羡慕的选择：要么屈服于与其基本原则相冲突的要求，冒着声誉受损和不安全人工智能部署的风险，要么抵抗，面临经济扼杀和被关键市场排斥的命运。这场对峙严酷地提醒我们，随着人工智能技术的发展，管理其使用的道德框架不仅仅是哲学练习，而是具有深远地缘政治和社会影响的紧迫问题。
