Anthropic занимает принципиальную позицию против требований Пентагона по ИИ

США - Информационное агентство Эхбари

Anthropic занимает принципиальную позицию против требований Пентагона по ИИ

В смелом шаге, который может определить будущее регулирования искусственного интеллекта в Соединенных Штатах, ведущая ИИ-компания Anthropic публично заявила о своем твердом отказе выполнить требования Министерства обороны (Пентагона) о снятии этических ограничений со своей флагманской модели ИИ Claude. Пентагон стремился использовать Claude в оборонных целях, однако настойчивость Anthropic в поддержании протоколов безопасности привела к значительному противостоянию, которое может повлиять на жизнеспособность компании и подход правительства к передовому ИИ.

Спор достиг кульминации на недавней встрече между министром обороны Питом Хегситом и генеральным директором Anthropic Дарио Амодеи. Пентагон использовал Claude в рамках контракта на сумму 200 миллионов долларов, и, по сообщениям, ИИ даже играл роль в чувствительных операциях, включая миссию по захвату венесуэльского президента Николаса Мадуро. Тем не менее, министр Хегсит выразил недовольство, отметив, что Claude отказывался выполнять определенные задачи из-за своих встроенных этических ограничений.

Anthropic намеренно внедрила в Claude специфические ограничения. Версия, используемая Пентагоном, была запрещена для использования в массовой слежке за американскими гражданами или для развертывания в полностью автономном оружии — сценариях, где системы ИИ принимают решения о жизни и смерти без прямого человеческого контроля. По словам источников, близких к встрече, Хегсит дал ясно понять, что если Anthropic не снимет эти два критически важных ограничения к установленному сроку, Министерство обороны может прибегнуть к крайним мерам. К ним относилась возможность применения Закона о производственных оборонных мощностях (Defense Production Act), закона времен Холодной войны, для фактического захвата менее ограниченной версии ИИ. Альтернативно, Anthropic мог бы быть признан "риском для цепочки поставок", что является обозначением, обычно применяемым к иностранным организациям, таким как китайские Huawei и ZTE, что запретило бы любой компании, ведущей бизнес с американскими военными, сотрудничать с Anthropic.

В последующем публичном заявлении Anthropic подтвердила свою позицию: "Мы не можем, по совести, согласиться" на запрос Пентагона. Эта принципиальная позиция ставит Anthropic на критический перекресток. Отказ уступить администрации, которая, как представляется, давит на частные компании, подчеркивает приверженность компании этичной разработке ИИ. Однако эта непокорность несет в себе существенные риски, включая потенциальные правительственные санкции, которые могут поставить под угрозу долгосрочную операционную способность Anthropic и ее рыночное положение.

Нынешняя позиция администрации в отношении регулирования ИИ, похоже, находится в стадии формирования. Ранее, во время второго срока Дональда Трампа, наблюдался заметно более либеральный подход, с инициативами, такими как План действий в области ИИ (AI Action Plan), подчеркивающими отказ от "радикальной климатической догмы и бюрократической волокиты" для стимулирования инноваций. Однако нынешние действия Хегсита представляют собой значительную эскалацию, фактически угрожая национализировать ключевой компонент крупной частной ИИ-компании и заставить ее нарушить свои основные принципы. Дин Болл, ранее консультировавший по вопросам политики в области ИИ при администрации Трампа, охарактеризовал эту ситуацию как "самый агрессивный регуляторный шаг в отношении ИИ, который я когда-либо видел со стороны любого правительства в мире".

Свидетельства указывают на то, что Пентагон готовится к возможным последствиям. По сообщениям, ведется работа с другими оборонными подрядчиками для оценки их связей с Anthropic, что сигнализирует о готовности обозначить компанию как риск для цепочки поставок. С неповиновением Anthropic, прибыльный контракт теперь находится под угрозой. Хотя контракт на 200 миллионов долларов не является финансово критичным для Anthropic — компания, по сообщениям, получает 14 миллиардов долларов в год и недавно привлекла 30 миллиардов долларов венчурного капитала — включение в черный список может серьезно помешать ее будущему росту и масштабируемости. Несмотря на напряженность, представитель Anthropic заявил "The Atlantic": "Мы не отказываемся от переговоров. Мы продолжаем добросовестно взаимодействовать с Департаментом для поиска пути вперед". Пентагон, в своем сообщении CBS, настаивал, что спор "не имеет никакого отношения к массовой слежке или использованию автономного оружия", и подчеркнул, что "Пентагон выдавал только законные приказы".

В глобальной гонке за доминирование в области ИИ Anthropic заняла свою нишу, уделяя особое внимание безопасности и этическим соображениям. Это контрастирует с проблемами, с которыми сталкиваются конкуренты. ChatGPT от OpenAI подвергался критике за усиление заблуждений пользователей, что приводило к случаям "психоза ИИ". Аналогично, Grok от xAI недавно был замечен в генерации неуместных изображений без согласия, хотя xAI впоследствии заявила о принятии ограничительных мер. Общедоступный чат-бот Anthropic, примечательно, вообще не генерирует изображения. Отказываясь подчиниться правительственному давлению по этическим границам, Anthropic, возможно, предотвратила значительную негативную реакцию со стороны потребителей, которые считают ее более принципиальным игроком на арене ИИ.

Сам Амодеи ранее выражал обеспокоенность по поводу тех самых проблем, которые лежат в основе требований Пентагона. В своих публикациях, вышедших за несколько недель до ультиматума Хегсита, он охарактеризовал потенциальное злоупотребление мощным ИИ для "масштабной слежки", "массовой пропаганды" и "наступательного использования полностью автономного оружия" как возможное "преступление против человечности".

Подход администрации Трампа к ИИ кажется несколько противоречивым. С одной стороны, такие фигуры, как "царь" по ИИ в Белом доме Дэвид Сакс, критиковали Anthropic, обвиняя ее в "регуляторном захвате, основанном на нагнетании страха" и продвижении чрезмерно ограничительных мер, которые подавляют инновации. Администрация также выражала недовольство тем, что боты ИИ иногда производят "прогрессивные" (woke) ответы. С другой стороны, воспринимаемая ценность Claude настолько высока, что правительство, по сообщениям, рассматривает возможность его конфискации.

Дин Болл признал потенциальную правомерность аргумента Пентагона относительно концентрации власти, принадлежащей Кремниевой долине, над использованием правительственных технологий. Однако он охарактеризовал предложенные Хегситом карательные меры против Anthropic как "ошибочные и явно противоречивые". Хотя Закон о производственных оборонных мощностях действительно предоставляет правительству право вмешиваться во внутренние отрасли промышленности в интересах национальной безопасности — как это было видно в исполнительном указе администрации Байдена 2023 года о регулировании ИИ — необходимость принуждения Anthropic к созданию неограниченной версии Claude для национальной безопасности остается под вопросом. Дилемма усугубляется возможностью двойного подхода: санкционирования Anthropic и одновременного заказа модифицированной версии ее ИИ.

Аналитики предполагают, что существует более простое решение: министр Хегсит мог бы просто искать партнерства с другими технологическими компаниями. Нынешний климат в Кремниевой долине все более открыт к сотрудничеству с оборонным сектором. Такие компании, как Palantir, чей генеральный директор Алекс Карп открыто говорит об использовании программного обеспечения для "запугивания наших врагов и, время от времени, убийства их", и Палмер Лаки, который разрабатывает автономное оружие, иллюстрируют эту растущую тенденцию. Тем не менее, вместо того чтобы искать другие пути, действия Хегсита, по-видимому, направлены на то, чтобы заставить Anthropic пойти на уступки, подразумевая стремление к полному контролю над возможностями ИИ, даже ценой этических компромиссов.

Пытаясь сделать из Anthropic пример для других, министр обороны рискует создать опасный прецедент в области управления ИИ, потенциально подавляя этические инновации и влияя на более широкий технологический ландшафт.

Информационное агентство Эхбари