Глава Anthropic бросает вызов требованиям Пентагона на фоне обострения этического противостояния в сфере ИИ

Соединенные Штаты - Информационное агентство Эхбари

Глава Anthropic бросает вызов требованиям Пентагона на фоне обострения этического противостояния в сфере ИИ

В смелом заявлении о корпоративной этике Дарио Амодей, генеральный директор ведущей компании по искусственному интеллекту Anthropic, публично отклонил требование Пентагона о беспрепятственном доступе к своим передовым системам ИИ. Эта вызывающая позиция, изложенная в заявлении в четверг, ставит Anthropic в центр зарождающегося конфликта между инновациями частного сектора и государственными оборонными целями, особенно в отношении ответственного развертывания мощных технологий ИИ. Этот отказ с высокими ставками происходит опасно близко к критическому пятничному крайнему сроку, установленному министром обороны Питом Хегсетом, угрожая серьезными последствиями для компании.

Заявление Амодея ясно дало понять, что Anthropic «не может по совести согласиться на просьбу [Пентагона]», проводя четкую границу против использования, которое, по его мнению, может подорвать демократические ценности. В частности, компания определила две не подлежащие обсуждению красные линии: массовое наблюдение за американскими гражданами и разработка полностью автономных систем вооружения, действующих без какого-либо человеческого надзора. Эти этические границы подчеркивают растущее мнение в сообществе ИИ о том, что огромная мощь искусственного интеллекта требует строгих гарантий и морального компаса, даже когда сталкивается с требованиями национальной безопасности.

Пентагон, с другой стороны, утверждает, что он должен иметь свободу использовать модели Anthropic для всех законных целей, аргументируя это тем, что применение его технологий не должно диктоваться частной организацией. Это фундаментальное разногласие подчеркивает более широкий философский разрыв между оборонным ведомством, стремящимся получить любое технологическое преимущество, и разработчиком ИИ, борющимся с глубокими социальными последствиями своих творений. Позиция Министерства обороны отражает традиционный взгляд на военные закупки, когда инструменты приобретаются для государственного использования, в то время как позиция Anthropic отстаивает более тонкий подход к управлению технологиями, особенно для технологий двойного назначения с потенциально катастрофическими последствиями.

Противостояние резко обострилось с ультиматумом министра обороны Хегсета, который дал Anthropic до пятницы, 17:01, чтобы либо подчиниться, либо столкнуться с неуказанными последствиями. Сообщается, что Министерство обороны выдвинуло две значительные угрозы, чтобы принудить Амодея. Одна из них включает маркировку Anthropic как «риска для цепочки поставок», что является обозначением, обычно предназначенным для иностранных противников и организаций, представляющих угрозу национальной безопасности. Другая, возможно, более мощная, — это применение Закона об оборонном производстве (DPA), который предоставляет президенту широкие полномочия принуждать компании к приоритетной или расширенной производственной деятельности для национальной обороны. Такой шаг фактически заставил бы Anthropic предоставить свои технологии военным, независимо от ее этических возражений.

Амодей быстро указал на внутреннее противоречие в этой принудительной тактике. «Одна называет нас угрозой безопасности; другая называет Клода жизненно важным для национальной безопасности», — заметил он, указывая на нелогичность одновременного наказания и предписания услуг компании. Это наблюдение не только разоблачает агрессивную стратегию Пентагона по ведению переговоров, но и тонко ставит под сомнение истинную основу их требований – будь то реальная необходимость или стремление к бесконтрольному контролю.

Несмотря на текущий тупик, Амодей подтвердил готовность Anthropic продолжать служить Министерству обороны и его военнослужащим при условии соблюдения двух ее основных гарантий. Он признал право Министерства выбирать подрядчиков, соответствующих его видению, но выразил надежду на пересмотр, подчеркнув «значительную ценность, которую технология Anthropic предоставляет нашим вооруженным силам». Это предполагает желание продолжать сотрудничество на взаимоприемлемых условиях, а не полное разрыв связей.

Ставки особенно высоки, учитывая уникальное положение Anthropic. В настоящее время компания признана единственной «передовой лабораторией ИИ», обладающей «системами, готовыми к классификации», подходящими для военного применения. Это делает ее технологию весьма желанным активом для оборонного аппарата США, особенно в эпоху быстро развивающейся глобальной конкуренции в области ИИ. Сообщение о том, что Министерство обороны также готовит xAI для аналогичных ролей, предполагает стратегическую диверсификацию, возможно, в качестве запасного варианта, если переговоры с Anthropic безвозвратно провалятся.

Амодей завершил свое заявление четким, хотя и твердым, путем вперед: «Наше сильное предпочтение — продолжать служить Министерству и нашим военнослужащим — с соблюдением двух запрошенных нами гарантий. Если Министерство решит отказаться от услуг Anthropic, мы будем работать над обеспечением плавного перехода к другому поставщику, избегая любых сбоев в текущем военном планировании, операциях или других критически важных миссиях». Этот прагматичный подход указывает на то, что Anthropic готова к дружественному расставанию, если ее этические принципы не могут быть учтены, отдавая приоритет плавному переходу перед затяжным конфликтом. Развивающаяся драма подчеркивает сложные этические и стратегические проблемы, присущие интеграции мощного ИИ в военные операции, создавая прецедент для будущего взаимодействия между технологическими гигантами и оборонными ведомствами по всему миру.

Информационное агентство Эхбари