Anthropic, Pentagon'ın Yapay Zeka Taleplerine Karşı Duruş Sergiliyor

Amerika Birleşik Devletleri - Ekhbary Haber Ajansı

Anthropic, Pentagon'ın Yapay Zeka Taleplerine Karşı Duruş Sergiliyor

Amerika Birleşik Devletleri'nde yapay zeka düzenlemelerinin geleceğini şekillendirebilecek cesur bir adım olarak, önde gelen yapay zeka şirketi Anthropic, Savunma Bakanlığı'nın (Pentagon) yapay zeka modeli Claude üzerindeki etik kısıtlamaları kaldırma yönündeki taleplerine uymayı reddettiğini kamuoyuna duyurdu. Pentagon, önemli bir savunma sözleşmesi kapsamında Claude'u kullanmak istiyordu, ancak Anthropic'in güvenlik protokollerini sürdürme konusundaki ısrarı, şirketin geleceğini ve gelişmiş yapay zekaya yönelik hükümetin yaklaşımını etkileyebilecek önemli bir çatışmaya yol açtı.

Anlaşmazlık, bu hafta Savunma Bakanı Pete Hegseth ile Anthropic CEO'su Dario Amodei arasında gerçekleşen bir toplantıda doruğa ulaştı. Pentagon, 200 milyon dolarlık bir sözleşme kapsamında Claude'u kullanıyordu ve hatta raporlara göre, Venezuela Devlet Başkanı Nicolas Maduro'yu yakalama görevi de dahil olmak üzere hassas operasyonlarda rol almıştı. Ancak Bakan Hegseth, Claude'un yerleşik etik kısıtlamaları nedeniyle belirli görevleri yerine getirmeyi reddettiğini belirterek memnuniyetsizliğini dile getirdi.

Anthropic, Claude'a kasıtlı olarak belirli kısıtlamalar yerleştirmişti. Pentagon tarafından kullanılan sürümün, Amerikan vatandaşlarının kitlesel gözetimini kolaylaştırmak veya tamamen otonom silahlanmada konuşlandırılmak suretiyle kullanılması yasaklanmıştı; bu tür senaryolarda yapay zeka sistemleri doğrudan insan müdahalesi olmadan yaşam ve ölüm kararları almaktadır. Toplantıya aşina olan kaynaklara göre, Hegseth, Anthropic bu iki kritik koruyucu duvarı belirlenen son tarihe kadar kaldırmazsa, Savunma Bakanlığı'nın sert önlemlere başvurabileceğini açıkça belirtti. Bu önlemler arasında, yapay zekanın daha az kısıtlı bir sürümünü fiilen ele geçirmek için Soğuk Savaş dönemi yasası olan Savunma Üretim Yasası'nı (Defense Production Act) devreye sokmak yer alıyordu. Alternatif olarak, Anthropic "tedarik zinciri riski" olarak etiketlenebilirdi; bu, tipik olarak Çin'in Huawei ve ZTE gibi yabancı kuruluşlara ayrılan bir tanımdır ve ABD ordusuyla iş yapan herhangi bir kuruluşun şirketle ilişki kurmasını yasaklardı.

Daha sonra yayınlanan kamuoyu açıklamasında Anthropic pozisyonunu yineledi: "Vicdanen Pentagon'un talebine "katılamayız". Bu ilkeli duruş, Anthropic'i kritik bir dönüm noktasına getiriyor. Özel şirketleri boyun eğdirmeye çalışan bir yönetime boyun eğmeyi reddetmesi, Anthropic'in etik yapay zeka geliştirmeye olan bağlılığını vurguluyor. Ancak bu meydan okuma, şirketin uzun vadeli operasyonel kapasitesini ve pazar konumunu tehlikeye atabilecek potansiyel hükümet yaptırımları da dahil olmak üzere önemli riskler taşıyor.

Mevcut yönetimin yapay zeka düzenlemelerine yönelik tutumu belirsizliğini koruyor. Donald Trump'ın ikinci döneminin başlarında, Yapay Zeka Eylem Planı gibi girişimlerin yeniliği teşvik etmek için "radikal iklim dogması ve bürokratik engellerin reddedilmesini" vurguladığı daha liberal bir yaklaşım hakimdi. Ancak Savunma Bakanı Hegseth'in mevcut eylemleri, önemli bir özel yapay zeka firmasının kilit bir bileşenini fiilen kamulaştırmak ve onu temel ilkelerini ihlal etmeye zorlamakla tehdit ederek önemli bir tırmanış anlamına geliyor. Trump yönetiminin yapay zeka politikaları konusunda daha önce danışmanlık yapmış olan Dean Ball, durumu "herhangi bir ülkenin herhangi bir hükümeti tarafından gördüğüm en agresif yapay zeka düzenleyici hamlesi" olarak nitelendirdi.

Kanıtlar, Pentagon'un olası sonuçlara hazırlandığını gösteriyor. Raporlar, Anthropic ile olan bağlarını değerlendirmek üzere diğer savunma yüklenicileriyle temas kurulduğunu belirtiyor; bu da şirketi tedarik zinciri riski olarak etiketlemeye hazırlandıklarının bir işareti. Anthropic'in itaatsizliğiyle birlikte, kârlı sözleşme artık tehlikede. 200 milyon dolarlık sözleşme Anthropic için finansal olarak kritik olmasa da – şirket yıllık 14 milyar dolar gelir elde ediyor ve yakın zamanda 30 milyar dolarlık risk sermayesi topladı – kara listeye alınması, gelecekteki büyümesini ve ölçeklenebilirliğini ciddi şekilde engelleyebilir. Gerginliğe rağmen, bir Anthropic sözcüsü "The Atlantic"'e "Müzakerelerden çekilmiyoruz. İlerlemek için bir yol bulmak üzere Departman ile iyi niyetle etkileşim kurmaya devam ediyoruz" dedi. Pentagon, CBS'ye verdiği demeçte, anlaşmazlığın "kitlesel gözetim veya otonom silahların kullanımıyla hiçbir ilgisi olmadığını" ve "Pentagon'un yalnızca yasal emirler verdiğini" iddia etti.

Yapay zeka hakimiyeti için küresel yarışta Anthropic, güvenliğe ve etik hususlara öncelik vererek kendine özgü bir yer edindi. Bu, rakiplerin karşılaştığı zorluklarla çelişiyor. OpenAI'nin ChatGPT'si, kullanıcıların sanrılarını şiddetlendirdiği ve "yapay zeka psikozu" vakalarına yol açtığı yönündeki eleştirilerle karşılaştı. Benzer şekilde, xAI'nin Grok'u yakın zamanda izinsiz olarak uygunsuz görüntüler ürettiği bildirildi, ancak xAI daha sonra kısıtlamalar uyguladığını belirtti. Anthropic'in tüketiciye yönelik sohbet botu ise dikkate değer bir şekilde hiç görüntü üretmiyor. Etik sınırlar konusundaki hükümet baskısına boyun eğmeyi reddederek, Anthropic, onu yapay zeka arenasında daha ilkeli bir oyuncu olarak gören tüketicilerden önemli bir olumsuz tepkiyi önlemiş olabilir. Bu duruş, Anthropic'in daha geniş yapay zeka geliştirme yaklaşımıyla ilgili temel bir güvenlik taahhüdünü gevşetme de dahil olmak üzere politika değişiklikleri hakkında bazı iç eleştirilerle karşı karşıya kalmasının ardından geldi.

Amodei'nin kendisi daha önce Pentagon'un taleplerinin merkezindeki sorunlarla ilgili endişelerini dile getirmişti. Hegseth'in ültimatomundan haftalar önce yayınlanan yazılarında, güçlü yapay zekanın "büyük ölçekli gözetim", "kitlesel propaganda" ve "tamamen otonom silahların saldırgan kullanımları" için potansiyel kötüye kullanımını potansiyel olarak "insanlığa karşı suçlar" olarak nitelendirdi.

Trump yönetiminin yapay zekaya yaklaşımı biraz çelişkili görünüyor. Bir yandan, Beyaz Saray'ın yapay zeka sorumlusu David Sacks gibi figürler, Anthropic'i "korku yaymaya dayalı düzenleyici ele geçirme stratejisi yürütmekle" ve yeniliği boğan aşırı kısıtlayıcı önlemleri teşvik etmekle suçlayarak eleştirdiler. Yönetim ayrıca, yapay zeka botlarının "woke" yanıtlar üretmesinden duyduğu memnuniyetsizliği dile getirdi. Diğer yandan, Claude'un algılanan değeri o kadar yüksek ki, hükümetin onu ele geçirmeyi düşündüğü bildiriliyor.

Dean Ball, Pentagon'un Silikon Vadisi'nin hükümetin teknoloji kullanımı üzerindeki gücünün yoğunlaşmasıyla ilgili argümanının geçerli olabileceğini kabul etti. Ancak, Hegseth'in Anthropic'e yönelik önerdiği cezai önlemleri "yanlış yönlendirilmiş ve açıkça çelişkili" olarak nitelendirdi. Savunma Üretim Yasası, hükümete ulusal güvenlik nedenleriyle iç sanayilere müdahale etme yetkisi verirken (Biden yönetiminin 2023'teki yapay zeka düzenlemeleri hakkındaki yürütme kararında görüldüğü gibi), Anthropic'i ulusal güvenlik için Claude'un kısıtlanmamış bir sürümünü oluşturmaya zorlama gerekliliği sorgulanabilirliğini koruyor. Çift yaklaşımlı bir olasılıkla ikilem daha da karmaşıklaşıyor: Anthropic'i yaptırımla karşı karşıya bırakırken aynı zamanda yapay zekasının değiştirilmiş bir sürümünü sipariş etmek.

Analistler daha basit bir çözümün var olduğunu öne sürüyor: Bakan Hegseth, diğer teknoloji firmalarıyla ortaklık kurabilir. Silikon Vadisi'ndeki mevcut iklim, savunma sektörü işbirliklerine giderek daha açık hale geliyor. CEO'su Alex Karp'ın yazılımlarını "düşmanlarımızı korkutmak ve zaman zaman onları öldürmek" için kullandığını övünen Palantir ve hükümet için otonom silahlar geliştiren Palmer Luckey gibi şirketler, bu artan eğilimi örnekliyor. Ancak, bu yolları keşfetmek yerine, Hegseth'in eylemleri Anthropic'i ezmeye yönelik görünüyor, bu da etnik tavizler pahasına bile olsa, yapay zeka yetenekleri üzerinde tam kontrol arzunu ima ediyor.

Savunma bakanı, Anthropic'i emsal göstermeye çalışarak, yapay zeka yönetiminde tehlikeli bir emsal oluşturma riskiyle karşı karşıya kalıyor ve bu da etik yenilikleri potansiyel olarak boğabilir ve daha geniş teknolojik manzarayı etkileyebilir.

Ekhbary Haber Ajansı