ABD Savunma Bakanı Pete Hegseth’in, yapay zeka firması Anthropic’in teknolojisinin askeri uygulamaların tamamında kullanılmasına izin vermemesi halinde, şirketi kurumun tedarik zincirinden çıkaracağı tehdidinde bulunduğu bildirildi.
BBC’ye konuşan ve görüşmelere aşina bir kaynağa göre, ültimatomun, Hegseth’in Anthropic CEO’su Dario Amodei ile talep ettiği Salı günkü Pentagon toplantısında verildiği iddia ediliyor.
Anthropic bir açıklamasında, “Anthropic’in modellerimizin güvenilir ve sorumlu bir şekilde yapabilecekleriyle uyumlu olarak hükümetin ulusal güvenlik misyonunu desteklemeye devam etmesini sağlamak için kullanım politikamız hakkında iyi niyetli görüşmelere devam ettik” dedi.
Üst düzey bir Pentagon yetkilisi, Anthropic’in talebe uyması için Cuma akşamına kadar süresi olduğunu belirtti.
BBC’nin kaynağı, Hegseth-Amodei görüşmesinin tonunu samimi olarak nitelendirirken, Amodei’nin Anthropic’in “kırmızı çizgileri” olarak gördüğü şeyleri özetlediği bildirildi.
Bunlar, yapay zeka araçlarının insan müdahalesi olmadan nihai askeri hedefleme kararlarını aldığı otonom kinetik operasyonlara katılımı içeriyor.
Kaynak, Anthropic araçlarının kitlesel iç gözetim için kullanılmasının da yasaklanmış bir uygulama olduğunu ekledi.
Ancak Pentagon yetkilisi BBC’ye, kurum ve Anthropic arasındaki mevcut çıkmazın otonom silahların veya kitlesel gözetimin konuşlandırılmasıyla ilgili olmadığını söyledi.
Yetkiliye göre, Anthropic’in uymaması halinde Hegseth, Savunma Üretim Yasası’nın şirkete karşı yürürlüğe konulmasını sağlayacak.
Böyle bir önlem, Anthropic yöneticilerini Pentagon’a ulusal güvenlik amaçları için yapay zekasına sınırsız erişim izni vermeye zorlayabilir.
Yetkili ayrıca, Pentagon’un aynı anda Anthropic’i bir tedarik zinciri riski olarak belirleyeceğini belirtti.
Bir Anthropic sözcüsü, Amodei’nin Hegseth ile yaptığı toplantıda “Bakanlığın çalışmalarından duyduğu memnuniyeti dile getirdiğini ve Bakana hizmetlerinden dolayı teşekkür ettiğini” belirtti.
Claude AI sohbet robotunun yaratıcısı olan Anthropic, geçen yaz Pentagon ile sözleşme imzalayan dört yapay zeka şirketi arasındaydı.
Google, OpenAI (ChatGPT’nin üreticisi) ve Elon Musk’ın xAI’sı (Grok sohbet robotunun yaratıcısı) da her biri potansiyel olarak 200 milyon dolara kadar değere sahip sözleşmeler aldı.
Savunma bakanlığı yetkilisi Emil Michael daha önce, kurumun OpenAI, Google, xAI ve Anthropic’in Pentagon’un “her türlü yasal kullanım durumu için herhangi bir modeli kullanabilmesine” izin vermesini beklediğini belirtmişti.
Anthropic, rakiplerine kıyasla yapay zeka araştırmalarına daha güvenlik odaklı bir yaklaşımı önceliklendirmek için sürekli olarak kendisini konumlandırmaya çalışmıştır.
Şirket, kendi ürünleriyle ilgili düzenli olarak güvenlik raporları yayınlamaktadır.
Geçen yılki bir raporda, yapay zeka teknolojisinin, karmaşık siber saldırılar gerçekleştirmek için kullanan bilgisayar korsanları tarafından “silah haline getirildiği” kabul edildi.
Şirketin imajı, ABD ordusunun eski Venezuela Devlet Başkanı Nicolás Maduro’nun Ocak ayında yakalanmasına yol açan operasyonda Claude AI modelini kullandığına dair haberlerin ardından incelemeye alındı.
Anthropic, Pentagon’un gizli askeri ağlarında faaliyet göstermesi onaylanan ilk teknoloji şirketiydi ve Palantir gibi şirketlerle ortaklıkları sürdürmektedir.
Kaynaklar BBC’ye, Claude modelinin Maduro operasyonunda Palantir ile yapılan bir sözleşme aracılığıyla kullanıldığını belirtti.
Pentagon’un duruşu, Anthropic’in Pentagon’un ürünlerini nasıl kullanacağını dikte etme yetkisine sahip olmaması gerektiğidir.
Gözlemciler, Anthropic ve Pentagon arasındaki mevcut anlaşmazlığın iki kuruluş arasındaki güvenin bozulmasından kaynaklandığını öne sürüyor.
Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde Kıdemli Araştırmacı olan Emelia Probasco, “Bir çözüme ulaşmaları gerekiyor” dedi.
Probasco, “Bana göre, hizmet etmelerini istediğimiz insanlara mümkün olan her avantajı vermeliyiz. Bunu çözmelerini onlara borçluyuz” diye tamamladı.
En önemli teknoloji haberlerini ve trendlerini takip etmek için Tech Decoded bültenimize kaydolun. Birleşik Krallık dışında mısınız? Buradan kaydolun.