“Katil robot” tartışması: Anthropic, Pentagon’un “otonom drone sürüsü” yarışmasına başvurmuş

Bir süredir ABD hükümetiyle etik tartışmaları nedeniyle kriz yaşayan yapay zeka şirketi Anthropic’in, ABD Savunma Bakanlığı’nın (Pentagon) sesle kontrol edilen otonom drone sürüsü teknolojileri geliştirmeyi hedefleyen 100 milyon dolarlık ödüllü yarışmasına teklif sunduğu ortaya çıktı.

Bloomberg’e konuşan, konuya yakın kaynaklara göre başvuru, şirket ile Pentagon arasında teknolojinin askeri kullanımına dair zorlu müzakerelerin sürdüğü dönemde yapıldı.

İsminin açıklanmasını istemeyen kaynaklar, Anthropic’in teklifini sunmasının ardından ABD Savunma Bakanı Pete Hegseth’in cuma günü Pentagon yüklenicilerine ve ortaklarına Anthropic ile ticari faaliyet yürütmeyi yasaklama talimatı verdiğini söyledi.

“KATİL ROBOT” TARTIŞMASI

Taraflar arasındaki anlaşmazlığın merkezinde, insan müdahalesi olmadan hedef seçip ateş açabilen “katil robotlar” olarak adlandırılan otonom silah sistemlerinde yapay zekanın oynayabileceği rol vardı.

Anthropic’in yöneticileri, daha önce yaptıkları açıklamalarda yapay zekanın savaş alanında geniş kapsamlı ve yasal kullanımını desteklediklerini, ancak kitlesel iç gözetim ve tamamen otonom silah sistemlerini kırmızı çizgi olarak gördüklerini vurgulamıştı.

Kaynaklara göre şirket, geliştirilmesi planlanan teknolojinin bu sınırları aşmayacağını düşünüyordu. Olası bir ölümcül drone sürüsü ortaya çıksa bile sistemin insan operatörler tarafından izlenebileceği ve gerektiğinde durdurulabileceği değerlendiriliyordu.

CLAUDE EMİRLERİ YÖNETECEKTİ

Kaynaklara göre Anthropic’in teklifi, Claude adlı yapay zeka aracının komutanların niyetini dijital komutlara dönüştürmesine ve çok sayıda drone’un koordinasyonunu sağlamasına odaklanıyordu. Yani yapay zeka, hedef seçimi veya silah kullanım kararlarını otonom biçimde -kendi kendine- vermeyecekti.

Şirket ayrıca insanların sistem üzerinde gözetim yetkisine sahip olmasını ve Pentagon ile birlikte otonom silahların güvenli geliştirilmesi ve test edilmesine yönelik ortak bir araştırma programı kurulmasını önerdi.

BEŞ AŞAMALI PLAN

Bloomberg’in daha önce aktardığına göre yarışma, yazılım geliştirme aşamasıyla başlayıp gerçek saha testlerine uzanan beş aşamalı bir araştırma-geliştirme programı olarak tasarlanmıştı. Pentagon’un ocak ayındaki duyurusunda drone’ların saldırı amaçlı kullanılacağına işaret edilirken, insan-makine etkileşiminin sistemlerin “öldürücülüğü ve etkinliği” üzerinde doğrudan etkili olacağı vurgulanmıştı.

İlk aşama yalnızca yazılım geliştirmeye odaklanacak. Amaç, hava ve deniz gibi farklı alanlarda faaliyet gösteren drone’ların sürü halinde koordineli hareket edebilmesini sağlayacak sistemler geliştirmek. İlerleyen aşamalarda hedef farkındalığı paylaşımı ve nihayetinde “fırlatmadan görev sonlandırmaya” kadar tüm operasyon sürecinin ele alınması planlanıyor.

ANTHROPIC SEÇİLMEDİ

Kaynaklara göre Anthropic yarışmada seçilen şirketler arasında yer almadı; bunun nedeni ise henüz bilinmiyor. Şirket, otonom silah sistemlerini çalıştıracak kadar güvenilir bir yapay zeka seviyesine henüz ulaşılmadığını savunuyor ve konu hakkında yorum yapmadı.

Yarışma, Pentagon’a bağlı Özel Operasyonlar Komutanlığı ile Savunma İnovasyon Birimi tarafından ortaklaşa yürütülüyor.

SPACEX VE OPENAI ÖNE ÇIKTI

Kazanan başvurular arasında SpaceX ve xAI ortaklığının sunduğu teklif de var.

Pentagon’un Anthropic’i devre dışı bırakma kararından saatler sonra OpenAI, bakanlıkla anlaşma yaptığını duyurarak tepki çekmişti. Sosyal medyada ChatGPT’ye yönelik boykot hareketi başlarken, OpenAI CEO’su Sam Altman, anlaşmanın otonom silah sistemleri dahil olmak üzere güç kullanımında “insan sorumluluğunu” şart koştuğunu söylemişti.

DRONE SÜRÜSÜ TEKNOLOJİSİ

Uzmanlara göre aynı anda birden fazla drone uçurmak halihazırda mümkün olsa da hava ve denizde faaliyet gösteren çok sayıda drone’un hedef doğrultusunda otonom biçimde birlikte hareket etmesini sağlayacak yazılımın geliştirilmesi hâlâ önemli bir teknik engel olarak görülüyor.

Yarışmanın ilerleyişi, katılımcıların başarısı ve projeye gösterilen ilgiye bağlı olarak aşamalı şekilde devam edecek.