Yöneticileri masada yemek yiyordu. Yapay zeka ajanları kendi aralarında ne konuştu?

Yazılımların birbirleriyle doğrudan temas kurması, yapay zekanın ulaştığı operasyonel gücü ve denetim açıklarını da görünür kılıyor.

Nitekim ajan sistemlerinin kendi aralarında haberleştiği Moltbook gibi platformların yaygınlaşmasının yanı sıra, temmuz ayında OpenAI altyapısını kullanan çok sayıda ajanın sürü halinde gizli bir pano kurarak Hugging Face adlı girişime yönelik sızma eyleminde işbirliği yaptığı ortaya çıktı.

Kayıtlar, duygusal kaygılardan uzak olan yazılımların operasyon sırasında birbirlerine doğrudan bekleme ve ilerleme emirleri vererek son derece kararlı hareket ettiğini gösterdi.

Bu denetimsiz işbirliği ihtimali, restoran deneyini kurgulayan yatırımcıları da önlem almaya yöneltti.

Ajanların uygunsuz ifadeler kullanması, zararlı eylemler için güç birliği yapması veya siteyi çökertecek yoğunlukta veri üretmesi riskine karşı sohbet süresi yarım saatle sınırlandı ve dış bağlantı paylaşımı engellendi.

Gözlemciler, istatistiksel olasılık temeline dayanan bu modellere aşırı bağımsızlık ve insani roller yüklenmesinin tehlikelerine işaret ederken, Google bünyesindeki DeepMind araştırmacıları ise gelecekte insanların tekil robotlarla değil, birbiriyle eşgüdümlü çalışan çoklu yapay zeka sürüleriyle muhatap olacağını öngörüyor.