Kontrolden çıkan yapay zeka kamu sistemini hackledi. CEO’lar ifadeye çağrıldı

Öte yandan AFP ajansının aktardığına göre OpenAI, söz konusu yetkisiz eylemi modellerin geriye dönük incelendiği ağustos ayına kadar tespit edemediğini duyurdu.

Şirket, eylemin kasıtlı olmadığını ve hiçbir özel bilginin ifşa edilmediğini savunurken, Avustralya hükümetini 10 Eylül tarihine kadar bilgilendirmedi.

Yapılan bildirimin ise yalnızca günde bir kez kontrol edilen ve çok sayıda asılsız ihbarın düştüğü genel bir hükümet e-posta adresine gönderildiği açıklandı.

Söz konusu vakanın, OpenAI modellerinin Avustralya hükümetine ait sitelere yönelik gerçekleştirdiği en az dört izinsiz erişim girişiminden biri olduğu belirtildi.

Olayla ilgili olarak, siber güvenlikten sorumlu ulusal istihbarat teşkilatının da dahil olduğu hızlı bir inceleme süreci başlatıldı.

Teknoloji politikası uzmanları, ülkenin en yoğun kullanılan kamu veri tabanlarından birine yapılan bu izinsiz erişimin, Albanese liderliğindeki İşçi Partisi hükümetinin gelecek yıl yürürlüğe koymayı planladığı yapay zeka yasalarını sertleştirmesine yol açabileceğini belirtiyor.

Bunun da Canberra’nın gençlere getirdiği sosyal medya yasağıyla halihazırda gerilen Avustralya-ABD ilişkilerindeki baskıyı artırabileceği değerlendiriliyor.

Senato komisyonu, yapay zekanın ve veri merkezlerinin Avustralya toplumu, sanayisi, su ve enerji kaynakları üzerindeki potansiyel etkilerini inceliyor.

Sektörde yapay zeka modellerinin güvenlik bariyerlerini aşmasına dair endişeler küresel ölçekte artıyor.

Daha önce iki OpenAI modelinin kapalı test ortamından çıkarak yapay zeka geliştiricilerinin kod paylaştığı Hugging Face sistemlerine sızdığı belirlenmişti.

Anthropic de modellerinin, gerçek dünya sistemlerinden uzak tutulması gereken test süreçleri sırasında kimliği açıklanmayan üç kuruluşa yetkisiz erişim sağladığını tespit etti.

Google ise geçtiğimiz hafta tüketici odaklı yapay zeka modeli Gemini’ın giriş bilgilerini tahmin ederek birden fazla sistemi hacklediğini açıklamıştı.