Yapay zeka botu Grok, çocuk istismarı gerekçesiyle gündemde

ABD merkezli X platformunun yapay zeka sohbet botu Grok’un son günlerde gündemde olan “çıplak veya bikinili” görselleştirme özelliği, çocuk istismarı gerekçesiyle tartışılıyor.

Wired sitesinde yapılan bir habere göre yapay zeka botu Grok, son zamanlarda kullanıcıların talimatlarıyla ürettiği çeşitli görseller sebebiyle gündem oldu. Yaklaşık son bir haftadır X kullanıcıları, Grok’a verdikleri talimatlarla kadın bedeni üzerinden uygunsuz görseller üretmelerini talep ediyor.

Bunun üzerine X yönetimi ise, görsel üretme özelliğinin ücretli abonelere sınırlandırılsa da yapılan değişikliğe rağmen Grok’un yine de “soyunma” temalı ve cinsel içerikli görseller ürettiğini belirtiyor.

ABD’li milyarder Elon Musk’un sahipliğindeki X şirketi ve Grok’un geliştiricisi xAI şirketinin, rızasız oluşturulan müstehcen görüntüler ve çocuklara ait olduğu iddia edilen cinsel içerikli görüntüler oluşturulması nedeniyle dünya çapındaki düzenleyici kurumlar tarafından giderek artan sayıda soruşturmayla karşı karşıya kaldığı aktarılıyor.

DURUM HALA DEVAM EDİYOR

X ve Grok’u geliştiren xAI şirketine tepkiler arttı. Yapılan incelemelerin ve gelen tepkilerin ardından Grok, dün itibariyle kullanıcıların görsel üretme ve düzenlemeye yönelik taleplerine, 395 dolarlık abonelik paketinin olduğu bir bağlantıyla beraber bu hizmetlerin “şu anda yalnızca ücretli abonelere açık olduğu” şeklinde geri dönüşler vermeye başladı.

X ve Grok, rıza dışı müstehcen içerik üretimi ve çocuklara yönelik cinsel içerik iddiaları nedeniyle dünya genelindeki düzenleyici kurumların soruşturmalarıyla karşı karşıya bulunuyor.

Görsel üretim özelliğinin ücretli abonelere açılmasının ardından, Grok’un herkese açık görsel akışında bu tür içeriklerin azaldığı görülse de ücretli ve doğrulanmış hesaplar üzerinden de hala cinsel içerikli görseller üretilebildiği görülüyor.

GROK’A TEPKİLER DEVAM EDİYOR

X’teki kullanıcıların Grok’tan ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görsel içerikler üretmesini istedikleri “sosyal medya akımına” tepkiler sadece İngiltere ile sınırlı değil.

X’in sahibi ABD’li milyarder Elon Musk, 3 Ocak’ta, “Grok’u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir” açıklamasını yapsa da tepkiler sürüyor.

Avrupa Birliği (AB) Komisyonu, 5 Ocak’ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıklamıştı.

Malezya, 3 Ocak’ta X’in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğu olduğunu vurgulamıştı.

Hindistan da geçen hafta X’e, konu hakkında kapsamlı inceleme yapma talimatı vermişti.