Anthropic araştırmacısı: ”İnsanlığın yok olma ihtimali yüzde 10’un üzerinde”

Coxon’ın açıklamasına, Anthropic’te yapay zeka sistemlerinin insan amaçları ve değerleriyle uyumlu çalışmasına yönelik araştırmalara liderlik eden Evan Hubinger’den yanıt geldi.

Hubinger, “Jacob burada haklı. Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen bunun gelecek 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’un üzerinde olduğunu düşünüyorum” dedi.

Bu oranı kişisel tahmini olarak paylaşan Hubinger, Anthropic’in elinden geleni yaptığına inandığını ancak süper zekanın insanlarla uyumlu çalışmasını sağlayacak sorunu çözmek için henüz bir planlarının bulunmadığını belirtti. Hubinger, bu sorunu çözme yolunda olduklarının da net olmadığını söyledi.

Bir başka paylaşımında mevcut yapay zeka modellerinden kaynaklanan riskin düşük olduğunu vurgulayan Hubinger, asıl endişesinin kendi kendini geliştirme sürecinden doğabilecek süper zeka olduğunu açıkladı.