Anthropic araştırmacısı Jacob Coxon, teknoloji şirketlerinin tehlikeli bir yarışa girdiğini savunarak şirketten ayrıldı. İstifasının ardından Coxon, dikkat çeken uyarılarda bulundu.

ANTHROPIC ARAŞTIRMACISINDAN KORKUTAN İSTİFA

Yapay zeka şirketi Anthropic'te araştırmacı olarak çalışan Jacob Coxon, teknoloji şirketlerinin kontrol edemeyecekleri sistemler geliştirmek için giderek hızlanan bir yarışa girdiğini savunarak şirketten ve yapay zeka sektöründen ayrılma kararı aldı.

İstifasının ardından sosyal medya hesabından yüz binlerce etkileşim alan bazı itiraflarda bulunarak şirket içerisinden bilgiler verdi.

Yeni yapay zeka modellerinin büyük miktarda veriyle eğitilmesi konusunda uzmanlaşan 27 yaşındaki İngiliz araştırmacı, kendi kendini geliştirebilen sistemler yaratma yarışının insanlığın kontrolünden çıkabileceğinden endişe ettiğini söyledi.

“GELECEK YIL KONTROLDEN ÇIKABİLİR”

Coxon'a göre teknoloji şirketleri arasındaki rekabet, güvenlik konusunda taviz verilmesi riskini beraberinde getiriyor.

ABD'li şirketlerin hem birbirleriyle hem de Çin'deki rakipleriyle yarıştığına dikkat çeken araştırmacı, “En agresif senaryolara doğru ilerliyoruz. Gelecek yılın sonunda işler çoktan kontrolden çıkmış olabilir.” dedi.

Coxon, özellikle kendi kendini geliştirme yeteneğine ulaşan yapay zeka sistemlerinin zamanla insanların verdiği komutları reddedebilecek kadar ilerlemesinden endişe ettiğini söyledi.

“YAPAY ZEKA TÜM İNSANLARI ÖLDÜREBİLİR”

Coxon'ın açıklamasının ardından Anthropic'in önde gelen bilim insanlarından Evan Hubinger de endişelere destek verdi.

Hubinger, Coxon'ın yapay zeka geliştirilmesinin riskleri konusunda haklı olduğunu düşündüğünü belirterek çarpıcı bir değerlendirmede bulundu.

“Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen bunun önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum.” diyen Hubinger, Anthropic'in güvenlik konusunda elinden geleni yaptığını ancak süper zekanın insan değerleriyle uyumlu hale getirilmesi sorununu çözmek için henüz bir plan bulunmadığını söyledi.

OPENAI'DAN ANTHROPIC'E GEÇMİŞTİ

Coxon, bu yılın başlarında OpenAI'dan ayrılarak yapay zeka güvenliğine verdiği önemle bilinen Anthropic'e katılmıştı.

Araştırmacı, Anthropic'in güvenlik çalışmalarının samimi olduğuna inandığını ancak zamanla tek bir şirketin bu sorunu kendi başına çözemeyeceği sonucuna vardığını söyledi.

Coxon'a göre hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan, birçok görevde insanlardan daha iyi performans gösterebilecek yapay genel zekanın sorumlu biçimde geliştirilmesi mümkün değil.

“BU TARTIŞMALAR BİRKAÇ MÜHENDİSİN BİLGİSAYARINDA YAPILIYOR”

Coxon, yapay zeka şirketlerinin teknolojinin geleceği üzerinde sahip olduğu gücün de başlı başına bir sorun olduğunu düşünüyor.

Anthropic çalışanlarının modellerin giderek güçlenen yeteneklerini tartıştığı özel bir kanalın bulunduğunu anlatan Coxon, insanlığın geleceğini etkileyebilecek kararların teknoloji şirketlerinin içinde alınmasını eleştirdi.

Araştırmacı durumu, “Bunun çöldeki bir sığınakta değil de San Francisco'da yaşayan birkaç mühendisin MacBook'larında gerçekleşmesi biraz çılgınca.” sözleriyle anlattı.