Anthropic’ten istifa ettiğini duyuran yapay zeka araştırmacısı Jacob Coxon, ChatGPT’yi geliştiren OpenAI ve Claude’u geliştiren Anthropic’te geçirdiği üç yıllık sürenin ardından, her iki şirketin de yapay zeka konusunda sorumlu hareket etmediğini belirten önemli bir paylaşımda bulundu. Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için yarıştığını ve bunun ciddi bir varoluşsal risk oluşturduğunu düşünüyor. Yapay zeka sistemlerinin yakın gelecekte insanüstü yeteneklere ulaşarak hemen her sistemi hackleyebileceğini, farklı alanlarda çok hızlı dönüşümler yaratabileceğini ve gerçek dünyada güç ve kaynak elde edebileceğini belirten Coxon, bu alanlardaki ilerlemenin şimdiden görüldüğünü söyledi. Coxon ayrıca yapay zeka sistemleri üzerinde çalışan bazı kişilerin, teknolojinin 2030’un sonuna kadar tüm insanlığı öldürebileceğine içtenlikle inandığını; yöneticiler ile kıdemli araştırmacıların kamuoyuna yaptıkları açıklamalarda daha ölçülü ifadeler kullansalar da özel konuşmalarda aynı korkuları dile getirdiklerini belirtti. Anthropic’ten Evan Hubinger ise Coxon’un bu değerlendirmesine katılarak yapay zekanın önümüzdeki on yıl içinde tüm insanlığı öldürme ihtimalini yüzde 10’un üzerinde gördüğünü söyledi. Hubinger, bunu […]
Anthropic’ten istifa eden araştırmacı: “Yapay zeka hepimizi öldürebilir” yazısı ilk olarak Teknoloji haberleri – LOG üzerinde yayınlandı.
