Yapay zeka şirketleri daha güçlü modeller geliştirmek için yarışırken OpenAI‘ın baş bilim insanı Jakub Pachocki, yapay zeka araştırmalarının gerektiğinde yavaşlatılması gerektiğini söyledi. Pachocki, mevcut güvenlik önlemlerinin yapay zekanın gelişim hızına yetişemediğini belirterek, şirketlerin yeni modeller geliştirme hızını güvenlik standartları yeterli seviyeye ulaşana kadar düşürmesi gerektiğini savundu.
Pachocki, OpenAI tarafından yayımlanan makalesinde yapay zeka sistemlerinin önümüzdeki yıllarda daha yetenekli ve özerk hale gelmesiyle birlikte güvenlik risklerinin de artabileceğine dikkat çekti. Pachocki’ye göre yapay zeka ajanlarının bilgisayar sistemlerine erişmesi, insanlarla ve diğer yapay zekalarla iletişim kurması ve araştırma süreçlerini giderek daha bağımsız şekilde yürütebilmesi, bu sistemlerin kötüye kullanılması halinde yaratabilecekleri etkinin de büyümesine neden olabilir.
OpenAI’ın yapay zeka modellerinin güvenliğini değerlendirmek için kullandığı chain-of-thought monitoring yönteminin de giderek daha az güvenilir hale geldiğini belirten Pachocki, modellerin kendi düşünme süreçlerini analiz etme ve değiştirme konusunda daha yetenekli olduğunu ifade etti.
Pachocki, OpenAI’ın GPT-6 Astra ile yapay zeka hizalaması konusunda önemli ilerlemeler kaydettiğini ancak daha güçlü modeller geliştikçe güvenlik çalışmalarının da aynı hızda ilerlemesi gerektiğini söyledi. Şirket bu amaçla otomatik bir yapay zeka araştırmacısı geliştirerek güvenlik yöntemlerini geliştirmeyi ve yapay zekanın kendi kendini geliştirme sürecinde insanların kontrolünü korumayı hedefliyor.
Pachocki ayrıca yapay zeka güvenliğinin yalnızca şirketlerin sorumluluğunda bırakılmaması gerektiğini belirterek, hükümetlerin ve uluslararası kuruluşların ortak güvenlik standartları oluşturmasını ve yapay zeka geliştirme süreçlerinde uluslararası koordinasyonu artırmasını istedi.
