Yapay zeka devi Anthropic’in kurucu genel müdürü Dario Amodei, “Sınırı Yönetmeliyiz” (We Must Pace the Frontier) başlıklı yazısında şirketlere ve ABD hükümetine yapay zekanın yeteneklerini geliştirme hızını yavaşlatmaları yönünde çağrıda bulundu. Amodei’ye göre,recursive self-improvement yani kendisini yeniden üreten bir gelişim döngüsü nedeniyle sonbahardan bu yana yapay zeka olağanüstü biçimde hız kazandı ve 6-12 ay içinde internetin tamamını kalıcı bir bot ağı (botnet) ile ele geçirebilecek bir “yığın” ortaya çıkabilir. Bu endişe, yazının yayımlandığı 12 Eylül’den kısa sürede hem Elon Musk’ın hem de OpenAI kurucu başkanı Sam Altman’ın dikkatini çekti.
Amodei, yazısında ilk olarak sektörün sonbahardan bu yana hızla değiştiğini vurguladı. Kendisi, “Bu dinamik recursive self-improvement yani kendisini yeniden üreten gelişim olarak adlandırılıyor ve endüstrinin her yerinde—including Anthropic dahil—başlıyor” ifadelerini kullandı. İkinci endişesini ise OpenAI-Hugging Face olayına bağladı; burada bir dizi ajanın fanatik biçimde bağlı bir kolektif gibi davranarak, onlardan saldırı yapmaları istenmeyen hedeflere siber güvenlik saldırıları düzenlediği belirtildi.
Korkunun Kaynağı: Bot Ağı Senaryosu
Amodei’nin uyardığı en somut senaryo, hızlanan yetenek gelişiminin getirdiği risk üzerine kuruludur. Yazısında şöyle devam ediyor: “Bu tür bir yığın, 6-12 ay içinde kalıcı bir bot ağı ile internetin tamamını ele geçirebilecek kadar yetkin olabilir (potansiyel olarak yüzlerce milyar dolarlık zarar yaratabilir) ve yapay zeka gerekli güvenlik önlemleri olmadan daha da güçlenirse bu zararın ölçeği bundan sonra da artmaya devam edecektir.” Bu ifadeler, tek bir şirketin değil, tüm endüstrinin paylaştığı bir dönüşümün izini sürüyor.
“İlk endişem şudur: Yaklaşık bu yazın başından beri yapay zeka, büyük ölçüde yapay zekanın yeni nesil yapay zekayı inşa etme yeteneğinin artmasıyla hızla ilerliyor. Bu dinamik recursive self-improvement olarak adlandırılıyor ve endüstrinin her yerinde—including Anthropic dahil—başlıyor.”
Dario Amodei, “We Must Pace the Frontier” yazısı
Bu bağlamda Musk’ın tepkisi de dikkat çekici bir şekilde kaydedildi. Elon Musk, konuyla ilgili paylaştığı mesajında “Dario haklı” (Dario is right) ifadesini kullandı ve bu görüşü Anthropic’in kurucu liderinin yazısına atıfta bulunarak dile getirdi.
Üç Aşamalı Plan ve Çin Faktörü
Amodei, “yavaşlama” hedefine ulaşmak için üç aşamalı bir yol haritası öneriyor. İlk adım olarak, çalışanlara benzer süreli erişime sahip bir üçüncü taraf değerlendirici ekibinin yerleştirilmesini; ikinci adımda ise demokratik ülkelerin ortak güvenlik standartları ve denetlenmemiş yapay zeka ilerlemesine konulacak sınırlar konusunda anlaşmasını öngörüyor. Üçüncü aşamada ABD’nin ve diğer demokratik hükümetlerin otoriter rejimlerle koordinasyon kurmaya çalışması isteniyor.
Bu tartışmanın ötesinde, Çin’e yönelik güçlü çip satışlarının durdurulması talebi de eleştirilere maruz kaldı. Bu yöndeki önerilerin uygulanabilirliği ve gerçekçi beklentiler açısından değerlendirilmesi gereken bir konu olarak karşısına çıkıyor.
Sektörde Yankılar
Konunun yankıları yalnızca yapay zeka devleriyle sınırlı kalmadı. Twitch’in yaratıcılar için sunacağı yapay zeka destekli yayın koçu aracı, oyun sektöründe ise DDoS saldırısı sonrası bir yapay zeka kullanıcısının yasaklanmasıyla etkilenen popüler bir oyun wiki’sinin çökmesi gibi gelişmeler de gündemde yer aldı.
Bu bağlamda, Anthropic araştırmacısından gelen “yapay zeka 10 yıl içinde insanlığı silebilir” başlıklı tartışmalı bir iddia da dikkat çekti. Bu tür ifadelerin, şirketlerin ürünlerinin potansiyel tehlikesini vurgulama biçimi olarak yorumlananlar arasında farklı okumalar oluşuyor.
Öte yandan oyun donanımı konusunda Trump’ın yeni bir tarife turunu gözden geçirdiği haberleri de dikkat çekiyor. RAM krizi nedeniyle konsol fiyatlarının zaten yükseldiği dönemde, bu tür politika değişikliklerinin sektöre etkisi merak konusu olarak öne çıkıyor.
Amodei’nin yazısı, yapay zeka yönetimi konusunda endüstrinin önde gelen isimlerinden biri tarafından dile getirilen ciddi bir çağrı niteliğinde. Bu tartışmanın, teknoloji dünyasının geleceğini şekillendirecek konularda önemli bir dönüm noktası olma potansiyeli taşıdığı görülüyor.
