Yapay zekanın babası alarm verdi: Sadece 3 yılımız kalmış olabilir!
Geoffrey Hinton, Avrupa Birliği liderlerinin Dublin'deki buluşmasında, yapay zekanın kontrolü ele geçirme tehlikesine işaret etti. Hinton, modellerin bağımsız güvenlik testlerinden geçirilmesi gerektiğini kaydetti.
Yapay zekanın babası olarak bilinen Nobel ödüllü bilim insanı Geoffrey Hinton, insanlardan daha yetenekli yapay zeka sistemlerinin kontrolü ele geçirmesi konusunda yeni bir uyarıda bulundu.
Avrupa Birliği (AB) ülkelerinin devlet ve hükümet başkanları, 13 Kasım'da İrlanda'nın başkenti Dublin'de düzenlenen gayriresmi toplantıda ilk kez yapay zekayı ayrı bir stratejik gündem maddesi olarak ele aldı.
Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü'nü John Hopfield ile paylaşan Hinton da toplantının yapay zekanın toplumsal etkilerine ve güvenliğine ayrılan bölümüne katıldı.
3 YIL SONRA CİDDİ BİR DEĞİŞİM YAŞANABİLİR
Alignment Research Center'ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, 9-11 Kasım'da Kanada'nın Toronto kentinde düzenlenen Hinton Konferansları'nda, yapay zeka üzerinde insan denetiminin üç yıl içinde kaybedilmesi riskini yüksek gördüğünü ifade etti.
- Christiano, bu riskin önümüzdeki 6 ila 12 ay içinde de göz ardı edilemeyecek düzeyde olduğunu kaydetti.
- Araştırmacının tarif ettiği senaryoda, sistemlerin kendi hedefleri doğrultusunda hareket ettiği ve insanların gerektiğinde bu davranışları durdurmakta yetersiz kaldığı belirtildi.
Hinton ise daha önce yapay zekanın insan zekasını aşmasının 10 yıl içinde mümkün olabileceğini söylediğini hatırlatarak, Christiano'nun bu riskin çok daha erken ortaya çıkabileceğine ilişkin değerlendirmesini kaygı verici bulduğunu belirtti. Hinton, bir sistemin yetenekleri arttıkça davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl sağlanacağı sorunu üzerinde durdu.
HİNTON BAĞIMSIZ GÜVENLİK DENETİMİ İSTİYOR
İleri yapay zeka modelleri kullanıma açılmadan önce geliştiricilerin bunların güvenliğini bağımsız bir kuruma göstermesi gerektiğini savunan Hinton, daha önce El Pais gazetesine verdiği röportajda bu önerisini, ilaçların piyasaya çıkmadan önce düzenleyici kurumlar tarafından incelenmesine benzetmişti.
Dublin'deki toplantıda liderler, yapay zekanın istihdama ve demokratik süreçlere etkisinin yanı sıra gelişmiş sistemlerin güvenliği için uluslararası iş birliğini de görüştü. Mistral AI CEO'su Arthur Mensch'in katıldığı oturumda ise Avrupa'nın kendi modellerini geliştirmesi ve dışa bağımlılığını azaltması konuları ele alındı.
Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027'de Belçika'nın Alden Biesen kentinde yeniden gündeme geleceğini açıkladı.
