Önce istifa etti, sonra konuştu! Korkutan itiraf geldi: 'İnsanları öldürebilir'
Anthropic Güvenlik araştırmacısı Jacob Coxon, süper zekanın insanları öldürebilecek seviyeye ulaşabileceği endişesiyle istifa etti. Şirketin Uyum Bilimi Sorumlusu Evan Hubinger ise insanlığın yok olma riskini yüzde 10’un üzerinde görüyor.
Anthropic’in Uyum Bilimi Sorumlusu, şirketteki birçok araştırmacının yapay zekanın insanlığı yok edebileceğine samimiyetle inandığını açıkladı.
Yapay zeka şirketi Anthropic’te güvenlik tartışmaları yeniden alevlendi. Şirketin Uyum Bilimi Sorumlusu Evan Hubinger, sosyal medya platformu X’te yaptığı paylaşımda çarpıcı açıklamalarda bulundu.
Hubinger, kendisi ve meslektaşlarının yapay zekanın tüm insanlığı öldürebileceğine “samimiyetle inandığını” söyledi.
Kişisel tahminini de net bir şekilde ortaya koydu: “Önümüzdeki 10 yıl içinde bu riskin yüzde 10’un üzerinde olduğunu düşünüyorum.”
Hubinger, Anthropic’in bu konuda elinden geleni yaptığını ancak “süper zekâ için hizalama” sorununa henüz bir çözüm planı bulunmadığını ve şirketin bu konuda “net bir şekilde yolunda olmadığını” itiraf etti.
KENDİ KENDİNİ GELİŞTİREN YAPAY ZEKA ÇOK TEHLİKELİ
Mevcut yapay zeka modellerinin riskinin düşük olduğunu vurgulayan Hubinger, asıl endişesinin kendi kendini geliştiren (recursive self-improvement) süper zekânın beklenenden daha hızlı ortaya çıkması olduğunu belirtti.
- Yapılan açıklama, Anthropic araştırmacısı Jacob Coxon’un güvenlik endişeleri nedeniyle istifa etmesinin hemen ardından geldi.
- Coxon, hem OpenAI hem de Anthropic’te ön eğitim (pretraining) araştırmaları yaptığını belirterek, şirketlerin “kendi kendini geliştiren süper zekâya doğru koştuğunu ve hayatlarımızla kumar oynadığını” savundu.
"10 YILIN SONUNDA İNSANLARI ÖLDÜREBİLECEK GÜCE GELECEK"
Coxon, yapay zeka geliştirenlerin bunun on yılın sonunda hepimizi öldürebileceğine gerçekten inandığını ve bunun bir pazarlama taktiği olmadığını ifade etti.
Wall Street Journal’ın haberine göre Coxon, “önümüzdeki yılın sonuna kadar işlerin kontrolden çıkabileceği en agresif senaryoların” mümkün olduğunu düşünüyor.
Coxon, Anthropic’te risklerin farkında olunduğunu ancak şirketin “kimse sorumlu davranmayacak, o yüzden biz yapmalıyız” mantığıyla bir yarışın içinde olduğunu da iddia etti.
YAVAŞLAMA ÇAĞRISI
Gelişmeler, yapay zeka alanında güvenlik ve hizalama tartışmalarının giderek daha fazla öne çıktığı bir dönemde yaşandı.
Daha önce bazı önde gelen yapay zeka araştırmacıları ve yöneticileri, gelişmiş sistemlerin risklerini azaltmak için yavaşlama çağrıları yapmıştı.
