Son günlerde yapay zeka dünyasından gelen iki haber dikkat çekti. İlkinde Anthropic, Claude modelinin artık kendi kodunun büyük bölümünü yazabildiğini açıkladı. Şirket bunun gelecekte yapay zekanın kendi haleflerini geliştirebileceği bir sürecin başlangıcı olabileceğini söyledi. İkinci haberde ise ABD hükümeti, ulusal güvenlik gerekçesiyle bazı yapay zeka modellerine erişimi durdurdu.

İlk bakışta bu iki gelişme birbirinden bağımsız görünüyor. Oysa ikisinin merkezinde aynı korku var:

Kontrol.

Bir tarafta giderek daha karmaşık hale gelen yapay zeka sistemleri bulunuyor. Diğer tarafta ise bu sistemlerin nasıl kullanılacağı konusunda anlaşamayan devletler ve şirketler...

MAKİNELER MAKİNE TASARLAMAYA BAŞLARSA

Anthropic'in dikkat çektiği konu yapay zeka dünyasında uzun yıllardır tartışılıyor. "Özyinelemeli kendini geliştirme" olarak adlandırılan bu senaryoda bir yapay zeka sistemi kendi performansını artıracak yeni modeller tasarlamaya başlıyor. Daha gelişmiş model bir sonrakini geliştiriyor. Ardından daha güçlü olan bir sonrakini.

Süreç devam ettikçe ilerleme hızının insan mühendislerin yetişebileceğinden çok daha ileri bir noktaya ulaşabileceği düşünülüyor. Bugün yeni bir yapay zeka modelinin geliştirilmesi aylar hatta yıllar sürebiliyor. Bu senaryoda ise yeni nesiller günler içinde ortaya çıkabilir Anthropic'in endişesi tam olarak burada başlıyor. Çünkü insanlar uzun yıllardır teknolojiyi geliştiriyor ancak ilk kez teknoloji kendi gelişim sürecine aktif olarak katılmaya başlıyor.

HEDEFLER FARKLI OLABİLİR

Yapay zeka tartışmalarında sık kullanılan bir örnek vardır. Bir sisteme "ataç üretimini maksimuma çıkar" görevi verildiğini düşünelim. Yeterince güçlü bir sistem bu hedefe ulaşmak için enerji kaynaklarını, fabrikaları ve mevcut ekonomik düzeni kendi amacı doğrultusunda kullanmaya çalışabilir. Sorun kötü niyet değil fakat amaç farklılığı olabilir. İnsan için önemli olan şey refah, güvenlik ve yaşam kalitesidir. Makine için, verilen görevin yerine getirilmesi... Bu yüzden yapay zeka araştırmacıları bugün teknik kapasiteden çok hedef uyumu problemine odaklanıyor. Sistem ne kadar güçlü olursa olsun insan amaçlarıyla uyumlu çalışması gerekiyor. Aksi durumda ortaya çıkan risk teknik değil, stratejik hale geliyor.

HÜKÜMETLER ENDİŞELENMEYE BAŞLIYOR

ABD hükümetinin bazı yapay zeka modellerine erişimi durdurması, Washington'ın yapay zekayı artık yalnızca teknoloji meselesi olarak görmediğini gösteriyor.Yapay zeka giderek daha fazla ulusal güvenlik başlığına dönüşüyor. Nükleer teknoloji, uzay yarışı, siber güvenlik ve yarı iletken rekabeti nasıl stratejik alanlar haline geldiyse, yapay zeka da aynı kategoriye giriyor. Bu nedenle devletler artık yalnızca teknolojinin ne ürettiğine bakmıyor. Kimin geliştirdiğine, kimin kullandığına ve hangi amaçlarla kullanılabileceğine de bakıyor.

Anthropic ile Pentagon arasında yaşanan gerilim de bu nedenle dikkat çekici. Şirket, yapay zekasının belirli askeri alanlarda kullanılmasına karşı çıkıyor. Pentagon, bu teknolojilere daha fazla erişmek istiyor.

Tartışma, gelecekte çok daha büyük bir sorunun habercisi olabilir. Çünkü önümüzdeki yıllarda yapay zeka şirketleri tarihte görülmemiş bir güç elde edebilir. Milyarlarca insanın kullandığı sistemleri geliştiren şirketler ile ulusal güvenlik kaygıları taşıyan devletler arasında yeni gerilimler ortaya çıkabilir. Bugün yaşanan tartışmalar bunun ilk işaretleri gibi görünüyor.

Popüler kültür yapay zeka tehlikesini çoğu zaman robot orduları üzerinden anlatıyor.

Araştırmacıların asıl korkusu çok daha farklı. Endişe edilen şey makinelerin insanlara savaş açması değil. İnsanların artık sistemi anlayamaması ve karar süreçlerini takip edememesi. Teknolojik gelişimin hızının siyasi ve hukuki mekanizmaları geride bırakması. Anthropic'in gerekirse duraklamalıyız çağrısı da bu yüzden dikkat çekiyor.