Yapay Zeka yazılımı mucitlerini bile ürküttü

ABD’de kar amacı gütmeyen araştırma kuruluşu OpenAl tarafından geliştirilen Gpt2 isimli yazılım insan seslerini analiz ederek kendi başına metinler oluşturabiliyor. Ancak bu oluşan metinler o kadar gerçeği yakın ki, Gpt2’yi geliştirenler bu yazılımın piyasaya sürülmemesine karar verdi.

Destekçileri arasında Elon Musk’ın da bulunduğu OpenAl’ın temel çalışma biçimi yaptığı tüm yenilikleri kamuoyun açıklamak. Ancak yazılımcılar Gpt2’nin suistimal edilme ihtimalinin çok yüksek olduğunu düşünerek yayınlamama kararı aldı.

KENDİ BAŞINA METİN OLUŞTURUYOR

Geliştirilen yazılım verilen bir metne ilave edilecek uygun kelimeleri bulma ve uygun paragraflar geliştirme kabiliyetine sahip. Bu yazılım 8 milyon web sitesinden elde edilen 40 gigabayt veri ile eğitildi. Bunun için kullanıcıların tavsiyeleri de alındı. Toplanan bu veriler YZ’nın metinlerin temelinde yatan modelleri kavramasını sağlıyor.

Gpt2 böylece mevcut metnin içerik ve stiline uyum sağlayabiliyor. Bu çalışmanın sonucunda hayranlık veren neticelere ulaşıldı. Yapılan metin oluşturma denemelerin yüzde 50’sinde birbiriyle bağlantılı yeni metinlerin oluşması başarıldı. Gpt2 sadece yüksek teknolojik bilgiler ve ezoterik içiren metinlerde daha düşük bir başarı oranı sergiledi. Ancak okunulanı anlama ve neden niçin sorularına cevap verme konusunda elde edilen başarı da beklenilen çok üstünde oldu.

SUİSTİMAL ENDİŞESİ

Tam da bu yetenekler yazılımcıları endişeye sevk etti. Sistem yüksek maliyete neden olmadan fake haberler üretmeye, konuşmaları taklit etmeye ve sosyal ağlarda spam ve fake içerikleri dağıtmaya çok müsait. Sistem prensipte bir insanın yapabileceğinden daha fazla zarar vermiyor. Ama bir insana göre çok daha hızlı ve büyük caba sarfetmeden çalışıyor. OpenAL bu özelliklerin kötü niyetli kişiler tarafından kullanılmasından endişe ediyor. Ancak OpenAL sadece bu endişeleri gidermek için değil aynı zamanda YZ yazılımlarında suistimal konusunda farkındalık yaratmak amacıyla bu adımı attı.

TOPLUMSAL FARKINDALIK

OpenAL tarafından yapılan açıklamada, “Bu tür teknolojiler hizmete sunulmadan önce toplumun online metinlere karşı daha şüpheli davranmayı öğrenmesi gerekir“ denildi. Yazılımı geliştiren araştırma grubu ise bu tür sistemlerin YZ araştırmalarının ana merkezini oluşturduğu ve sınırlandırılması gerektiğini söyledi. Bu amaça yazılımın sadece örnek verilerle dar bir versiyonu açıklandı. Modelde kullanılan veri tabanı ve kodlar ise yayımlanmadı. OpenAl yazılımcıların toplumsal faydadan yüzde yüz emin olmadıkları için bu yöntemi seçtiklerine YZ konusunda benzeri tartışmaların gerekli olduğuna dikkat çekti.

Karar