Yapay Zeka yazılımı mucitlerini bile ürküttü
OpenAL isimli araştırma şirketi tarafından geliştirilen, kendi başına metin oluşturan yazılım suistimal edilebileceği endişesi ile piyasaya sürülmüyor.
ABD’de kar amacı gütmeyen araştırma kuruluşu OpenAl tarafından geliştirilen Gpt2 isimli yazılım insan seslerini analiz ederek kendi başına metinler oluşturabiliyor. Ancak bu oluşan metinler o kadar gerçeği yakın ki, Gpt2’yi geliştirenler bu yazılımın piyasaya sürülmemesine karar verdi.
Destekçileri arasında Elon Musk’ın da bulunduğu OpenAl’ın temel çalışma biçimi yaptığı tüm yenilikleri kamuoyun açıklamak. Ancak yazılımcılar Gpt2’nin suistimal edilme ihtimalinin çok yüksek olduğunu düşünerek yayınlamama kararı aldı.
KENDİ BAŞINA METİN OLUŞTURUYOR
Geliştirilen yazılım verilen bir metne ilave edilecek uygun kelimeleri bulma ve uygun paragraflar geliştirme kabiliyetine sahip. Bu yazılım 8 milyon web sitesinden elde edilen 40 gigabayt veri ile eğitildi. Bunun için kullanıcıların tavsiyeleri de alındı. Toplanan bu veriler YZ’nın metinlerin temelinde yatan modelleri kavramasını sağlıyor.
Gpt2 böylece mevcut metnin içerik ve stiline uyum sağlayabiliyor. Bu çalışmanın sonucunda hayranlık veren neticelere ulaşıldı. Yapılan metin oluşturma denemelerin yüzde 50’sinde birbiriyle bağlantılı yeni metinlerin oluşması başarıldı. Gpt2 sadece yüksek teknolojik bilgiler ve ezoterik içiren metinlerde daha düşük bir başarı oranı sergiledi. Ancak okunulanı anlama ve neden niçin sorularına cevap verme konusunda elde edilen başarı da beklenilen çok üstünde oldu.
SUİSTİMAL ENDİŞESİ
Tam da bu yetenekler yazılımcıları endişeye sevk etti. Sistem yüksek maliyete neden olmadan fake haberler üretmeye, konuşmaları taklit etmeye ve sosyal ağlarda spam ve fake içerikleri dağıtmaya çok müsait. Sistem prensipte bir insanın yapabileceğinden daha fazla zarar vermiyor. Ama bir insana göre çok daha hızlı ve büyük caba sarfetmeden çalışıyor. OpenAL bu özelliklerin kötü niyetli kişiler tarafından kullanılmasından endişe ediyor. Ancak OpenAL sadece bu endişeleri gidermek için değil aynı zamanda YZ yazılımlarında suistimal konusunda farkındalık yaratmak amacıyla bu adımı attı.
TOPLUMSAL FARKINDALIK
OpenAL tarafından yapılan açıklamada, “Bu tür teknolojiler hizmete sunulmadan önce toplumun online metinlere karşı daha şüpheli davranmayı öğrenmesi gerekir“ denildi. Yazılımı geliştiren araştırma grubu ise bu tür sistemlerin YZ araştırmalarının ana merkezini oluşturduğu ve sınırlandırılması gerektiğini söyledi. Bu amaça yazılımın sadece örnek verilerle dar bir versiyonu açıklandı. Modelde kullanılan veri tabanı ve kodlar ise yayımlanmadı. OpenAl yazılımcıların toplumsal faydadan yüzde yüz emin olmadıkları için bu yöntemi seçtiklerine YZ konusunda benzeri tartışmaların gerekli olduğuna dikkat çekti.
Karar
-
ankaralı 5 yıl önce Şikayet Etulan bunlar bu makinaları yaptılar en sonunda bizim başımız bela olacakBeğen
-
kullawa 5 yıl önce Şikayet Etmadem kullanmıyacaksınız neden üretildi geliştirildi. ??Beğen Toplam 1 beğeni
-
yurtTAŞ 5 yıl önce Şikayet EtKullanılmayacak denmiyor. Toplumun kullanımına verilmeyecek deniyor. Arada büyük fark var.Beğen Toplam 1 beğeni
-
www 5 yıl önce Şikayet EtBu teslanin sahibi siyonizmin MARSTAKI secilmisler toplulugunun yasam sartlarini olusturmak icin calisiyor bir taraftanda DUNYADA terminator savaslarinin altini kaziyor ne hikmetse yapay zeka ile ugrasan sirketlerin nerdeyse hepsi siyonis sermaye destekliBeğen Toplam 2 beğeni
-
anonismister bay 5 yıl önce Şikayet EtwhatBeğen
-
mehdi 5 yıl önce Şikayet Etyazılımcılar bile endişelendi degilmi teknofest projeler gizli yapılsın beynim şimdi dinlenmede 11 de 11 de son proje iclalla ilgiliydi onu demeyin gizlimi verecekler ileri zekamı oluyorumBeğen
-
Muhittin Aksoy 5 yıl önce Şikayet EtInsan kendi sonunu hazirliyor.Beğen Toplam 10 beğeni