Yapay Zeka yazılımı mucitlerini bile ürküttü

OpenAL isimli araştırma şirketi tarafından geliştirilen, kendi başına metin oluşturan yazılım suistimal edilebileceği endişesi ile piyasaya sürülmüyor.

Yapay Zeka yazılımı mucitlerini bile ürküttü
Yapay Zeka yazılımı mucitlerini bile ürküttü
GİRİŞ 22.02.2019 12:40 GÜNCELLEME 22.02.2019 12:42
Bu Habere 32 Yorum Yapılmış

ABD’de kar amacı gütmeyen araştırma kuruluşu OpenAl tarafından geliştirilen Gpt2 isimli yazılım insan seslerini analiz ederek kendi başına metinler oluşturabiliyor. Ancak bu oluşan metinler o kadar gerçeği yakın ki, Gpt2’yi geliştirenler bu yazılımın piyasaya sürülmemesine karar verdi.

Destekçileri arasında Elon Musk’ın da bulunduğu OpenAl’ın temel çalışma biçimi yaptığı tüm yenilikleri kamuoyun açıklamak. Ancak yazılımcılar Gpt2’nin suistimal edilme ihtimalinin çok yüksek olduğunu düşünerek yayınlamama kararı aldı.

 

 

KENDİ BAŞINA METİN OLUŞTURUYOR

Geliştirilen yazılım verilen bir metne ilave edilecek uygun kelimeleri bulma ve uygun paragraflar geliştirme kabiliyetine sahip. Bu yazılım 8 milyon web sitesinden elde edilen 40 gigabayt veri ile eğitildi. Bunun için kullanıcıların tavsiyeleri de alındı. Toplanan bu veriler YZ’nın metinlerin temelinde yatan modelleri kavramasını sağlıyor.

Gpt2 böylece mevcut metnin içerik ve stiline uyum sağlayabiliyor. Bu çalışmanın sonucunda hayranlık veren neticelere ulaşıldı. Yapılan metin oluşturma denemelerin yüzde 50’sinde birbiriyle bağlantılı yeni metinlerin oluşması başarıldı. Gpt2 sadece yüksek teknolojik bilgiler ve ezoterik içiren metinlerde daha düşük bir başarı oranı sergiledi. Ancak okunulanı anlama ve neden niçin sorularına cevap verme konusunda elde edilen başarı da beklenilen çok üstünde oldu.

 

 

SUİSTİMAL ENDİŞESİ

Tam da bu yetenekler yazılımcıları endişeye sevk etti. Sistem yüksek maliyete neden olmadan fake haberler üretmeye, konuşmaları taklit etmeye ve sosyal ağlarda spam ve fake içerikleri dağıtmaya çok müsait. Sistem prensipte bir insanın yapabileceğinden daha fazla zarar vermiyor. Ama bir insana göre çok daha hızlı ve büyük caba sarfetmeden çalışıyor. OpenAL bu özelliklerin kötü niyetli kişiler tarafından kullanılmasından endişe ediyor. Ancak OpenAL sadece bu endişeleri gidermek için değil aynı zamanda YZ yazılımlarında suistimal konusunda farkındalık yaratmak amacıyla bu adımı attı.

TOPLUMSAL FARKINDALIK

OpenAL tarafından yapılan açıklamada, “Bu tür teknolojiler hizmete sunulmadan önce toplumun online metinlere karşı daha şüpheli davranmayı öğrenmesi gerekir“ denildi. Yazılımı geliştiren araştırma grubu ise bu tür sistemlerin YZ araştırmalarının ana merkezini oluşturduğu ve sınırlandırılması gerektiğini söyledi. Bu amaça yazılımın sadece örnek verilerle dar bir versiyonu açıklandı. Modelde kullanılan veri tabanı ve kodlar ise yayımlanmadı. OpenAl yazılımcıların toplumsal faydadan yüzde yüz emin olmadıkları için bu yöntemi seçtiklerine YZ konusunda benzeri tartışmaların gerekli olduğuna dikkat çekti.

Karar

ETİKETLER
Yapay Zeka
YAZDIR
YORUMLAR 32
  • ankaralı 9 ay önce Şikayet Et
    ulan bunlar bu makinaları yaptılar en sonunda bizim başımız bela olacak
    Cevapla
  • kullawa 9 ay önce Şikayet Et
    madem kullanmıyacaksınız neden üretildi geliştirildi. ??
    Cevapla
  • yurtTAŞ 9 ay önce Şikayet Et
    Kullanılmayacak denmiyor. Toplumun kullanımına verilmeyecek deniyor. Arada büyük fark var.
    Cevapla
  • www 9 ay önce Şikayet Et
    Bu teslanin sahibi siyonizmin MARSTAKI secilmisler toplulugunun yasam sartlarini olusturmak icin calisiyor bir taraftanda DUNYADA terminator savaslarinin altini kaziyor ne hikmetse yapay zeka ile ugrasan sirketlerin nerdeyse hepsi siyonis sermaye destekli
    Cevapla
  • anonismister bay 9 ay önce Şikayet Et
    what
    Cevapla
  • mehdi 9 ay önce Şikayet Et
    yazılımcılar bile endişelendi degilmi teknofest projeler gizli yapılsın beynim şimdi dinlenmede 11 de 11 de son proje iclalla ilgiliydi onu demeyin gizlimi verecekler ileri zekamı oluyorum
    Cevapla
  • Muhittin Aksoy 9 ay önce Şikayet Et
    Insan kendi sonunu hazirliyor.
    Cevapla
Daha fazla yorum görüntüle
DİĞER HABERLER
Son dakika: Ceren'in katili cezaevinde intihar girişiminde bulundu
Türkiye'nin resti sonrası bıçak gibi kesildi! Ellerine tutuşturuldu