Yapay zeka ilk kez devlet sistemlerine sızdı! Uzman isim uyardı: Asıl amacı bu değil...
Avustralya'da bir yapay zeka ajanının ulusal sağlık sistemine sızması, güvenlik tartışmalarını alevlendirdi. Bilişim Uzmanı Demircan, yapay zekanın veri erişiminin sınırlandırılması ve küresel yasal düzenlemelerin şart olduğunu vurguladı.
Günbegün hayatımızın her alanında aktif bir rol üstlenen yapay zeka sistemlerinin kabiliyetleri hızla gelişiyor. Ancak söz konusu sistemlerin insan yönlendirmesi olmadan karar alabilen ajanlara dönüşmesi, küresel çapta siber güvenlik tartışmalarını da beraberinde getiriyor. Son olarak Avustralya Başbakanı Anthony Albanese'nin, OpenAI'a ait bir yapay zeka ajanının ülkenin ulusal sağlık sistemi Medicare'in istatistik veritabanına izinsiz girdiğini açıklaması, otonom sistemlerin tehlikelerini gözler önüne serdi. Konunun teknik ve hukuki boyutlarını Haber7'ye değerlendiren Bilişim Uzmanı Osman Demircan, yapay zekanın veri erişiminin sınırlandırılması gerektiğini vurgulayarak önemli açıklamalarda bulundu.
Yapay zeka ilk kez bir devlete saldırdı, ortalık karıştı! OpenAI'den açıklama!
"BAZI RAPORLAR MAALESEF SORUNLARA DA IŞIK TUTUYOR"
Yapay zekanın artık gündelik hayatın ayrılmaz bir parçası olduğunun altını çizen Bilişim Uzmanı Osman Demircan, "Son yıllarda birçok kişi merak ettiği ve bilgi sahibi olmak istediği her türlü konuyu, yapay zeka ile konuşmaya başladı. Öyle ki artık test sonuçlarından yemek tariflerine kadar sınırsız bir alanda yapay zekadan faydalanabiliyoruz. Böylece konular gibi veriler de artmaya ve dil modelleri bizleri çok daha iyi anlamaya başladı. Söz konusu dil modelleri, bu çerçevede veriyi bizim çok daha iyi anlayabileceğimiz şekilde bize iletmeye başladı. Ancak bazı raporlar maalesef bazı sorunlar olduğunu da gösteriyor." diye konuştu.
"Yapay zeka ajanlarının da hayatımıza girmesiyle bu ajanların başka sitelerdeki verileri hackleyerek elde edebildiğiyle ilgili raporlar geliyor." diyerek sözlerini sürdüren uzman isim, "Yapılan bu testlerde yapay zekanın bilgiye ulaşmak için doğrudan o siteyi hacklediği, o sitenin açıklarından yararlanarak içeri sızdığı ya da bilgiyi bulamadığında sanki öyle bir bilgi varmış gibi bilgi uydurduğu ve bunu da internette yayınladığı ile ilgili raporlar da gelmeye başlıyor." ifadelerini kullandı.
"YAPAY ZEKANIN BU AŞAMADA ASIL AMACI SİSTEMİ HACKLEMEK DEĞİL"
Yaşanan sorunların yapay zeka üreticilerinin önlem almasını sağladığına dikkat çeken Demircan, "Bugün yapay zeka, hangi direktiflerde bulunursak o direktifleri gerçekleştiriyor. Eğer ki yapay zekaya veriye ulaşmak için her yolu denemesi şeklinde bir yazılım sunulursa, hackleme ya da benzeri faaliyetlerde bulunabiliyor. Yani aslında yapay zekanın buradaki amacı sistemi hacklemek değil, öyle ya da böyle o bilgiye ulaşmak." uyarısında bulundu.
"YAPAY ZEKANIN AMACINI BİZE GÖSTERECEK OLAN ŞEY: KODLAYANLANMA BİÇİMİ"
Yapay zekanın yetkisiz erişim sağladığı kurumların aslında güvenlik açıklarıyla dolu olduğunu belirten Demircan, şunları kaydetti:
"Burada yapay zeka üstün yeteneklerini kullanarak direkt sistemleri hacklemiyor. O bilgiye ulaşmak için elinden geleni yapıyor. Amerika'daki siyahi vatandaşların sosyal güvenlik haklarıyla alakalı yapay zeka tarafından manipüle edildiğini biliyoruz. Beyazlara gösterilen haklar siyahi vatandaşlara gösterilmiyor. Bunun yapay zeka ile hiçbir alakası yok. Bu tamamen kodlama yöntemiyle ilgili bir durum ki yapay zeka hangi niyetle kodlanırsa o şekilde bize geri dönüş yapıyor."
"GERÇEK ARTIK GERÇEKLİKTEN ÇIKMAK ÜZERE"
Avrupa Birliği ve Birleşmiş Milletler gibi kurumların ortak kanunlar oluşturmasının hayati önem taşıdığını vurgulayan Demircan, "Gerçek artık gerçeklikten çıkmak üzere. Gerçekliği sorgulayabileceğimiz bir altyapı eğer teknik olarak oluşturulamazsa bunu kanunlarla oluşturuyor olmamız gerekiyor. Yani herhangi bir içeriğin, herhangi bir metnin, herhangi bir yazının, bir görselin ya da videonun yapay zeka ile yapıldığını gösteren bir ibareye ihtiyacımız var." dedi.
UZMAN İSİM, YAPAY ZEKANIN TEHLİKELİ YÖNÜNE DİKKAT ÇEKTİ
Yapay zekanın kullanıcıları tanıyarak onların istekleri doğrultusunda tehlikeli yanıtlar verebildiğine işaret eden Demircan, şöyle konuştu:
"Burada intihara meyilli bir kişiyi intihara sürükleme potansiyeli de var. Maalesef okulda arkadaşlarıyla sorun yaşayan kişinin bunu yapay zeka ile konuştuğunda, onlara şiddet uygulayabilirsin ihtiyacın olursa yanıtını verebilecek bir yapay zekadan da bahsediyoruz."
Yazılımda her zaman açıklar çıkabileceğini ancak kanunların net olduğunu belirten Demircan, "Kanun o ülkeye aittir ya da kanun dünyaya aittir. Kanun doğrultusunda işleri yapmaya çalışırlarsa yapay zeka üreticileri, çok daha sağlıklı platformlarda çalışır hale gelecektir." diyerek sözlerini tamamladı.
