Yapay zekaya kötü davrananlar dikkat! 'İşin içine hakaret dahil olursa...'
Yapay zeka modellerine yönelik hakaret içeren kullanımlara karşı yeni yaptırımlar yolda. Haber7'ye konuşan Bilişim Uzmanı Osman Demircan, bu adımla dil modellerinin hakaretleri öğrenerek taklit etmesinin önüne geçileceğini vurguladı.
ABD merkezli yapay zeka geliştiricisi Anthropic, kullanıcıların Claude adlı modele karşı gereksiz yere zalimce veya kötü davranışlarda bulunmasını yasaklayan yeni bir politika yürürlüğe koymaya hazırlanıyor. Şirketin 8 Ekim 2026'da açıkladığı ve 12 Kasım'da yürürlüğe girecek yeni kullanım politikası kapsamında, kötü muamele içeren sohbetlerin sonlandırılması temel yaptırım olarak uygulanacak. Son dönemlerde tartışmaları beraberinde getiren yapay zeka sınırlandırmalarının temel amacını değerlendiren Bilişim Uzmanı Osman Demircan, Haber7'ye açıklamalarda bulundu.
"BİZ ONA NASIL HİTAP EDERSEK O DA BİZE ÖYLE HİTAP EDİYOR"
Yapay zeka modellerinin kötü ifadeler kullanmadığını ancak kişilerin modellere hakaret içerikli söylemlerde bulunabildiğine dikkat çeken Demircan, şöyle konuştu:
"Bu eylemler aslında yapay zekanın eğitimi için olumsuz bir duruma yol açıyor. Çünkü kötü söylemleri öğrenen modeller, duygusal bağlamda olmasa da dil modeli şeklinde bizim önümüze bu ifadeleri tekrar çıkartabiliyor. Kısacası biz ona nasıl hitap edersek o da bize o şekilde hitap ediyor."
"İLETİŞİMİ KESMESİ GİBİ ÖZELLİKLER GETİRMEYİ PLANLIYORLAR"
Testler ve deneyler sonucunda yapay zekanın çok hızlı geliştiğinin açığa çıktığını anlatan Demircan, şunları kaydetti:
"Dil modelleri çok hızlı gelişiyor. Düşünemiyor ancak çok iyi taklit edebiliyor. Bundan dolayı yapay zeka şirketleri, ilerleyen dönemde daha büyük ve yıkıcı sorunlarla karşılaşmamak adına şimdiden önlem alıyor; özellikle yapay zekayla iletişimde hakaret ve kötü söz kullanımının önüne geçmeye çalışıyor."
Hakaret içeren kullanımlara karşı alınacak önlemlere dikkat çeken Demircan, "Bu durumda yapay zeka modelinin tamamen iletişimi kesmesi, belki de küçük cezai yaptırımlarla 1-2 gün çalışmaması gibi özellikler getirmeyi planlıyorlar." ifadelerini kullandı.
"YAPAY ZEKANIN DAHA SAĞLIKLI BİR ŞEKİLDE BÜYÜMESİNİ HEDEFLİYORLAR"
Bu yaptırımlarla birlikte dil modelinin olması gerektiği gibi çalışmaya başlayacağını vurgulayan Demircan, "Böylece ben ondan hangi bilgiyi talep edersem, o da bana istediğim bilgiyi sunacak. Bugün yapay zeka modelleri kişi anlamaya, tanımaya çalışıyor ve cevapları kişinin istediği potansiyel şekillerde veriyor. Hakaret işin içerisine girdiği zaman bu çok daha farklı bir şekilde de geri dönüşe sebep olabilir." dedi.
Kullanıcılardan gelen soruların tamamen filtrelenemediğini sözlerine ekleyen Demircan, "Bu yöntemle hakaretleri bir şekilde filtrelemeyi başardılar. Böylece yapay zekanın daha sağlıklı gelişmesini ve hedeflenen 'büyük yapay zeka' için tertemiz bir veri tabanı kalmasını sağlamayı amaçlıyorlar." değerlendirmesinde bulundu.
