Yapay zekânın karanlık yüzü: Tek bir kare bile yetiyor

Günümüzde akıllı telefonu olan herkesin dijital ortamda deepfake içerikleri üretmesi internette yayınlaması artık son derece basit bir hâl aldı. Ancak Wall Street Journal tarafından hazırlanan bir habere göre, "müstehcen deepfake" olarak adlandırılan sahte görüntüler gençler arasında yeni bir zorbalık ve taciz dalgası başlattı.

Yapay zekâ destekli müstehcen içerik üretme araçları hızla çoğalırken, yasal düzenlemelerin yetersiz kalması ebeveynleri ve okulları çaresiz bırakıyor.

HEDEF ARTIK SADECE ÜNLÜLER DEĞİL

2015 yılı civarında ortaya çıkan deepfake teknolojisi, önceleri yüzlerce fotoğraf gerektirdiği için sadece ünlüleri hedef alıyordu. Ancak günümüzde tek bir fotoğraf karesi, yapay zekânın bir kişinin kıyafetlerini sanal olarak çıkarması için yeterli oluyor.

WSJ haberine göre, California Üniversitesi'nden Dijital Adli Bilişim Profesörü Hany Farid bu durumu, "Tehdidin hedefi artık Taylor Swift gibi ünlü isimlerden, internette tek bir görüntüsü olan herkese yöneldi" sözleriyle özetliyor. Farid'e göre bu durum, sosyal medya kullanan her gencin potansiyel bir kurban olduğu anlamına geliyor.

GENÇLER ARASINDA KULLANIM ORANI KORKUTUCU BOYUTTA

Uygulama mağazalarında rahatça erişilebilen bu araçlar, gençler arasında hızla yayılıyor.

George Mason Üniversitesi tarafından yapılan bir ankete göre, gençlerin yarısından fazlası bu araçları kullanarak en az bir görüntü oluşturduklarını itiraf etti. Araştırmayı yürüten Chad M.S. Steel, yapay zekâlı araçları kullanan gençlerin oranının beklediklerinden çok daha yüksek olduğunu ifade ediyor.

Öte yandan The Tech Transparency Project, ocak ayında uygulama mağazalarında 100'den fazla müstehcen içerik üretme uygulaması tespit etti. Bu uygulamaların 700 milyondan fazla indirilerek milyonlarca dolar gelir elde ettiği belirtiliyor.

KURBANLAR İÇİN TELAFİSİ ZOR YIKIMLAR

Deepfake tacizine uğrayan mağdurlar, eğitim ve sosyal hayatlarında derin yaralar alıyor. Kimi öğrenciler okullarını değiştirmek veya uzaktan eğitime geçmek zorunda kalıyor. Üretilen içeriklerin yaşattığı kâbustan yetişkinler bile kaçamıyor.

WSJ haberinde, Indianapolis'te öğrencileri tarafından deepfake görüntüleri oluşturulan öğretmen Angela Tipton, yaşadığı baskılar nedeniyle başka bir şehre taşınıp ismini değiştirmeye hazırlanıyor. Durum bazen çok daha trajik boyutlara ulaşabiliyor.

Deepfake üzerinden yaratılan çıplak görüntülerle şantaja uğrayan gençlerin intihara sürüklendiği vakalar yürek burkacak cinsten.

HUKUKİ BOŞLUKLAR VE PLATFORMLARIN SORUMLULUĞU

Amerika Birleşik Devletleri ve Avrupa Birliği bu uygulamaları kısıtlamak veya tamamen yasaklamak için adımlar atsa da uzmanlar yasaların uygulanmasında ciddi sorunlar yaşandığını belirtiyor.

Avukat Carrie Goldberg, vakaların hâlâ yeterince bildirilmediğini ve soruşturulmadığını vurguluyor. Özellikle X platformuna ait Grok gibi sohbet robotlarının, kısa sürede milyonlarca cinselleştirilmiş görüntü üretebilmesi tartışmaları alevlendirdi.

Grok'a karşı açılan davanın baş avukatı Annika Martin, bu teknolojinin erişilebilirliğini tehlikeli bir silaha benzeterek, "Eskiden sınıf arkadaşının yıllıktaki resmine kalemle çizim yapan çocuğun elinde artık bir bazuka var" uyarısında bulunuyor.

SADECE VAR OLMAK BİLE RİSK OLUŞTURUYOR

Tehlike sadece fotoğraflarla da sınırlı kalmıyor. Sadece 10 saniyelik ses kayıtlarıyla oluşturulan yapay zekâ botları, kişilerin seslerini rızası dışında cinsel fantezi araçlarına dönüştürülebiliyor.

Uzmanlar, çevrimdışı kalmanın veya internetten uzak durmanın bile tam bir koruma sağlamadığına dikkat çekiyor. Komşularının gizlice çekilen fotoğraflarından bile deepfake üreten kişilerin varlığı, durumun vahametini gözler önüne seriyor.

Çocuk güvenliği grubu Heat Initiative'in Yöneticisi Sarah Gardener'ın sözleri ise tablonun ciddiyetini özetliyor: "Dünyada var olmak bile sizi bu suçlar için risk altına sokuyor."

Yapay zeka kontrolden mi çıkıyor?