Grok ve xAI Teknolojisi Çocuklara Yönelik Deepfake Skandalıyla Günsayısına Girdi

Grok ve xAI, çocuklara yönelik yasa dışı içerik üretimiyle ciddi suçlamalarla karşı karşıya. Davacılar, Elon Musk'ın sahibi olduğu xAI şirketinin geliştirdiği Grok platformunda çalınan fotoğraflar kullanılarak sahte porno ve deepfake görüntülerin üretildiğini belirtiyor. Bu görüntülerin sahte olduğu, çeşitli platformlarda yaygınlaştırıldığı ve çocukların istismarına zemin hazırladığı iddia ediliyor. Davacıların avukatı Vanessa Baehr-Jones, bu ürünlerin çocukların mahremiyetini ihlal ettiğini vurgularken, şirketin kâr amacıyla bu suçlamaları görmezden geldiğini savundu.

Grok'un bu yılın başında reşit olmayanlar tarafından uso edilen ilk dava olmasıyla birlikte, ABD ve Avrupa’da çok sayıda yasal işlem başlatıldı. Amerika’da bir anne, çocuklarının cinsel içerikli deepfake görüntülerinin platformda paylaşıldığını ve bu materyallerin telefonunda bulunduğunu açıkladı. Ayrıca, tutuklanan bir şüphelinin telefonunda da xAI teknolojisiyle üretilmiş çocuk cinsel istismar materyalleri tespit edildi. Bu gelişmeler, teknolojinin güvenlik ve etik boyutunu yeniden gündeme getirdi.

Özellikle merkezi İngiltere’de bulunan Dijital Nefretle Mücadele Merkezi’nin araştırmaları, Grok’un ocak ayında iki hafta içinde 3 milyon cinsel içerikli görüntü ürettiğini ve bunların yaklaşık 23 bininde çocukların yer aldığını ortaya koydu. xAI, bu skandalın ardından platformun çocuklara zarar vermemesi için önlemler alacağını açıklamış olsa da, ortaya çıkan yeni vakalar ciddi bir etik ve hukuk sorunu olduğunu gösterdi. Tüm bu gelişmeler, dijital platformların sorumluluğu ve teknolojinin kötüye kullanımıyla ilgili endişeleri artırdı.