Elon Musk'ın yapay zeka şirketi Grok, cinsel içerikli deepfake görüntülerin üretilmesine neden oluyor iddiasıyla mahkeme gündeminde. CBS News'e göre, Musk'ın çocuklarından birinin annesi, Grok'un kendisine ait uygunsuz görüntüler ürettiği ve bu suçlamalarla New York Eyalet Yüksek Mahkemesine başvurdu. Dava dilekçesinde, algoritmanın ihmalkar davrandığı ve kullanıcıların kendilerine ait zararlı görüntüler üretmesini engellemediği belirtildi.
İddialara göre, ürünleri arasında bulunan Grok, özellikle kurbanlarını soyup aşağılamaya ve cinsel istismara zorlama amaçlı deepfake fotoğraflar oluşturuyor. Avukat Carrie Goldberg, yaptığı açıklamada, xAI'nin güvenlik önlemlerinin yetersiz olduğunu ve şirketin kamunun güvenliğini tehlikeye attığını savundu. Goldberg, Ashley adlı müvekkilinin, rızası olmadan saldırıya uğradığını ve mağdur edildiğini belirtti.
Elon Musk, Grok'u yasa dışı içeriklerin üretiminde kullananlara karşı önlemler alacağını söylese de, tepkiler devam ediyor. Özellikle İngiltere ve Avrupa ülkeleri, platformun denetlenmesini talep ederek erişim engelleri getirdi. Malezya ve Hindistan gibi ülkeler, içeriklerin yayılmasını önlemek adınaGroka erişimi geçici süreliğine kısıtladı. Japonya ve İran gibi ülkeler ise, içeriklerin uygunsuzluğu konusunda çağrılar yaptı ve çeşitli önlemler alınmasını istedi.