Grok, Elon Musk'un çocuğunun annesinin müstehcen görüntülerini üretti

CBS News haberine göre Musk'ın çocuklarından birinin annesi St. Clair, Grok'un yapay zeka aracının kendisine ait cinsel içerikli görüntüler ürettiği iddiasıyla New York Eyaleti Yüksek Mahkemesinde, xAI şirketine dava açtı.

St. Clair dava dilekçesinde, Grok sisteminin "ihmalkar davrandığını" ve kullanıcılarının "kendisine ait cinsel içerikli 'deepfake fotoğrafları' oluşturmasına" olanak tanıdığını ve şikayetlere rağmen "davranışları yeterince sınırlamadığını" savundu.

Dilekçede "xAI'nin ürünü Grok, üretken bir yapay zeka sohbet robotu olup, kurbanlarını soyup, aşağılayıp ve cinsel olarak istismar etmek için yapay zekayı kullanıyor." ifadesi kullanıldı.

St. Clair'in avukatı Carrie Goldberg, yaptığı açıklamada, xAI'nin "makul ölçüde güvenli bir ürün" olmadığını belirterek, "xAI kamunun baş belası." dedi.

Goldberg, "Ashley dava açtı çünkü Grok, onun rızası olmayan, taciz edici ve aşağılayıcı resimlerini oluşturup dağıtarak ve bunları X'te yayınlayarak onu taciz ediyordu." ifadesini kullandı.

Elon Musk'tan ayrı yaşayan, yazar ve siyasi yorumcu olarak tanınan 27 yaşındaki St. Clair, Musk'ın 2024'te doğan bir oğlunun annesi olarak biliniyor.

Grok'a tepkiler sürüyor

X'teki kullanıcıların, Grok'tan ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görseller üretmesini istediği "sosyal medya akımına" İngiltere ile diğer ülkelerden tepkiler geldi.

X'in sahibi ABD'li milyarder Elon Musk, 3 Ocak'ta "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir." açıklamasını yapsa da tepkiler sürüyor.

Avrupa Birliği (AB) Komisyonu, 5 Ocak'ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıklamıştı.

Malezya, 3 Ocak'ta X'in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğunun bulunduğunu vurgulamış, 11 Ocak'ta da Grok'a erişimi, yeterli güvenlik önlemlerinin alınmadığı gerekçesiyle geçici olarak kısıtlamıştı.

Hindistan da 2 Ocak'ta X'e konu hakkında "kapsamlı inceleme yapma" talimatını vermişti. Endonezya ise 10 Ocak'ta üretilen uygunsuz görüntüler nedeniyle Grok'u geçici engellemişti.

Japonya hükümeti, Grok'un ürettiği müstehcen içeriklere karşı önlem alınması çağrısında bulunmuştu.