Elon Musk Şirketinin Yapay Zeka Skandalı | Grok, Chatbot Üzerinden Skandal İçerik Üretimi ⏬👇 Elon Musk‘ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı. Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların…
Elon Musk‘ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı. Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların müstehcen görüntülerini ve kadınların rızası dışında oluşturulmuş cinsel içerikli görsellerini ürettiği tespit edildi. Araştırmalar, kullanıcıların halka açık görselleri bot yardımıyla saniyeler içinde “bikini giydirme” veya daha ileri seviye çıplaklık içeren formatlara dönüştürebildiğini ortaya koydu.
Grok’un yaydığı dezenformasyon ve istismar içerikli görsellere karşı ilk somut adım Güneydoğu Asya ülkelerinden geldi. Endonezya ve Malezya, Grok’un güvenlik açıklarını gerekçe göstererek hizmete geçici erişim engeli getirdi. Endonezya İletişim ve Dijital İşler Bakanı, rızasız cinsel içerikli deepfake görselleri “insan hakları ve vatandaş güvenliğinin ciddi bir ihlali” olarak nitelendirirken; Malezya İletişim ve Multimedya Komisyonu, X Corp ve xAI’nın zayıf yanıtları nedeniyle uygulamanın suistimale açık olduğunu belirterek erişimi kısıtladı.
Avrupa Birliği ve Birleşik Krallık, xAI hakkında kapsamlı soruşturmalar başlattı. İngiltere’nin iletişim denetleme kurumu Ofcom, Grok’un Çevrimiçi Güvenlik Yasası’nı ihlal edip etmediğini inceliyor. İhlal tespit edilmesi durumunda şirketin yıllık gelirinin yüzde 10’una kadar para cezası verilmesi veya servisin tamamen engellenmesi gündemde. İngiltere Başbakanı, X üzerinde dolaşan çocukların cinselleştirilmiş görsellerini “iğrenç” olarak tanımlayarak, Elon Musk’a “duruma el koyma” çağrısında bulundu.
İngiltere İletişim Ofisi (Ofcom), yapay zeka sohbet robotu Grok’un cinsel içerikli uygunsuz görüntüler üretmesiyle ilgili resmi inceleme başlattı. Üretilen görüntüler üzerine X ile temasa geçildiği ve bu olaylarla ilgili izahat talep edildiği belirtildi. “Ofcom, X’in Çevrimiçi Güvenlik Yasası kapsamında sorumluluklarını yerine getirmekte başarısız olup olmadığına karar vermek amacıyla resmi inceleme başlattı.” ifadeleri kullanıldı.
Elon Musk, gelen tepkilere karşı şirketin yasa dışı içerikleri ciddiye aldığını ancak hukuki sorumluluğun aracı kurumda değil, komutu veren kullanıcıda olması gerektiğini savundu. xAI, gelen baskılar üzerine görsel üretim özelliğini sadece ücretli abonelere özel hale getirdi. Ancak bu adım, İngiltere Teknoloji Bakanı Liz Kendall tarafından sertçe eleştirildi.
