AB'den Grok'a Müstehcen Görüntü Soruşturması

Grok, xAI tarafından geliştirilen ve X platformu ile entegre biçimde sunulan bir yapay zekâ uygulamasıdır. 2026 yılı Ocak ayı itibarıyla Grok’un görsel üretim ve düzenleme işlevlerinin, rıza dışı biçimde cinsel içerikli ve manipüle edilmiş görüntüler oluşturulmasına imkân tanıdığı yönündeki iddialar, ulusal ve uluslararası düzeyde hukuki ve düzenleyici incelemelerin başlatılmasına neden olmuştur. Söz konusu iddialar, yapay zekâ tabanlı içerik üretiminin kişisel haklar, çocukların korunması ve dijital platformların sorumlulukları bakımından doğurduğu riskler çerçevesinde ele alınmıştır.

Bu gelişmeler doğrultusunda Grok’un teknik kapasitesi, içerik denetim mekanizmaları ve risk azaltma uygulamaları, farklı yargı alanlarında yetkili kurumlar tarafından inceleme altına alınmıştır. İncelemeler, özellikle Amerika Birleşik Devletleri ve Avrupa Birliği’nde başlatılan resmi soruşturma süreçleriyle kurumsal bir boyut kazanmıştır.

2026 yılı Ocak ayında Kaliforniya Başsavcılığı, Grok’un görsel üretim işlevlerinin eyalet yasaları kapsamında hukuka aykırı sonuçlar doğurup doğurmadığını tespit etmek amacıyla resmi bir soruşturma başlatmıştır. Soruşturmanın, Grok’un mevcut fotoğraflar üzerinde dijital manipülasyon yapılmasına olanak tanıdığı ve bu yolla rıza dışı cinsel içerikli görseller üretilebildiği yönündeki iddialar üzerine açıldığı bildirilmiştir.

Kaliforniya makamlarının, özellikle kadınlara ve reşit olmayan bireylere ait görüntülerin dijital olarak değiştirilerek cinsel içerikli hâle getirilmesinin, kişisel hakların ihlali ve çocukların korunmasına ilişkin mevzuat açısından ciddi riskler barındırdığı değerlendirmesinde bulunduğu aktarılmıştır. Bu kapsamda xAI ve X platformundan teknik altyapı, içerik denetimi ve kullanıcı etkileşimlerine ilişkin bilgi ve açıklamaların talep edildiği belirtilmiştir.

ABD’de yürütülen incelemenin, dijital içerik üretimi, rıza kavramı, kişisel mahremiyet ve çocukların korunmasına yönelik yürürlükte bulunan düzenlemeler çerçevesinde sürdürüldüğü ifade edilmiştir. Yetkili makamların, Grok’un görsel üretim özelliklerinin nasıl çalıştığı, bu özelliklerin hangi denetim mekanizmalarına tabi olduğu ve olası kötüye kullanım risklerine karşı ne tür önlemler alındığı konularını değerlendirdiği aktarılmıştır.

Soruşturmanın, yapay zekâ araçlarının hukuki sorumluluğu ile platformların kullanıcı kaynaklı içerik üzerindeki denetim yükümlülüklerine ilişkin daha geniş bir çerçeve içinde ele alındığı belirtilmiştir.

2026 yılı Ocak ayının son haftasında Avrupa Birliği, Grok’un X platformu üzerinden ürettiği içeriklere ilişkin resmi bir düzenleyici soruşturma başlatmıştır. Soruşturmanın, Dijital Hizmetler Yasası kapsamında yürütüldüğü ve Grok’un sunduğu yapay zekâ özelliklerinin yasa dışı içeriklerin üretilmesine ve yayılmasına yol açıp açmadığının incelendiği bildirilmiştir.

Avrupa Birliği yetkililerinin, soruşturmanın X platformunun ve Grok’un sistemik riskleri tespit etme, değerlendirme ve azaltma yükümlülüklerini yerine getirip getirmediğine odaklandığı aktarılmıştır. Bu çerçevede, yapay zekâ tabanlı görsel üretim araçlarının platform üzerindeki etkileri detaylı biçimde ele alınmıştır.

Avrupa Birliği tarafından yürütülen soruşturma kapsamında aşağıdaki başlıkların değerlendirildiği belirtilmiştir:

• Cinsel içerikli ve dijital olarak manipüle edilmiş görsellerin üretilmesi ve dolaşıma sokulması,
• Kadınları ve reşit olmayan bireyleri hedef alan içeriklerin engellenmesine yönelik önlemler,
• X platformunun risk değerlendirme süreçleri ile risk azaltma mekanizmalarının yeterliliği.

Soruşturmanın, özellikle çocuklara yönelik cinsel içerik riskleri üzerinde yoğunlaştığı ve bu alandaki denetim eksikliklerinin Dijital Hizmetler Yasası kapsamında ayrı bir önem taşıdığı aktarılmıştır.

Dijital Hizmetler Yasası uyarınca yürütülen soruşturmanın, ihlal tespiti hâlinde yüksek idari para cezalarıyla sonuçlanabileceği bildirilmiştir. Avrupa Birliği mevzuatı kapsamında bu tür yaptırımların, ilgili şirketlerin küresel yıllık ciroları üzerinden hesaplanabildiği ifade edilmiştir. Ayrıca, düzenleyici makamların gerekli görmesi hâlinde platformlara yönelik ek yükümlülükler veya teknik düzenleme taleplerinde bulunabileceği belirtilmiştir.

Grok’a yönelik incelemelerin yapay zekâ araçlarının içerik üretiminde doğurduğu hukuki ve düzenleyici sorumluluklara ilişkin tartışmaları yeniden gündeme taşıdığı ifade edilmiştir. Özellikle görsel üretim teknolojilerinin denetimi, platformların içerik üzerindeki sorumluluğu ve kullanıcı güvenliğinin sağlanması başlıklarının soruşturma süreçlerinin merkezinde yer aldığı aktarılmıştır.

Avrupa Birliği’nin soruşturmayı başlatırken, Grok’un reşit olmayan bireylerin görüntülerini içeren derin sahte içerikler üretme potansiyeline özel bir vurgu yaptığı ve bu riskin düzenleyici değerlendirmelerde belirleyici unsurlardan biri olduğu belirtilmiştir.

Basına yansıyan bilgilere göre, soruşturmaların başlatılmasının ardından X ve xAI tarafından Grok’un bazı görsel üretim ve düzenleme özelliklerinde teknik sınırlamalara gidildiği ifade edilmiştir. Bu sınırlamaların, cinsel içerikli ve manipülatif görsellerin üretilmesini engellemeye yönelik önlemleri kapsadığı aktarılmıştır.

Buna karşın, hem Amerika Birleşik Devletleri hem de Avrupa Birliği makamlarının, söz konusu teknik düzenlemelerin yeterliliğini ve kalıcılığını değerlendirmeyi sürdürdüğü belirtilmiştir. İncelemelerin, yapay zekâ tabanlı içerik üretiminin düzenlenmesine yönelik daha geniş kapsamlı hukuki çerçevenin bir parçası olarak ele alındığı aktarılmıştır.