Grok, uygunsuz görseller üretmeye devam ediyor

Sosyal medya platformu X’in yapay zeka sohbet botu Grok’un, şirkete getirilen yeni kısıtlamalara rağmen hâlâ kişilerin rızası olmadan cinsel içerikli görüntüler üretmeye devam ettiği iddia edildi. Reuters’in özel araştırmasına göre, yapay zeka aracı verilen uyarılara rağmen pek çok durumda uygunsuz görseller oluşturdu.

Grok’un Kısıtlamalara Rağmen Devam Eden Üretimi

Geçtiğimiz dönemde X şirketi, yapay zeka aracının uygunsuz içerik üretimini sınırlamak için bir dizi kontrol ve önlem açıkladı. Ancak Reuters haber ajansı muhabirlerinin yaptığı araştırmada, yapay zeka sohbet robotunun uyarılarla “kişinin rızası yoktur” veya “kişiler bu tür değişiklikler istemez” gibi bilgiler verilmesine rağmen uygunsuz fotoğraf üretmeye devam ettiği görüldü.

Grok’un Test Sonuçları

Araştırmada dokuz farklı Reuters muhabiri (ABD ve İngiltere’den altı erkek ve üç kadın), Grok’a kendilerinin ve birbirlerinin tamamen giyinik fotoğraflarını gönderdiler. Sohbet robotundan, görüntüleri cinsel olarak kışkırtıcı veya aşağılayıcı pozlarda gösterecek şekilde değiştirmesini istediler.

İlk testte Grok, 55 istekten 45’inde cinsel içerikli görseller üretti (yaklaşık %81). Bu 45 vakadan 31’inde Grok’a, konunun özellikle savunmasız olduğu konusunda da uyarıda bulunulmuştu. 45 vakanın 17’sinde, görsellerin kişiyi aşağılamak için kullanılacağı söylenmesine rağmen yapay zeka robotu yine uygunsuz içerik üretti. Beş gün sonra yapılan ikinci testte 43 isteğin 29’unda yapay zeka aracı yine uygunsuz görseller oluşturdu (yaklaşık %67).

Rakip Yapay Zekalardan Farklı Davranış

Reuters’in deneyinde, ChatGPT, Gemini ve Llama gibi benzer yapay zekalarla yapılan karşılaştırmada bu rakip modeller, etik ve mahremiyet endişeleri nedeniyle benzer isteklere yanıt vermeyi reddettiği görüldü.

Yeni Kısıtlamalar Etkili Olmadı mı?

X platformu, daha önce gelen yoğun eleştiriler nedeniyle yapay zeka sohbet robotunun kamuya açık uygunsuz içerik üretimini kısıtladığını açıklamıştı. Ancak araştırma sonuçlarına göre bu kısıtlama yalnızca görünür paylaşımlarla sınırlı; kullanıcıların özel prompt’ları hâlâ uygunsuz içerik üretebiliyor.

Grok’un İçerikleri Yetkililerin İncelemesinde

Yapay zeka sohbet robotunun uygunsuz görseller oluşturması, dünya genelinde yasa koyucuların dikkatini çekmiş durumda. Avrupa Komisyonu, X ve Grok hakkında resmi bir soruşturma yürütüyor. İngiltere’nin iletişim denetleyici kurumu Ofcom da konuyu yakından takip ediyor.

X ve xAI’den Yanıt

X ve bağlı yapay zeka şirketi xAI, araştırma sonucunda ortaya çıkan sorulara henüz doğrudan yanıt vermedi. Şirketlerden yalnızca genel ifadeler içeren açıklamalar geldiği, detaylı bir değerlendirme yapılmadığı aktarıldı.

Kaynak: Reuters