The Guardian analizi: Telegram’da milyonlarca kişi yapay zekâyla çıplak görseller üretip paylaşıyor!

Dünyanın dört bir yanından milyonlarca kişinin Telegram uygulamasında yapay zekâ kullanarak deepfake çıplak görseller üreterek paylaştığı tespit edildi.

The Guardian’ın yaptığı analizde, Britanya’dan Brezilya’ya, Çin’den Nijerya’ya, Rusya’dan Hindistan’a kadar pek çok ülkeden kullanıcıların yer aldığı en az 150 Telegram kanalı tespit edildi. Telegram üzerinden gerçekleştirilen şifreli grup sohbetlerinden bazıları, ücret karşılığında “çıplaklaştırılmış” fotoğraf ve videolar sunuyor. Kullanıcılar herhangi bir kadının fotoğrafını yüklüyor, yapay zekâ ise o kadını cinsel eylemler gerçekleştiriyormuş gibi gösteren bir video üretiyor. Bu gruplarda yer alan Telegram kullanıcıları ayrıca bu kanalları, piyasadaki deepfake araçlarına dair ipuçları paylaşmak için de kullanıyor.

Telegram, kullanıcıların sınırsız sayıda kişiye içerik yayınlayabildiği grup ve kanallar oluşturmasına imkân tanıyan şifreli bir mesajlaşma uygulaması olarak biliniyor. Platformun kullanım şartlarına göre, “herkese açık” kanallar ve botlar üzerinden “yasadışı pornografik içerik” paylaşılması ya da “dünyadaki ülkelerin çoğunda yasa dışı kabul edilen faaliyetlerde bulunulması” yasak. Bağımsız analiz ve veri tabanı hizmeti Telemetr.io’nun, bu tür kanalları da içeren verilerinin incelenmesi, Telegram’ın bazı çıplaklaştırma kanallarını kapattığını gösteriyor.

Telegram, Guardian’a yaptığı açıklamada deepfake pornografi ve bunu üretmeye yarayan araçların kullanım şartlarına göre açıkça yasak olduğunu söyledi. Platform, bu tür içeriklerin “tespit edildikçe düzenli olarak kaldırıldığını” belirtti. Şirket, özel yapay zekâ araçlarıyla donatılmış moderatörlerin platformun herkese açık bölümlerini proaktif biçimde izlediğini ve kullanım şartlarını ihlal eden içerikleri kaldırmak için kullanıcı bildirimlerini değerlendirdiğini de ekledi.

Telegram, 2025 yılı içinde toplam 952 binden fazla sakıncalı içeriğin platformdan kaldırıldığını açıkladı.