Cinayet kurbanı çocukların TikTok’ta ölüm anlarını anlattığı sahte videolar aileri dehşete düşürüyor

Cinayet kurbanı çocukların TikTok’ta vefat anlarını anlattığı geçersiz görüntüler aileri dehşete düşürüyor

05.09.2023 15:30

A⁺

A^-

TikTok’ta gerçek hayattaki cinayet kurbanı çocukların yapay zekayla canlandırıldığı görüntüler son periyotta epeyce yaygınlaştı. BBC’nin yaptığı araştırmaya göre, TikTok’un yasağına karşın aynı içerikler platformda hala paylaşılıyor. TikTok yetkilileri, bu görüntülerin tamamını tespit etmelerinin mümkün olmadığını savunuyor.

Çocukların yakınlarının müsaadesi olmadan üretilen görüntülerde çocuklar ve hatta bazen bebekler nasıl öldürüldüklerini anlatıyor.

TikTok, çocukların yapay zeka ile oluşturulmuş görüntülerinin platformunda paylaşılmasını Mart ayında yasaklama kararı almıştı. Lakin çocuk cinayeti görüntüleri Nisan ayından bu yana TikTok’ta yayılmaya devam ediyor.

BBC’nin araştırması, yasakla ilgili olarak birtakım TikTok çalışanlarının bile başlarının karışık olduğunu ortaya çıkardı.

BBC’ye konuşan TikTok’un içerik moderatörlerinden biri, yasağın devreye girmesinden bu yana kendisine kural değişikliğiyle ilgili bilgi verilmediğini söyledi.

Yapay zeka ile üretilen bu görüntülerin kimileri aylarca platformda dolaştı, kimileri milyonlarca kere izlendi.

“Duygusal bir saldırı”

Britanya Parlamentosu Lordlar Kamarası’nın Bağımsız Üyesi Barones Beeban Kidron, görüntülerin yakınlarını konuşuyormuş benzeri gösterdiği için bilhassa yaslı aileler için rahatsız edici olabileceğini söyledi.

“Eğer o çocuğun yakınıysanız, bilhassa de ebeveyn ya da aileden biriyseniz, o zaman bu bir ataktır, duygusal bir saldırıdır” dedi.

“En berbatından bile daha kötü bir yumruk yemişydim”

Çocukların yakınları bu görüntülerin ortaya çıkmasından kısa süre sonra şikayetlerini dile getirmeye başladı. Kanadalı Amélie Lemieux, telaşlarını dile getiren ilk bayanlardan.

Lemieux’nün eşi, Temmuz 2020’de 6 ve 11 yaşındaki kızları Romy ve Norah’ı öldürüp intihar etmişti.

Nisan ayında TikTok’ta Norah’nın öldürüldükleri anı anlattığı bir görüntüyü gördüğünde dehşete düştü:

“Hayal edebileceğiniz en berbat yumruktan bile daha kötü bir yumruk yemiş üzereydim.

“Ne ben ne de erkek kardeşim görüntüyü sonan kadar izleyebilir. Durması için bağırıyordu.”

Lemieux bilhassa genç yeğenlerinin TikTok’ta bu görüntüyle müsabakasından telaş ediyordu.

Çok sayıda kişi TikTok’a görüntüyle ilgili şikayette bulundu. Lakin video platformda dolaşmaya devam etti.

Nihayetinde Lemieux’nün durumu gazetecilerin ilgisini çekti, görüntüyü paylaşan anonim hesap silindi.

Lemieux görüntüyü kimin yaptığını bulamadı fakat onu asla affedemeyeceğini söyledi:

“Birinin bu kadar rahatsız edici, bizi geri kalan günlerimizde eksik hissettirecek bir şeyi kullanması inanılmaz derecede şok edici. Tek istedikleri izlenme, beğeni, paylaşım. Ve aşağıya yorum bırakan insanlar. Ferdî olarak bunu affedemem.”

Yeni teknolojiler ve süratle takipçi kazanma isteği

Yapay zeka yazılımlarının gitgide daha erişilebilir hale gelmesi, bu görüntülerin üretilmesine fırsat tanıyor.

Yazılımlar sayesinde çarçabuk bir insan figürü oluşturup ona belli bir metni söyletebiliyorsunuz.

Kurban görsellerinin kimileri gerçek hayattakilere benzemiyor lakin kimiler gerçek hayattaki insanları baz alıyor.

Vieoları yapanlar anonim olsa da BBC, yapımcılardan birinin Londra’da yaşayan Ritul isimli bir erkek öğrenci olduğunu tespit etti.

Ritul, YouTube’da “hikaye anlatımlı” görüntülerin TikTok’ta takipçi kazanmak için süratli bir yol olduğunu söylüyor:

“Sadece yapay zeka kullandığımız kıssa anlatımlı görüntülerle binlerce ve binlerce takipçi kazandım. 3 haftadan az sürede 47 bin takipçi kazandım.”

Ritul yorum talebimizi reddetti ve TikTok tarafından hesabı silindi.

TikTok benzeri görüntülerin süratle tüketildiği bir platformda görüntülerin saniyeler içinde dikkat çekmesi gerekiyor. Bu nedenle Ritul içerik üreticiler en uç ya da en çok dikkat çeken hadiselerle ilgili görüntüler hazırlamaya odaklanıyor.

Bazı çocukların öyküleri Portekizce, İspanyolca, Fransızca, Almanca, İtalyanca ve Lehçe dahil birçok lisanda yayımlanan görüntülere husus oldu.

BBC, 2 ay boyunca 1993’te İngiltere’nin Merseyside bölgesinde kendisinden büyük iki çocuk tarafından öldürülen 2 yaşındaki İngiliz James Bulger’ın yapay zeka versiyonlarını içeren 170 farklı TikTok görüntüsünü keşfetti.

TikTok ne karşılık verdi?

Temmuz ayında James’in annesi Denise Fergus’un bir gazeteye verdiği demeçte oğlunu mevzu alan görüntüleri “hastalıklı olmanında ötesinde” diye nitelendirmesiyle TikTok trendi İngiltere’de manşetlere taşındı.

TikTok, görüntüleri toplu olarak kaldırdıktan sonra yaptığı açıklamada, “Platformumuzda buna benzeyenrahatsız edici içeriklere yer yok. Bunaiçerikleri tespit ettikçe kaldırmaya devam ediyoruz” tabirlerini kullandı.

James’in kaldırılan görüntüleri arasında Vietnamca lisanındaki iki video da vardı. Bunlardan biri 4 milyon defa izlenmişti.

BBC, isminin zımnî kalması şartıyla röportaj yapmayı kabul eden Vietnam’daki bir TikTok içerik moderatörüyle konuştu.

Videoların kaldırılmasından 2 hafta sonra bile şirketin kendisine buna benzeyeniçeriklerin yasaklandığını resmi olarak söylemediğini belirtti.

BBC’ye konuşan moderatöre göre, görüntülerin paylaşılmasına TikTok’un sömürü ve istismardan kurtulanların öykülerini paylaşmalarına izin veren kuralları kapsamında izin verilmiş olabilir.

Peki TikTok’un çalışanları şirketin siyasetinin gerçekte ne olduğu konusunda baş karışıklığı yaşıyor mu? Yorum istediğimiz TikTok yetkilileri, bu soruya özel bir karşılık vermedi.

Ancak TikTok, moderatörün bu görüntülerin hayatta kalanların tecrübeleri olarak platformda yayınlanmasına izin verilebileceği önermesinin yanlışlı olduğunu açıkça belirtti. Zira bunlar, gerçek hayatta kalanların tecrübelerinden fazla, ölen çocukların bilgisayar tarafından oluşturulmuş manzaralarıydı.

Bu cins görüntüler TikTok’ta hala çarçabuk bulunabiliyor. Fakat TikTok, platformunda yayımlanan her şeyi yakalayamayacağı konusunda hayli açık olduğunu söylüyor.