Genç Marvel yıldızı Xochitl Gomez, deepfake pornonun son kurbanı. Ancak, X'te (eski adıyla Twitter) rıza dışı cinsel içerikli deepfake'lerin dolaştığını bulduktan sonra, platform harekete geçip bunları kaldırmayı başaramayınca kafası karışmıştı.
Yapay zekanın yükselişiyle birlikte pek çok sorun da ortaya çıktı, ancak deepfake porno en endişe verici olanlardan biri. Deepfake'ler bir süredir ortalıkta olsa da teknolojideki ilerlemeler onları daha erişilebilir ve inandırıcı hale getirdi. Sonuç olarak pek çok kişi, özellikle de kadınlar, resimlerinin kendi rızaları olmadan alındığını veya yeniden oluşturulduğunu ve pornografik içerikte kullanıldığını tespit etti. Bu, kadın ünlüler için olduğu kadar, kendi benzerlerinin intikam pornosu, taciz ve zorbalık için müstehcen içerikte kullanıldığını deneyimleyen sıradan kadınlar için de büyük bir sorun haline geldi. Deepfake'lerin çocuk istismarını tasvir etmek için kullanılmasına ilişkin de büyük bir endişe var.
Ne yazık ki şu anda rıza dışı deepfake pornoya karşı federal bir yasa yok ve yalnızca birkaç eyalette vatandaşları bundan koruyan yasalar var. Deepfake pornografinin kurbanı olan birçok kadın, düzenleme eksikliği ve internetin kanunsuzluğu nedeniyle kendilerini bununla mücadele etme seçeneğinden yoksun buldu. Çoğunun yasal işlem başlatacak mali kaynakları yok. Scarlett Johansson gibi ünlüler bile deepfake'lerle mücadele etmenin faydasız olduğunu söylüyor.
Kadınların sahip olduğu küçük bir koruma düzeyi, deepfake ve yapay zeka tarafından oluşturulan pornoyu yasaklayan sosyal medya platformlarından geliyor. Bu sitelerin bu tür yasaklar uygulaması halinde bu zararlı içeriğin dolaşımı daha da zorlaşacaktır. Ancak Gomez'in deneyimi sosyal medyanın kendi kurallarını uygulamadığını gösteriyor.
Xochitl Gomez deepfake porno deneyiminden bahsetti
(Axelle/Bauer-Griffin/Getty)
Taylor Lautner ve eşinin podcast'inde yer alırken, Sıkma Xochitl Gomez (a.k.a. America Chavez), deepfake pornografi kurbanı olarak yaşadığı deneyimleri anlattı. 17 yaşındaki genç, müstehcen materyalin eski adıyla Twitter olan X'te dolaştığını bulduğunu ancak onu kaldırmakta oldukça zorlandığını açıkladı. X, yapay zeka tarafından oluşturulan pornoyu 2018'de yasakladı ve cinsel içerikli deepfake resim ve videoların yanı sıra yanıltıcı medya ve rıza dışı çıplaklığa karşı politikalara sahip. Gomez'in görsellerinin X'in kurallarını açıkça ihlal ettiği ve bu içerikte reşit olmayan bir çocuğun yer aldığı göz önüne alındığında platformun hemen harekete geçeceği düşünülebilirdi.
Ancak Gomez, ekibinin içeriğe karşı zaten boşuna harekete geçmeye çalıştığını öğrendiğinde şok oldu. NBC Haberleri rapor edildi 19 Ocak 2024 gibi yakın bir tarihte bile fotoğrafların hâlâ X'te bulunabildiğini ve X'in yorum taleplerine yanıt vermediğini söyledi. Gomez, içeriğin onu şaşırttığını ve kendisi için iyi bir görünüm olmadığı için umutsuzca içeriğin kaldırılmasını istediğini açıkladı. Şunu sordu: Yıkmak neden bu kadar zor? Bu konuyla ilgili tüm düşüncem şuydu: 'Buna neden izin veriliyor?'
Ancak en sonunda içeriğin kaldırılamayacağını kabul ederek bu konuyu düşünmemeye çalıştığını ve sorunla ilgilenmek için telefonunu bir kenara bıraktığını açıkladı. Yine de sorduğu sorular hâlâ geçerliliğini koruyor. Neden Bu içeriğin kaldırılması bu kadar zor mu? Rızası olmayan herhangi bir kişiden deepfake porno yapılması ahlaki açıdan kınanacak ve iğrenç bir durumdur. Reşit olmayan birinin söz konusu olması düpedüz korkunç. X'te gerçek bir çocuk pornografisi dolaşıyor ve tuhaf bir şekilde platform bu konuda hiçbir şey yapmıyor, halbuki bu ilgilenilmesi gereken en acil konu olsa da.
Bir kişinin cinsel içerikli materyali rapor etmesi ve platforma buna rıza göstermediğini bildirmesi pek de karmaşık bir durum gibi görünmüyor. Materyal web sitesindeki birçok kurala aykırıdır. İncelenecek veya belirlenecek başka ne var? Bir bireyin sosyal medyada bu tür içerikleri bulması zaten yeterince travmatik; Bu platformların yapabileceği en azından kaldırılması yönündeki taleplerine uymaktır. X ve diğer sosyal medya platformları kullanıcılarını korumayı ısrarla ve kafa karıştırıcı bir şekilde reddettiği için hiçbir birey, özellikle de reşit olmayan biri, içeriğin orada olduğunu kabul etmek zorunda kalmamalı.
(öne çıkan görsel: Axelle/Bauer-Griffin/FilmMagic / Getty)
