Yapay zeka ile üretilen sahte pornografik içerikler (AI porn) ve deepfake teknolojisi, özellikle çocukların korunması söz konusu olduğunda Türkiye'de ciddi endişelere yol açıyor. Bu içerikler, gerçek kişilerin görüntülerinin izinsiz kullanılarak müstehcen materyallere dönüştürülmesiyle oluşturuluyor ve hem yasal hem de etik açıdan büyük bir sorun teşkil ediyor. Türkiye'de bu tür içeriklerin üretimi, yayılması ve tüketilmesi mevcut yasalar çerçevesinde suç kabul ediliyor ve çocukları korumaya yönelik özel düzenlemeler de bulunuyor.
Bu rehberde, Türkiye'deki mevcut yasal durumu, teknoloji platformlarının bu konudaki politikalarını ve en önemlisi, ailelerin çocuklarını bu yeni tehditten nasıl koruyabileceğini basit ve anlaşılır bir dille ele alacağız. Konu hassas ve teknik detayları kafa karıştırıcı olabilir, ancak temel bilgileri ve pratik adımları öğrendiğinde çocukların için daha güvenli bir dijital ortam yaratabilirsin. Bu, sadece yasaklarla değil, bilinçli bir teknoloji kullanımıyla mümkün.
Deepfake ve AI Porn Tehlikesi Nedir?
Deepfake, en basit tanımıyla, yapay zeka ve makine öğrenmesi kullanılarak bir kişinin yüzünü veya sesini bir başkasınınkiyle değiştiren video veya ses kayıtları oluşturma teknolojisidir. Başlangıçta film endüstrisi gibi alanlarda kullanılsa da, kısa sürede kötü niyetli kişilerin elinde bir silaha dönüştü. "AI porn" veya "deepfake porn" ise bu teknolojinin, kişilerin (çoğunlukla kadınların ve maalesef çocukların) yüzlerinin pornografik içeriklere montajlanmasıyla oluşturulan sahte materyalleri ifade ediyor. Bu durum, mağdurlar için itibar zedelenmesi, siber zorbalık ve ciddi psikolojik travmalara yol açıyor.Çocuklar bu tehdide karşı özellikle savunmasız. Sosyal medyada paylaştıkları en masum fotoğraflar veya videolar bile, kötü niyetli kişiler tarafından kolayca alınıp bu tür yasa dışı içeriklerin üretiminde kullanılabilir. Tehlikenin boyutu sadece pornografi ile sınırlı değil. Bir çocuğun yüzü, zorbalık amacıyla onu utandıracak bir videoya eklenebilir veya ailesinden para sızdırmak için sahte bir kaçırılma videosu oluşturulabilir. Türkiye'de ve dünyada bu tür vakaların sayısı artarken, yasal otoriteler ve teknoloji şirketleri de önlem almak için harekete geçmiş durumda. Bilgi Teknolojileri ve İletişim Kurumu (BTK) gibi kurumlar, bu tür içeriklerin internetten kaldırılması için çalışmalar yürütüyor ve yasal süreçleri işletiyor. Ancak teknolojinin hızı, yasaların ve denetim mekanizmalarının önüne geçebildiği için en büyük görev yine ebeveynlere ve bilinçli kullanıcılara düşüyor.
Türkiye'deki Yasal Durum ve Cezalar
Türkiye'de doğrudan "deepfake" veya "AI porn" adıyla düzenlenmiş spesifik bir yasa henüz bulunmasa da, bu tür eylemler mevcut Türk Ceza Kanunu (TCK) kapsamında birden fazla suçu oluşturuyor. Yani bu işin bir yasal boşlukta olduğunu düşünmek büyük bir yanılgı olur. Özellikle çocukları hedef alan bu tür içerikler, çok daha ağır cezai yaptırımlarla karşılaşıyor.Konuyu birkaç başlıkta inceleyebiliriz:
-
Müstehcenlik Suçları (TCK Madde 226): Çocukların kullanıldığı müstehcen ürünlerin üretilmesi, satılması, depolanması veya yayılması ciddi bir suçtur. Bir çocuğun görüntüsü kullanılarak deepfake ile oluşturulan pornografik bir içerik, bu madde kapsamında değerlendirilir. Bu suçu işleyenler için hapis cezaları öngörülmektedir. İçeriğin internet üzerinden yayılması, cezanın artırılmasına neden olur.
-
Özel Hayatın Gizliliğini İhlal (TCK Madde 134): Bir kişinin fotoğrafını veya videosunu izinsiz alıp deepfake içeriğinde kullanmak, doğrudan özel hayatın gizliliğini ihlal suçunu oluşturur. Bu görüntülerin bir de ifşa edilmesi, yani internette yayınlanması, cezanın daha da ağırlaşmasına sebep olur.
-
Kişisel Verilerin Hukuka Aykırı Olarak Ele Geçirilmesi ve Yayılması (TCK Madde 136): Bir kişinin yüzü, biyometrik bir veri olarak kabul edilir. Bu veriyi izinsiz olarak alıp işlemek ve yaymak da bu madde kapsamında suçtur.
-
Şantaj (TCK Madde 107): Eğer üretilen deepfake içerik, mağdura karşı bir menfaat sağlamak veya onu bir şeyi yapmaya veya yapmamaya zorlamak amacıyla kullanılırsa, bu durum şantaj suçunu oluşturur ve cezası ağırdır.
BTK, bu tür yasa dışı içeriklere erişimin engellenmesi konusunda yetkili kurumdur. İnternet Bilgi İhbar Merkezi üzerinden yapılan şikayetler hızla değerlendirilir ve mahkeme kararıyla bu tür içeriklerin bulunduğu web sitelerine Türkiye'den erişim engellenebilir. Türkiye Barolar Birliği gibi kurumlar da bu konuda hukuki farkındalığı artırmak için çalışmalar yapmaktadır. Özetle, Türkiye'de bir çocuğun görüntüsünü kullanarak deepfake müstehcen içerik üretmek, yaymak veya bulundurmak, birden fazla kanun maddesini ihlal eden ve ciddi hapis cezaları gerektiren bir suçtur.
Türkiye'den Platform Politikaları ve Aile Sorumlulukları
Bu tür zararlı içeriklerle mücadelede yasal düzenlemeler kadar, içeriğin barındırıldığı sosyal medya platformlarının politikaları ve ailelerin alacağı önlemler de hayati önem taşıyor. Neyse ki, büyük platformların çoğu bu konuda katı kurallara sahip.Meta (Instagram, Facebook), Google (YouTube) ve TikTok gibi platformlar, topluluk kurallarında yapay zeka ile üretilmiş olsa bile, rıza dışı oluşturulan müstehcen içerikleri ve özellikle çocuk istismarını içeren her türlü materyali kesin bir dille yasaklar. Bu tür içerikleri tespit etmek için hem yapay zeka sistemleri hem de insan moderatörler kullanırlar. Bir kullanıcı böyle bir içerikle karşılaştığında, platformun kendi "şikayet et" veya "raporla" mekanizmalarını kullanarak durumu bildirmesi en etkili yoldur. Şikayetler genellikle hızla incelenir ve içerik kaldırılır, ilgili hesaplar ise kapatılır. Bu platformlara Türkiye'den erişimde bir sorun bulunmuyor ve şikayet mekanizmaları tamamen Türkçe çalışıyor.
Ancak sadece platformlara güvenmek yeterli değil. Ailelere düşen sorumluluklar çok daha büyük:
- Konuşmak ve Bilinçlendirmek: Çocuğunla internetteki riskler hakkında açıkça konuş. Deepfake ve sahte içeriklerin ne olduğunu, neden tehlikeli olduğunu onun anlayacağı bir dille anlat. Paylaştığı fotoğrafların veya videoların kötü niyetli kişilerce kullanılabileceğini bilmesi önemli. Bu konuyu daha detaylı dijital ebeveynlik rehberimizde ele aldık.
- Gizlilik Ayarları: Çocuğunun sosyal medya hesaplarının gizlilik ayarlarını birlikte gözden geçirin. Hesaplarının "gizli" modda olması, paylaşımlarını sadece onayladığı kişilerin görmesini sağlar. Bu, fotoğraflarının yabancılar tarafından kolayca alınmasını engeller.
- Paylaşım Alışkanlıkları: Nerede, ne zaman ve kiminle fotoğraf paylaştığı konusunda bilinçli olmasını sağla. Özellikle okul forması, ev adresi gibi kişisel bilgiler içeren fotoğrafların paylaşılmaması gerektiğini öğret.
- Güvenli Ortam Yaratmak: Çocuğunun, internette karşılaştığı rahatsız edici bir durumu sana çekinmeden anlatabileceği bir güven ortamı oluştur. Onu suçlamak yerine dinle ve çözüm bulmasına yardım et.
- İhbar Mekanizmalarını Kullanmak: Şüpheli bir içerik gördüğünüzde sadece platforma değil, aynı zamanda BTK İnternet Bilgi İhbar Merkezi veya Emniyet Genel Müdürlüğü Siber Suçlarla Mücadele Daire Başkanlığı'na da bildirin.
Bu adımlar, yasaların ve platformların çabalarını tamamlayarak çocukların dijital dünyada daha güvende kalmasına yardımcı olacaktır.
Fiyat ve Ücretsiz Seçenekler
Deepfake ve AI porn içeriklerinin üretimi, yayılması ve tüketilmesi yasa dışı olduğu için bu "hizmetleri" sunan meşru bir pazardan bahsetmek mümkün değil. Bu tür içerikler genellikle yasa dışı forumlarda, Telegram gruplarında veya karanlık ağda (dark web) dolaşıma sokulur. Dolayısıyla "fiyatlandırma" veya "ücretsiz seçenekler" gibi kavramlar, bu suç ağları içindeki yasa dışı alışverişleri ifade eder.Bu tür içerikleri üreten veya talep eden kişiler, genellikle kripto paralar gibi takip edilmesi zor yöntemlerle ödeme yapar. Fiyatlar, istenen içeriğin karmaşıklığına ve kullanılan materyale göre değişebilir. Ancak burada asıl maliyet, hukuki sonuçları ve vicdani yüküdür. Bu tür bir eyleme karışmanın bedeli, para cezasından çok daha ağır olan hapis cezası ve bir çocuğun hayatında bırakılacak kalıcı hasarlardır.
Korunma tarafında ise durum farklı. Ailelerin çocuklarını korumak için kullanabileceği meşru ve yasal araçlar mevcut. Bunların birçoğu ücretsiz veya makul fiyatlıdır:
- Ebeveyn Kontrolü Yazılımları: Çocuğunun internet aktivitelerini izlemene, belirli siteleri engellemene ve ekran süresini kısıtlamana olanak tanıyan yazılımlardır. Google Family Link veya Apple Ekran Süresi gibi işletim sistemlerine entegre ücretsiz çözümler başlangıç için yeterlidir. Daha gelişmiş özellikler sunan Qustodio veya Norton Family gibi ücretli servisler de aylık yaklaşık 10-15 USD (bugünkü kurla yaklaşık 400-600 TL) civarında abonelikler sunar.
- Antivirüs ve Güvenlik Yazılımları: İyi bir güvenlik yazılımı, zararlı sitelere ve oltalama (phishing) saldırılarına karşı koruma sağlar. Bu tür yazılımlar genellikle yıllık abonelik modeliyle çalışır.
Unutulmaması gereken en önemli nokta, yasa dışı içeriklere erişmeye çalışmanın veya bu tür içerikleri talep etmenin dahi suç teşkil edebileceğidir. Güvenlik ve koruma amaçlı yasal yazılımlar dışında bu alana yönelik herhangi bir harcama yapmak, ciddi hukuki riskler taşır.
Ne Zaman Endişelenmeli / Endişelenmemeli
Bu konuda ne zaman paniğe kapılmak, ne zaman sakin kalıp doğru adımları atmak gerektiğini bilmek önemli. İşte durumu değerlendirmene yardımcı olacak bazı ipuçları.Ne zaman endişelenmeli ve hemen harekete geçmeli:
- Çocuğuna ait bir fotoğraf veya videonun, onun izni olmadan tanımadığın bir sitede veya sosyal medya profilinde paylaşıldığını fark edersen.
- Çocuğunun, internette gördüğü bir şey yüzünden içine kapandığını, üzgün veya endişeli olduğunu gözlemlersen.
- Birisi, çocuğunun bir görüntüsünü kullanarak oluşturduğu sahte bir içerikle ona veya sana şantaj yaparsa.
- Çocuğunun adına açılmış sahte sosyal medya hesapları tespit edersen.
- Doğrudan çocuğunu hedef alan, aşağılayıcı veya müstehcen bir deepfake içeriğe rastlarsan.
Ne zaman daha sakin kalıp durumu gözlemlemeli:
- Çocuğun sadece deepfake teknolojisi hakkında genel bir merak duyuyor ve ne olduğunu anlamaya çalışıyorsa. Bu, bir öğrenme ve bilinçlendirme fırsatıdır.
- Popüler bir ünlünün komik veya zararsız bir deepfake videosunu izleyip eğleniyorsa. Bu, teknolojinin iyi ve kötü yanlarını konuşmak için bir başlangıç noktası olabilir.
- Arkadaşları arasında zararsız, şaka amaçlı ve kimseyi küçük düşürmeyen basit yüz değiştirme uygulamaları (örneğin Snapchat filtreleri) kullanıyorsa.
Temel kural şudur: Eğer bir içerik rıza dışı oluşturulmuşsa, birini küçük düşürüyor, aşağılıyor, tehdit ediyor veya müstehcen bir bağlamda kullanıyorsa, bu ciddi bir sorundur. Amaç sadece eğlence ve kimseye zarar vermiyorsa, bu durumu panik yapmak yerine dijital okuryazarlık eğitimi için bir fırsat olarak kullanabilirsin.
Alternatifler ve İlgili Teknolojiler
Deepfake teknolojisi sadece yasa dışı amaçlarla kullanılmıyor. Bu teknolojinin temelindeki yapay zeka modelleri, birçok meşru ve faydalı alanda da karşımıza çıkıyor. Konuyu daha iyi anlamak için bu teknolojilerin diğer kullanım alanlarını bilmek faydalı olabilir. Örneğin, [Midjourney](/arac/midjourney) gibi yapay zeka görsel üretim araçları, metin açıklamalarından tamamen özgün ve sanatsal görseller yaratmak için kullanılır. Bu araçlar, bir kişinin yüzünü alıp başka bir yere koymak yerine, sıfırdan yeni görseller tasarlar.Benzer şekilde, video düzenleme ve özel efekt alanında da yapay zeka büyük değişiklikler getiriyor. Örneğin, Adobe'nin yapay zeka araçları, videolardaki istenmeyen nesneleri silmek veya renk düzenlemelerini otomatikleştirmek gibi işlevler sunar. Bu, deepfake'in aksine, yaratıcılığı destekleyen ve kötüye kullanıma daha kapalı bir teknoloji kullanımıdır. Bir başka popüler araç olan HeyGen ise kullanıcıların kendi avatarlarını oluşturarak veya metinden video üreterek sunumlar ve eğitim materyalleri hazırlamasına olanak tanır. Bu araçlar, bir kişinin kimliğini çalmak yerine, iletişim kurmanın yeni ve verimli yollarını sunar. Bu meşru araçlar ile deepfake arasındaki temel fark "rıza" ve "amaç"tır. Meşru araçlar yaratıcılık ve verimlilik için kullanılırken, zararlı deepfake içerikleri aldatma, taciz ve istismar amacı taşır.
Sıkça Sorulanlar
**1. Çocuğumun fotoğrafını internette paylaştım, deepfake kurbanı olur mu?** Her paylaşım bir risk taşısa da bu, kesinlikle kurban olacağı anlamına gelmez. Önemli olan, fotoğrafı kimlerin görebileceğini kontrol etmektir. Sosyal medya hesaplarını "gizli" tutmak ve sadece tanıdığın kişilerin görmesini sağlamak riski büyük ölçüde azaltır.2. Deepfake ile gerçek bir videoyu nasıl ayırt edebilirim? Gelişmiş deepfake'leri ayırt etmek zor olabilir. Ancak dikkatli bakıldığında göz kırpma hareketlerinde anormallikler, ten renginde dalgalanmalar, videodaki kişinin kenarlarında bulanıklık veya konuşma ile dudak senkronizasyonunda uyumsuzluklar gibi ipuçları fark edilebilir.
3. Bir deepfake içeriğiyle karşılaşırsam ne yapmalıyım? İçeriği kesinlikle paylaşma veya yayma. Hemen içeriğin bulunduğu platformun (Instagram, YouTube, TikTok vb.) şikayet mekanizmasını kullanarak raporla. Eğer içerik bir çocuğu hedef alıyorsa veya suç teşkil ediyorsa, durumu BTK İnternet Bilgi İhbar Merkezi'ne ve polise bildirmelisin.
4. Türkiye'de deepfake üretmek tamamen yasak mı? Teknolojinin kendisi yasak değil. Örneğin, sinema sektöründe veya sanatsal amaçlarla rıza dahilinde kullanılması suç teşkil etmez. Ancak bir kişinin görüntüsünü izinsiz olarak alıp onu aldatıcı, aşağılayıcı veya müstehcen bir içerikte kullanmak Türk Ceza Kanunu'na göre suçtur.
5. Çocuğumu bu konuda nasıl korkutmadan bilinçlendirebilirim? Yasaklayıcı ve korkutucu bir dil kullanmak yerine, konuyu bir "dijital güvenlik" ve "mahremiyet" meselesi olarak ele al. Tıpkı gerçek hayatta tanımadığı kişilerle konuşmaması gerektiği gibi, internette de kişisel fotoğraflarını herkesle paylaşmaması gerektiğini basit ve somut örneklerle anlatabilirsin.