Sahte görüntü ve ses (deepfake) nasıl fark edilir?

Yapay zekâ ile üretilen fotoğraflar, videolar ve ses kayıtları artık eskisinden çok daha ikna edici. Bir kişinin hiç söylemediği bir cümleyi söylüyor gibi gösterilmesi, hiç yaşanmamış bir olayın fotoğrafının üretilmesi ya da bir yakınınızın sesiyle sizden para istenmesi mümkün. Bu yazıda hem gözle fark edilebilecek ipuçlarını hem de bu ipuçlarının sınırlarını anlatıyoruz.

Görsellerde dikkat edilecek işaretler

Eller, dişler ve takılar: Parmak sayısı, kulak ya da diş şekli gibi ayrıntılarda tutarsızlıklar görülebilir.
Işık ve gölge: Gölgelerin yönü ya da gözdeki yansımalar sahneyle uyuşmayabilir.
Arka plan: Yazılar, tabelalar ve kalıp desenler bozuk ya da anlamsız olabilir.
Çok pürüzsüz yüz: Cilt dokusu fazla düzgün, saç telleri fazla homojen görünebilir.

Videoda ve seste neye bakılır?

Videoda dudak hareketi ile ses arasında küçük kaymalar, yüz kenarlarında titreme, göz kırpma ve bakış yönünde tuhaflıklar fark edilebilir. Seste ise nefes alışının olmaması, tonlama ve vurgunun düz kalması, arka plan gürültüsünün bir anda kesilmesi gibi işaretler görülebilir. Ancak teknoloji hızla gelişiyor ve bu işaretlerin birçoğu çok iyi üretilmiş örneklerde görülmüyor.

Neden görsel ipuçları yetmez?

“El parmaklarına bak” türünden ipuçları eski modeller için işe yaradı; yeni üretimler bu hataların çoğunu çözdü. Yani “hata bulamadım” demek, görselin gerçek olduğunu göstermez. Bunun yanında gerçek ama düşük kaliteli videolar da sahte gibi görünebilir. Bu nedenle “gözle tespit” yöntemini yalnızca ek bir ipucu olarak düşünmek gerekir.

Asıl daha güvenilir olan: bağlam kontrolü

Kaynak kim? Görseli ilk paylaşan hesap ya da yayın kuruluşu bilinen, güvenilir biri mi?
Başka kim paylaştı? Güvenilir haber kaynakları aynı görseli ya da olayı doğruladı mı?
Ters görsel arama: Görselin daha önce başka bir bağlamda paylaşılıp paylaşılmadığını görsel arama araçlarıyla kontrol edin.
Kişi ya da kurum resmi olarak açıklama yaptı mı? İlgili kişinin ya da kurumun resmi kanallarına bakın.
Duygusal tepki ne kadar yüksek? Öfke ya da korku uyandıran, “hemen paylaş” diyen içerikler ek dikkat gerektirir.

Ses klonlama ve telefon dolandırıcılığı

Kısa bir ses kaydından bir kişinin sesine benzeyen sentetik ses üretilebildiği bilinmektedir. Dolayısıyla “annem arayıp acil para istiyor” gibi bir durumda sesin tanıdık gelmesi tek başına yeterli kanıt değildir. Aileyle önceden belirlenmiş bir kod kelime kullanmak, aramayı kapatıp kişiyi kendi numarasından geri aramak ve para taleplerinde ikinci bir kanaldan doğrulama yapmak etkili önlemlerdir. Acele ettiren her talep, durup doğrulamak için bir sinyaldir.

İçerik kimliği ve filigran

Bazı üretim araçları ve kameralar, görselin nasıl üretildiğini gösteren meta veri ya da görünmez filigran ekler. Bu çalışmalar umut verici, ama henüz yaygın değil ve her içerikte bulunmaz; ayrıca bu bilgiler görsel üzerinde yapılan işlemlerle silinebilir. Yani işaret görünmemesi görselin gerçek olduğu anlamına gelmez, işaret görünmesi ise yararlı bir bilgidir.

Paylaşmadan önce

Emin değilseniz paylaşmayın. Sahte olabilecek bir içeriği “sahte mi?” diye sorarak paylaşmak bile yayılmasına katkı sağlayabilir. Bunun yerine bir kontrol listesi kullanmak daha etkilidir; bu tür iddialara karşı genel bir yaklaşım için teknoloji vaadini test etme kontrol listesine bakabilirsiniz. Yapay zekânın neden ikna edici ama hatalı çıktılar üretebildiğini anlamak için de halüsinasyon yazımız yararlı olabilir.

Sık sorulan sorular

Deepfake tespit eden araçlara güvenebilir miyim? Bu araçlar yardımcı olabilir ama kesin sonuç vermez; yanlış pozitif ve yanlış negatif sonuçlar üretebilirler. Sonucu bağlam kontrolüyle desteklemek gerekir.

Sahte içerik üretmek suç mu? Hukuki durum ülkeden ülkeye ve içeriğin amacına göre değişir. Dolandırıcılık, hakaret ya da kişisel verilerin hukuka aykırı kullanımı gibi durumlarda sorumluluk doğabilir; ayrıntı için bir hukuk uzmanına danışmak gerekir.

Mizah amaçlı sentetik içerik sorun mu? Her sentetik içerik zararlı değildir; ama paylaşılan ortamda sentetik olduğu açıkça belirtilmeli, yanıltıcı olmamalıdır.