Meta’nın yapay zekâ tarafından oluşturulan görselleri belirlemek amacıyla geliştirdiği yeni tespit aracının, basit düzenlemeler karşısında güvenilirliğini kaybedebildiği ortaya çıktı.
Reuters tarafından gerçekleştirilen testte, Meta’nın Muse Image modeliyle üretilen 40 görselin tamamı orijinal haliyle sisteme yüklendiğinde doğru biçimde tanındı. Ancak aynı görseller üçte bir ile yarı arasında kırpıldığında aracın bunların yüzde 55’ini yapay zekâ ürünü olarak belirleyemediği görüldü.
Meta’nın bu hafta kullanıma sunduğu araç, Muse Image tarafından oluşturulan görsellere eklenen ve Content Seal adı verilen görünmez filigranı kontrol ediyor. Şirket, bu işaretin görsel kırpıldığında, yeniden boyutlandırıldığında, sıkıştırıldığında veya ekran görüntüsü alındığında da korunacak şekilde tasarlandığını açıklamıştı.
Orijinal görsellerin tamamını buldu
Reuters’ın testinde Muse Image modeli kullanılarak insanlar, hayvanlar, manzaralar ve çeşitli nesneler içeren 40 farklı görsel oluşturuldu.
Görseller herhangi bir değişiklik yapılmadan Meta’nın tespit aracına yüklendiğinde sistem tamamını yapay zekâ üretimi olarak belirledi.
Ancak görsellerin kenarları kırpılarak boyutları küçültüldüğünde sonuç değişti. Araç, düzenlenen 40 görselin 22’sinde görünmez filigranı bulamadı.
Böylece sistemin, yalnızca basit bir kırpma işlemi uygulanmış görsellerin yarısından fazlasını tanıyamadığı ortaya çıktı.
Meta: Araç henüz ön izleme aşamasında
Meta, tespit aracının henüz ön izleme aşamasında olduğunu ve zaman içinde geliştirilmeye devam edileceğini belirtti.
Şirket, Content Seal işaretinin farklı görsel düzenlemelerine karşı dayanıklı biçimde geliştirildiğini ancak görüntü üzerinde yapılan güçlü değişikliklerin filigran sinyalini zayıflatabileceğini bildirdi.
Meta’nın resmi açıklamasına göre Muse Image ile Meta AI uygulaması ve şirketin internet sitesi üzerinden oluşturulan görsellere görünmez bir kaynak işareti ekleniyor. Kullanıcılar da şirketin tespit aracı aracılığıyla bir görselde bu işaretin bulunup bulunmadığını kontrol edebiliyor.
Kırpma işlemi sistemi neden etkiliyor?
Görünmez filigran yöntemlerinde, yapay zekâ modelinin oluşturduğu görsele insan gözüyle fark edilmesi zor olan dijital bir işaret yerleştiriliyor.
Görsel kırpıldığında, sıkıştırıldığında veya yeniden boyutlandırıldığında bu işaretin bir kısmı kaybolabiliyor ya da sinyalin gücü azalabiliyor. Bu durum, tespit aracının görselin kaynağını doğrulamasını zorlaştırıyor.
Uzmanlar, filigran sistemlerinin yapay zekâ içeriklerinin belirlenmesinde yararlı olduğunu ancak tek başına kesin bir çözüm sunmadığını belirtiyor. Görsellerin sosyal medya platformlarına yüklenmesi sırasında uygulanan sıkıştırma işlemleri de tespit sistemlerinin performansını etkileyebiliyor.
Yanlış bilgiyle mücadeleyi zorlaştırabilir
Yapay zekâ modellerinin giderek daha gerçekçi görseller üretebilmesi, sosyal medya platformlarında sahte ve yanıltıcı içeriklerin belirlenmesini daha önemli hale getiriyor.
Meta’nın tespit aracında ortaya çıkan sonuç, yapay zekâ görsellerinin yalnızca küçük değişikliklerle kontrol sistemlerinden kaçabileceği endişesini gündeme taşıdı.
Özellikle seçimler, savaşlar, doğal afetler ve kamuoyunda yoğun ilgi gören olaylar sırasında yayılan sahte görseller, yanlış bilgiyle mücadeleyi güçleştirebiliyor.
Bu nedenle teknoloji şirketleri; görünmez filigran, içerik bilgisi ve yapay zekâ tabanlı görüntü analizini birlikte kullanan daha kapsamlı doğrulama sistemleri geliştirmeye çalışıyor.
Sektörün ortak sorunu
Yapay zekâ tarafından oluşturulan görselleri belirlemedeki güçlük yalnızca Meta’ya özgü değil.
2026 yılında yayımlanan araştırmalar, farklı üretken yapay zekâ modelleriyle hazırlanan görselleri her koşulda güvenilir biçimde tanıyabilen tek bir tespit aracının bulunmadığını gösteriyor.
Görsellerin kırpılması, yeniden boyutlandırılması, bulanıklaştırılması veya sıkıştırılması, tespit araçlarının doğruluk oranlarını önemli ölçüde düşürebiliyor.
Meta’nın testi de yapay içeriklerin kaynağını belirlemek için yalnızca görünmez filigrana güvenmenin yeterli olmayabileceğini ortaya koyuyor.
