YouTube, Yapay Zeka Deepfake Tespiti Kapsamını Siyasiler ve Gazetecileri İçerecek Şekilde Genişletiyor

YouTube, yapay zeka (AI) ile üretilmiş deepfake’leri tespit eden benzerlik algılama teknolojisini, hükümet yetkilileri, siyasi adaylar ve gazetecilerden oluşan bir pilot gruba açtığını duyurdu. Pilot gruptaki üyeler, yetkisiz AI içeriğini tespit edebilen ve YouTube politikalarını ihlal ettiğine inandıklarında kaldırılmasını talep edebilecekleri bir araca erişim sağlayacak.

Bu teknolojinin kendisi, daha önceki testlerin ardından geçen yıl yaklaşık 4 milyon YouTube İş Ortağı Programı üyesi yaratıcıya sunulmuştu.

Telif hakkıyla korunan materyalleri kullanıcıların yüklediği videolarda tespit eden mevcut Content ID sistemine benzer şekilde, bu benzerlik tespit özelliği de AI araçlarıyla oluşturulan simüle edilmiş yüzleri arıyor. Bu araçlar bazen dezenformasyon yaymak ve insanların gerçeklik algısını manipüle etmek amacıyla kullanılıyor; zira politikacılar veya diğer hükümet yetkilileri gibi tanınmış kişilerin deepfake’lenmiş görüntüleri, bu kişiler gerçek hayatta yapmadıkları şeyleri söyleyip yapıyormuş gibi gösterilmek isteniyor.

YouTube, yeni pilot program ile kullanıcıların ifade özgürlüğü ile tanınmış bir kişinin ikna edici bir benzerini üretebilen AI teknolojisinin riskleri arasındaki dengeyi kurmayı amaçlıyor.

YouTube Hükümet İşleri ve Kamu Politikası Başkan Yardımcısı Leslie Miller, Salı günkü lansman öncesinde düzenlediği basın toplantısında, “Bu genişleme, kamusal söylemin bütünlüğü ile ilgili. AI ile kimlik kopyalamanın risklerinin özellikle sivil alandaki kişiler için yüksek olduğunu biliyoruz. Ancak bu yeni kalkanı sağlarken, onu nasıl kullandığımız konusunda da dikkatliyiz,” ifadelerini kullandı.

Miller, talep edildiğinde tespit edilen eşleşmelerin hepsinin kaldırılmayacağını açıkladı. Bunun yerine YouTube, her talebi mevcut gizlilik politikası yönergeleri altında değerlendirerek içeriğin parodi veya siyasi eleştiri olup olmadığına bakacak; zira bunlar korunan ifade özgürlüğü biçimleridir.

Şirket ayrıca, Washington D.C.'deki, bir bireyin sesinin ve görsel benzerliğinin yetkisiz bir şekilde yeniden yaratılmasında AI kullanımını düzenleyecek olan NO FAKES Yasası'nı destekleyerek federal düzeyde de bu korumaları savunduğunu belirtti.

Yeni aracı kullanabilmek için uygun pilot katılımcıların öncelikle bir selfie ve resmi kimlik yükleyerek kimliklerini kanıtlamaları gerekiyor. Ardından bir profil oluşturabilir, çıkan eşleşmeleri görüntüleyebilir ve isteğe bağlı olarak kaldırılmalarını talep edebilirler. YouTube, zamanla kişilere ihlal eden içeriğin yayına girmeden önce yüklenmesini engelleme veya muhtemelen bu videoların para kazanmasına izin verme olanağı sunmayı planladığını söylüyor; bu da Content ID sisteminin işleyişine benzer bir durum.

Şirket, ilk test kullanıcıları arasında hangi politikacıların veya yetkililerin yer alacağını doğrulamadı ancak amaçlarının teknolojiyi zamanla geniş kitlelere ulaştırmak olduğunu belirtti.

Bu AI videoları bu şekilde etiketlenecek, ancak etiketlerin konumu tutarlı değil. Bazılarında etiket videonun açıklamasında görünürken, daha “hassas konulara” odaklanan videolarda etiket videonun ön yüzüne uygulanacak. Bu, YouTube'un tüm AI tarafından üretilen içeriklere uyguladığı yaklaşımla aynı.

YouTube Yaratıcı Ürünleri Başkan Yardımcısı Amjad Hanif, etiket yerleşimiyle ilgili olarak, “AI ile üretilen çok fazla içerik var, ancak bu ayrım içeriğin kendisiyle ilgili değil,” dedi. “AI ile oluşturulmuş bir çizgi film olabilir. Dolayısıyla, çok görünür bir uyarı gerektiren bir kategori olup olmadığı konusunda bir yargı söz konusu,” diye ekledi.

YouTube şu anda bu deepfake tespit teknolojisiyle yaratıcıların elinde kaç tane AI deepfake kaldırma işlemi yapıldığını paylaşmıyor ancak şu ana kadar kaldırılan içerik miktarının “çok az” olduğunu belirtti.

Hanif, “Sanırım birçok [yaratıcı] için sadece neyin yaratıldığına dair bir farkındalık söz konusu, ancak fiili kaldırma talebi hacmi gerçekten çok düşük çünkü bunların çoğu oldukça zararsız veya kendi işlerine katkı sağlayıcı çıkıyor,” şeklinde konuştu.

Ancak bu durum hükümet yetkilileri, politikacılar veya gazetecilerin deepfake’leri için geçerli olmayabilir.

Uzun vadede YouTube, deepfake tespit teknolojisini tanınabilir konuşma sesleri ve popüler karakterler gibi diğer fikri mülkiyet alanları da dahil olmak üzere daha fazla alana taşımayı planlıyor.