Deepfake teknolojisi, dünyadaki herhangi bir kişiyi, hiç katılmadıkları bir videoya veya fotoğrafa kusursuz bir şekilde bir araya getirebilir. Bu tür yetenekler onlarca yıldır var olmuştur. Merhum aktör Paul Walker, Hızlı ve Öfkeli 7’de bu şekilde diriltildi. Ancak bu efektleri yaratmak için geçen süre bir yıldı. Şimdi, deepfake teknolojileri, yeni otomatik bilgisayar grafikleri veya makine öğrenme sistemleri sayesinde görüntüleri ve videoları çok daha hızlı bir şekilde sentezleyebilir.
Bununla birlikte, “DeepFake” terimi etrafında çok fazla kafa karışıklığı var ve bilgisayar vizyonu ve grafik araştırmacıları kelimeye olan nefretlerinde birleştiler. Yapay zeka tarafından oluşturulan son teknoloji videolardan potansiyel olarak sahte görünen herhangi bir görüntüye kadar her şeyi açıklamak çok önemli hale geldi.
DeepFake olarak adlandırılan şeylerin çoğu basitçe gerçekleşmez. Örneğin, eski başkan adayı Micheal Bloomberg’in kampanyası tarafından yayınlanan ABD Demokratik birincil tartışmasının tartışmalı bir “Cırcır Böcekleri” videosu standart video düzenleme becerileri ile yapılmıştır. Burada Deepfake’ler hiçbir rol oynamamıştır.
DeepFake Sadece Videolarla Mı İlgili?
Hayır. Deepface teknolojisi, sıfırdan ikna edici ama tamamen kurgusal fotoğraflar oluşturabilir. LinkedIn ve Twitter’da profili var olmayan bir Bloomberg gazetecisi “Maisy Kinsley” muhtemelen derin bir aldatmacaydı. Başka bir LinkedIn sahteciliği olan “Katie Jones”, Stratejik ve Uluslararası Çalışmalar Merkezi’nde çalıştığını iddia etti, ancak yabancı bir casusluk operasyonu için yaratılmış derin bir aldatmaca olduğu düşünülüyor.
Tanınmış kişilerin “ses görünümleri” veya “ses klonları” oluşturmak için ses de derin sahte olabilir. Geçen Mart ayında, bir Alman enerji firmasının İngiltere’deki bir yan kuruluşunun şefi, Alman CEO’nun sesini taklit eden bir dolandırıcı tarafından arandıktan sonra bir Macar banka hesabına yaklaşık 200.000 £ ödedi. Şirketin sigortacıları sesin derin bir sahte olduğuna inanıyor, ancak kanıtlar net değil. Benzer dolandırıcılıkların kayıtlı WhatsApp sesli mesajlarını kullandığı bildiriliyor.
DeepFake Nasıl Yapılırlar?
Üniversite araştırmacıları ve özel efekt stüdyoları, uzun süredir video ve görüntü manipülasyonuyla mümkün olanın sınırlarını zorluyor. Ancak deepfake’ler 2017’de aynı adı taşıyan bir Reddit kullanıcısının sitede üzerinde oynanmış uygunsuz klipler yayınlamasıyla doğdu. Videolar ünlülerin yüzlerini, Gal Gadot, Taylor Swift, Scarlett Johansson ve diğerleri alakası olmayan uygunsuz sanatçılara çevirdi.
Yüz değiştirme videosu yapmak birkaç adım sürer. İlk olarak, kodlayıcı adı verilen bir AI algoritması aracılığıyla iki kişinin binlerce yüz görüntüsünü çalıştırırsınız. Kodlayıcı, iki yüz arasındaki benzerlikleri bulur ve öğrenir ve bunları, süreçteki görüntüleri sıkıştırarak ortak özelliklerine indirger. Daha sonra, sıkıştırılmış görüntülerden yüzleri kurtarmak için kod çözücü adı verilen ikinci bir AI algoritması öğretilir. Yüzler farklı olduğundan, birinci kişinin yüzünü kurtarmak için bir kod çözücüyü ve ikinci kişinin yüzünü kurtarmak için başka bir kod çözücüyü eğitirsiniz. Yüz takasını gerçekleştirmek için, kodlanmış görüntüleri “yanlış” kod çözücüye beslemeniz yeterlidir. Örneğin, A kişisinin yüzünün sıkıştırılmış bir görüntüsü, B kişisi üzerinde eğitilmiş kod çözücüye beslenir. Ardından kod çözücü, A yüzünün ifadeleri ve yönelimi ile B kişisinin yüzünü yeniden oluşturur. İkna edici bir video için, bunun her videoda yapılması gerekir.
Deepfake oluşturmanın başka bir yolu, üretken bir düşmanlık ağı veya Gan olarak adlandırılan şeyi kullanır. Bir Gan, iki yapay zeka algoritmasını karşı karşıya getiriyor. Jeneratör olarak bilinen ilk algoritma, rastgele gürültü ile beslenir ve onu bir görüntüye dönüştürür. Bu sentetik görüntü daha sonra, ayrımcı olarak bilinen ikinci algoritmaya beslenen, örneğin ünlülerin gerçek görüntüleri akışa eklenir. İlk başta, sentetik görüntüler yüzlere hiç benzemeyecek. Ancak, performansla ilgili geri bildirimle süreci sayısız kez tekrarlayın ve ayrımcı ve oluşturucunun her ikisi de iyileşir. Yeterli döngü ve geri bildirim verildiğinde, jeneratör tamamen var olmayan ünlülerin tamamen gerçekçi yüzlerini üretmeye başlayacaktır.
DeepFake’leri Kim Yapıyor?
Akademik ve endüstriyel araştırmacılardan amatör meraklılara, görsel efekt stüdyolarından uygunsuz videolar yapan yapımcılarına kadar herkes. Hükümetler, örneğin aşırılık yanlısı grupları itibarsızlaştırmak ve bozmak veya hedeflenen kişilerle temas kurmak için çevrimiçi stratejilerinin bir parçası olarak bu teknolojiyle de uğraşıyor olabilir.
Hangi Teknolojiye İhtiyacınız Var?
Standart bir bilgisayarda iyi bir deepfake yapmak zordur. Çoğu, güçlü grafik kartlarına sahip üst düzey masaüstü bilgisayarlarda veya daha iyisi buluttaki bilgi işlem gücüyle oluşturulur. Bu işlem süresini günler ve haftalardan saatlere indirir. Ancak titremeyi ve diğer görsel kusurları azaltmak için tamamlanmış videolara rötuş yapmak da uzmanlık gerektirir. Bununla birlikte, insanların derin sahtekarlık yapmasına yardımcı olacak birçok araç artık mevcut. Birkaç şirket bunları sizin için yapacak ve tüm işlemleri bulutta yapacak bir teknoloji geliştirdi. Kullanıcıların, sistemin eğittiği TV ve film karakterlerinden oluşan bir listeye yüzlerini eklemelerini sağlayan bir cep telefonu uygulaması olan Zao bile var.
DeepFake Nasıl Anlaşılır?
Teknoloji geliştikçe bu durum zorlaşıyor. 2018’de ABD’li araştırmacılar, derin sahte yüzlerin normal şekilde yanıp sönmediğini keşfetti. Bu şaşırtıcı değil. Görüntülerin çoğu insanları gözleri açık gösteriyor, bu nedenle algoritmalar gerçekten göz kırpmayı asla öğrenmiyor. İlk başta, algılama sorunu için gümüş bir kurşun gibi görünüyordu. Ancak araştırma yayınlanır yayınlanmaz, derin sahtekarlıklar yanıp sönerek ortaya çıktı. Oyunun doğası böyle. Bir zayıflık ortaya çıkar çıkmaz düzeltilir.
Düşük kaliteli derin sahteleri tespit etmek daha kolaydır. Dudak senkronizasyonu kötü olabilir veya cilt tonu düzensiz olabilir. Aktarılan yüzlerin kenarlarında titreme olabilir. Ve saç gibi ince detayların, özellikle saçakta ipliklerin göründüğü yerlerde, derin sahteler için iyi sonuç vermesi özellikle zordur. Kötü işlenmiş mücevherler ve dişler, tutarsız aydınlatma ve iris üzerindeki yansımalar gibi garip ışık efektleri gibi bir hediye olabilir.
Hükümetler, üniversiteler ve teknoloji firmaları, derin sahtekarlıkları tespit etmek için araştırmaları finanse ediyor. Geçen ay, Microsoft, Facebook ve Amazon tarafından desteklenen ilk Deepfake Detection Challenge başladı. Deepfake algılama oyununda üstünlük için yarışan dünya çapındaki araştırma ekiplerini içerecek.
Facebook geçen hafta, 2020 ABD seçimleri öncesinde, izleyicileri birisinin “aslında söylemediği sözleri söylediğini” düşünmeye yönlendirmesi muhtemel derin sahte videoları yasakladı. Bununla birlikte, politika yalnızca AI kullanılarak üretilen yanlış bilgileri de kapsar.
Çözüm Nedir?
İronik olarak, AI cevap olabilir. Yapay zeka zaten sahte videoları tespit etmeye yardımcı oluyor, ancak mevcut birçok tespit sisteminin ciddi bir zayıflığı var. En çok ünlüler için çalışıyorlar çünkü saatlerce ücretsiz olarak erişilebilen çekimler üzerinde eğitim alabiliyorlar. Teknoloji firmaları artık, ortaya çıktıklarında sahteleri işaretlemeyi amaçlayan tespit sistemleri üzerinde çalışıyor. Bir diğer strateji ise medyanın kaynağına odaklanıyor. Dijital filigranlar kusursuz değildir, ancak bir blok zinciri çevrimiçi defter sistemi, videoların, resimlerin ve seslerin kurcalanmaya karşı korumalı bir kaydını tutabilir, böylece kökenleri ve herhangi bir manipülasyon her zaman kontrol edilebilir.
DeepFake’ler Her Zaman Kötü Niyetli Midir?
Hiç de bile. Birçoğu eğlencelidir ve bazıları faydalıdır. Ses klonlama derin sahtekarlıkları, insanların seslerini hastalıktan kaybettiklerinde eski haline getirebilir. Deepfake videolar galerileri ve müzeleri canlandırabilir. Florida’daki Dalí müzesi, sanatını tanıtan ve ziyaretçilerle selfie çeken sürrealist ressamın derin bir sahtekarlığına sahiptir. Eğlence endüstrisi için, yabancı dilde filmlerin dublajını geliştirmek ve daha tartışmalı bir şekilde ölü oyuncuları diriltmek için teknoloji kullanılabilir. Örneğin, merhum James Dean, bir Vietnam savaş filmi olan Finding Jack’te rol alacak.
Sizleri derin öğrenme makalemize bekliyoruz: https://www.ozztech.net/siber-guvenlik/derin-ogrenme-nedir/
