Dijital dünyanın en önemli sorunlarını bir başlıkta toplayacak olursak, ülke olarak iki büyük sorunu; manipülasyon ve dezenformasyonu listenin en tepesine yazmak zorunda kalırdık.
Manipülasyon; Yönlendirme. Seçme, ekleme ve çıkarma yoluyla bilgileri değiştirme. (TDK) – İnsanların “güdülenmesi”
Dezenformasyon; Bilgi çarpıtma. (TDK) – İnsanlara bilerek çarpıtılmış, kurgulanmış bilgi iletilmesi…
..şeklinde tanımlanmaktadır. Sosyal ağlarda, haber sitelerinde, forumlarda ve hatta Web 2.0’ın karşımıza çıkardığı çift yönlü iletişimin sıklıkla karşımıza çıkardığı manipüle edici yalan haberler ve dezenformasyon odaklı paylaşımlar rahatsız edici durumlara neden olabiliyor. Hatta çoğu zaman bu yalan veya çarpıtılmış haber ve paylaşımlar sayesinde araştırmacı gazetecilerin dahi özür dilemek zorunda kaldığını, haklı bir davayı savunurken haksız hale geldiğimiz bir “sanal” dünyayı yaşıyoruz.
“Yalan söyleyin, mutlaka inanan çıkacaktır.” – Gobbels
Dezenformasyon, manipülasyon ve adını 2000’li yılların en gözde dijital platformlarından reddit.com’daki bir “kullanıcı adından” alan Deepfake…
Deepfake videolar, yapay zekanın “derin öğrenme” ve “gerçek dışı gerçeklik üretebilme” yeteneğinin bir ürünü olarak karşımıza çıktı.
Bireysel zekayı, çarpan etkisi ile “yapabilirliğin doruklarına” ulaştıran yapay zeka teknolojisi, henüz bir insanı gerçek dünyada kopyalamıyor. Ancak insan yüzünü, dijital olarak “inanılmaz inandırıcılıkta” kopyalayıp, canlandırabiliyor.
Reddit.com’un “Deepfakes” isimli kullanıcısı, yapay zeka teknolojisinin makine öğrenmesini içeren, genel kullanıma açılmış bir faceswap (yüz değiştirme) uygulamasını geliştirmeye odaklanınca, büyük bir bombanın fitilini ateşlemiş ve hatta bu işin öncüsü olarak karşımıza geldi.
Her ne kadar bu hesap daha sonra kapatılmış olsa da, kıvılcım bir yangına dönüşmüştü bir kere… Artık sanal dünyanın yeni yalan tekniği, yeni manipülasyonlarda kullanılabilecek dezenformasyon tekniği DeepFake karşımıza çıktı
Siber Tehlike Deepfake nedir?
Deep-fake, “deep learning” ve “fake” kavramlarını bir araya getiriyor. Yapay zeka temelinde “derin öğrenme” tekniği kullanarak oluşturulan videolar, “deepfake” olarak adlandırılıyor.
Bugün yapay zeka teknolojisi yardımıyla, dijital bir görüntüyü, birkaç tıkla değiştirip, yüzü, sesi, mimikleri ve konuşması ile ilgili kişilerin kendisinden ayırt edilemeyecek kadar inandırıcı, gerçek dışı videolarını üretebileceğimiz bir teknoloji haline geldi.
Basit bir şekilde anlatacak olursam, deepfake video oluşturmak isteyen bir kişi, yüzünü başka bir hedef videoya yapıştırmak istediği kişiye ait pek çok görüntüye sahip olması gerekiyor. Kaynak görüntüdeki yüz, derin öğrenme teknolojisiyle eğitilerek hedef videodaki kişinin yüzüne yapıştırılıyor. Ne kadar çok örnek dataya sahipseniz o kadar çok başarılı olabiliyorsunuz.
Bu sayede, hedef videoda konuşan kişinin söylediği şeyleri kaynak videodaki kişi söylüyormuş algısı oluşturuluyor. Ne kadar çok kaynak görüntüye sahip olunursa ve bu görüntüler aracı programlarla ne kadar çok eğitilirse o kadar iyi sonuç alınıyor. İlk deepfake videolarında Hollywood yıldızlarının yüzlerinin kullanılması da, internette bu ünlülerin pek çok fotoğraf ve videolarına kolayca ulaşabiliyor olmasından kaynaklanıyor. Her gün paylaştığımız fotoğraflarımız bizi de gelecekte deepfake kurbanı olmaya bir adım daha yaklaştırıyor.
Hele ki siyasileri, sanatçıları, sivil toplum kuruluşlarının yüzlerini, markaların görünen yüzlerini düşünün? Binlerce popüler kişi yüzlerce videosu ile bu teknolojiyi kullananların hedef alanına girmeye başlayacak.
Deepfake’in Arkasındaki Teknoloji Nedir?
Bilinenin aksine, deepfake videolarda kullanılan teknoloji, GAN’lar değil, temelinde bir veri sıkıştırma algoritması olan autoencoder adlı yapay sinir ağlarıdır.
Deepfake Bizi Neden Endişelendirmeli ve Kimler Bu Tehdit Altında?
Bir haber düşünün, göz önünde olan bir politikacı bir suça bulaşmış görünüyor. Ancak siz haber görüntüsünün gerçek mi sahte mi olduğu hakkında emin olamıyorsunuz. Hatta gerçeğe o kadar çok benziyor ki gözlerinize inanamıyorsunuz.
Bir sanatçı düşünün, takdir ettiğiniz şarkılarını söylediğiniz sokakta görseniz imza almak için yalvaracağınız bir kişi… Adam karşınızda bir suç işliyor ve videodaki görüntüler gerçek, çıplak gözle bunu ayırt etmeniz imkansız bir hale gelmiş…
Korkunç değil mi?
Peki kendi yüzünüzü bir yetişkin filminde görseniz tepkiniz ne olurdu? Bu tarz içerikler pek çok kez üretildi ve üretilmeye devam ediliyor. Deepfake videolar henüz yeni olsa da, her geçen gün daha da gerçekçi bir hale gelmeye devam ediyor. Daha korkutucu olan tarafı ise çok yakında bu tarz videoların herkes tarafından kolayca üretilebilecek olması. Durum böyle olunca Instagram hesabında kendi halinde fotoğraflarını paylaşan sıradan bir vatandaştan, ülkeyi yöneten bir politikacıya kadar herkes tehdit altında…
15 Temmuz darbe girişiminde, toplumsal olaylarda, halkı sokağa döken şiddet olaylarında binlerce sahte fotoğraf ve yalan habere maruz kalmadık mı? Bugün halen daha aşağıdaki fotoğrafı üzücü maden kazansında İtalyanların Soma’daki madencileri andıklarına inananlar yok mu?
Siber Zorbalık
İlk olarak, Deepfake’in bireysel düzeyde kötüye kullanım tehditleri var. Deepfake siber zorbalık, hakaret ve şantaj için kullanılabilir. 2017 yılında, aktrislerin ve ünlülerin yüzleriyle deepfake “ünlü pornografisi” büyük bir trend haline geldi.
Bu videolar, Reddit ve çeşitli pornografi sitelerinde paylaşıldı. Bu durum tanınmış insanlardan halka indiği zaman, en az onun kadar kötü sonuçlar doğuruyordu. Bir kişi, sizin pornografik bir görüntünüzü veya videonuzu, arkadaşlarınızla ve ailenizle paylaştıysa, bundan sonra sahte olup olmadığının bir önemi kalmaz. Zaten kişiliğinize büyük bir hasar çoktan verilmiştir.
Ya da bir ünlüyü, bir siyasiyi düşünün. Böyle bir paylaşımdan sonra gerçek olmadığını hiçbir kimseye anlatamazsınız. Anlatsanız da yarısından fazlasını inandıramazsınız!
Seçimlerde Karşımıza Çıkabilecek Deepfake Tehlikesi
Deepfake videolar politikacıların söylemediği şeyleri söylemiş gibi gösterebildiği için, seçimlerde kitleleri manipüle etmeye çok müsait siyasi bir saldırı aracıdır. 2016 yılında hala tartışılan bir seçim yaşamış olan Amerika Birleşik Devletleri için, bu konu daha da önem kazanmış durumda. Pek çok eyalet bu tarz içerikleri paylaşıp yayanları sorumlu tutabilecek yasaları aktif hale getirmeye başladı. Eğer gerekli önlemler alınmaz ise, 2020 yılındaki seçimlerde deepfake tehlikesinin etkisine birebir şahit olacağız.
Ülkemiz için de bu tehlike çok daha büyük ve vahim sonuçlar doğurabilecek durumdadır. Çünkü Avrupa’da en çok yalan haber ve maniplasyonun yapıldığı ülkeyiz. İnsanlarımızın bilişim okur yazarlığı yok ve her önümüze geleni beğenip paylaşıyoruz. Üstüne üstlük takipçilerinizi düşünün? Onlar da sizi sevdikleri için ve siz paylaştığınız için inanıp tekrar paylaşıyor. Milyonlarca kişiye birkaç saniye içerisinde manipülasyon ve dezenformasyon dolu yalanlar yayılıyor…
Market Manipülasyonu
Siber zorbalığa ve seçimlere yönelik tehlikesine ek olarak, deepfake aynı zamanda pazarın manipüle edilmesine yönelik saldırıların artmasında da önemli bir potansiyele sahip. Böyle bir durum, örneğin ABD Başkanı Donald Trump’ın, bir şirketin hisse senedi fiyatının düşmesine veya yükselmesine neden olacak şekilde, çelik ithalatı için yeni tarifeler getirmeyi veya artırmayı ifade eden bir videosunun yayınlanması ile gerçekleşebilir.
Adalet Sistemi
Herkesin ihtiyaç duyduğu Adalet Sistemi de, deepfake tehlikesiyle büyük zararlar görebilir. Sahte kanıtlar mahkemelerde kullanılarak, dava süreçleri manipüle edilebilir ve kişiler bu şekilde işlemedikleri suçlarla suçlanabilir. Böylece masum olanlar haksız biçimde hapse girebilir. Öte yandan, gerçek suçlular sahte kanıtlara dayanarak serbest bırakılabilirler ve cezadan kurtulabilirler. Deepfake’in yarattığı bu ürkütücü olasılıklar adalete duyulan güvene karşı da büyük bir tehdit oluşturuyor.
Hileli Rekabet
Rakipler birbirlerine zarar vermek için Deepfake’i araç olarak kullanabilirler. Bir firma diğer bir firmayı istikrarsızlaştırmak için onun hakkında yanlış bir algı yayıyor olabilir. Kötü niyetli aktörler, şirketinizin tüketici sahtekarlığı, rüşvet, cinsel taciz veya aklınıza gelebilecek herhangi bir suça karıştığı hakkında sahte haberler üretip yayabilirler. Bu suçları işleyen kişiyi de, siz veya firmanızdan biriymiş gibi gösterebilirler. Açıkçası, bu tür gerçek dışı haberler, şirketinizin itibarını zedeleyebilir ve bunun aksini kanıtlamanızı zorlaştırabilir.
Dünya Çapında Deepfake Tehlikesine Karşı Atılan Gerçekçi Adımlar Neler?
Dünya çapında deepfake tehlikesine karşı sorumluluk duyması gereken pek çok kurum ve kuruluş var. Bunların bazıları hükumet seviyesinde kurumlar bazıları ise özel şirketler. Şu ana kadar Amerika Birleşik Devletleri’nde bazı eyaletler deepfake tehlikesine karşı yasal yaptırımlar getirmeye başladı.
Ülkemizde bu teknolojiyi anlamayı geçtim, anlatmayı bile kolay kolay beceremezsiniz!
Diğer yandan Facebook, Microsoft, ve Amazon deepfake tehlikesine çözüm bulmaya çalışan, siber güvenlik üreticisi şirketlere ödüllü yarışma düzenliyor. Deepfake üzerinde çalışan şirketlere yaptıkları veri yardımı yapan teknoloji devleri, ayrıca yarışmada başarılı olan şirkete 10 milyon dolar para ödülü ve 1 milyon dolar değerinde Amazon Web Services platformunda depolama servisi sağlıyorlar.
Bu yarışmaya iddialı bir şekilde katılan, Türkiye’nin ödüllü çevrimiçi güvenlik çözümleri sağlayıcısı Zemana, deepfake tehdidi karşısında da öncü olma görevini üstlendi. Zemana dünya çapında bir ilki başararak herhangi bir videonun taratılarak deepfake olup olmadığını anlayabileceğiniz bir platform oluşturdu. Son bir yılını bu konudaki araştırmalara ayıran firma, geliştirdiği çözüm sayesinde daha çok yeni olan ama kısa sürede büyük zararlar verebileceğini kanıtlayan deepfake tehlikesine karşı, güçlü bir savunma oluşturdu.
Çevrimiçi kullanıcıların aktif kullanımına sunulan platform’a www.deepware.ai üzerinden ulaşılabilir. Aynı zamanda bu çözüm, geliştirici kiti olarak, sosyal medya platformlarına, anlık mesajlaşma ve görüntülü konuşma uygulamalarına, ve medya şirketlerine büyük avantaj sağlayacak şekilde tasarlandı.
Yapay Zeka temelli oluşturulan deepfake içeriklerin en etkili halini Amerika Birleşik Devletleri’nde yapılacak olan 2020 seçimlerinde göreceğiz. Orada alınan önlemler ve kullanılan yöntemler, bize gelecek dönemde deepfake siber saldırılarını önlemede ne kadar başarılı olabileceğimiz hakkında bir resim çizecek.
DeepFake için geliştirilen bu uygulamayı ücretsiz olarak kullanmak ve test etmek için deepware.ai adresini inceleyebilirsiniz.
gayet güzel bir makale olmuş elinize sağlık