5 Kasım 2024’te ABD’de 60. Başkan seçilecek. Örneğin Hillary Clinton ve Joe Biden’ın sahte videoları bir süredir internette ve sosyal medyada boy gösteriyor. Sorunlu olan, derin sahte videoların giderek daha gerçekçi görünmesini sağlayan, her zamankinden daha iyi eğitilmiş üretken yapay zekalardır. Giderek daha fazla uzman, yapay zekanın ve üretken yapay zekaların tehlikeleri konusunda uyarıda bulunuyor.
2018 gibi erken bir tarihte, sinir ağları sahte porno ve Hitler parodileri yarattı. Ancak o zamanın aksine, üretici yapay zekalar artık çok daha iyi eğitilmiş, kullanımı daha kolay, bazen ücretsiz ve aldatıcı bir şekilde gerçek görünen sonuçlar veriyor. Uzmanlar, seçmenlerin gerçek videoları sahte olanlardan ayırt etmesinin çok zor olacağı konusunda hemfikir.
Sahte videolar: ABD seçim kampanyasındaki tehlike
Geçenlerde Hillary Clinton’ın Cumhuriyetçi Ron DeSantis lehine konuştuğu bir video ortaya çıktı. Deepfake’de eski ABD Başkanı’nın eşinin ağzından şu sözler döküldü: “İnsanlar bunu benden duyunca şaşıracak ama ben Ron DeSantis’i seviyorum.” DeSantis, ülkenin şu anda ihtiyacı olan şey. Video, diğerlerinin yanı sıra Twitter’da düşük çözünürlükte yayınlandı ve aldatıcı bir şekilde gerçek görünüyor.
Brookings Enstitüsü’nün Teknoloji İnovasyon Merkezi’nin kıdemli üyesi Darrell West, Reuters’e şunları söyledi: “Donald Trump veya Joe Biden taraftarlarının, rakibini kötü göstermek için bu teknolojiyi nasıl kullanabileceğini hayal edebilirsiniz.” Ona göre, seçimden kısa bir süre önce, kimsenin kapatamayacağı manipüle edilmiş içerik ortaya çıkabilir.
Donald Trump geçtiğimiz günlerde sosyal ağı “Truth Social”da sahte bir video yayınladı. Bir CNN sunucusu, “Burada CNN-Townhall’da canlı yayında kıçımızı yırtan Donald J Trump’dı” dedi. Ancak videodaki dudak hareketleri moderatör Anderson Cooper’ın anlattıklarıyla uyumlu değil. Twitter’da “Donald Trump Jr.” hesap bu videonun gerçek olduğunu onaylar. Twitter hesabının mavi doğrulama kancası var, ancak bu artık “Twiiter Blue” aboneliğiyle de mevcut. CNN, videonun derin sahte olduğunu belirtti. Joe Biden’ın transseksüel bir kişiye saldırdığı derin sahte bir video, yılın başından beri internette dolaşıyor. Aşağıdaki örnek sahte videolar (henüz) mükemmel olmaktan uzaktır, ancak araçların hızlı gelişimi, ABD seçimlerinin sıcak aşamasıyla oldukça ilerletilebilir.
Manipüle edilmiş içerik eğilimi: hızla artıyor
DeepMedia’ya göre 2020 seçimleri hala büyük ölçüde derin sahtekarlıklardan yoksun olsa da, bu yılın aynı döneminde iki yıl öncesine göre üç kat daha fazla video ve sekiz kat daha fazla sesli derin sahte yayın yayınlandı. DeepMedia, manipüle edilmiş içeriği tespit etme konusunda uzmanlaşmış bir şirkettir ve tahminlerine göre 2023’te yaklaşık 500.000 adet manipüle edilmiş video ve ses içeriği yayınlanacak. Reuters’in bildirdiğine göre, bir sesi klonlamak eğitim maliyeti olarak 10.000 dolara mal olurdu, bugün start-up’lar bunu birkaç dolara teklif edebilirdi. Aynısı fotoğrafların manipülasyonu için de geçerlidir.
2021 gibi erken bir tarihte, bir AB çalışması demokrasiyi, bireyleri ve ekonomiyi tehlikeye atabilecek derin sahtekarlıklar konusunda uyarıda bulundu. Bugün yapay zeka endüstrisinin kendisi, bilim adamları ve araştırmacılar üretken yapay zekanın sonuçları konusunda uyarılarda bulunuyor. ChatGPT’nin kurucusu, AI’nın “pandemi ve nükleer savaş kadar tehlikeli” olduğu ifadelerine ek olarak, yeni bir veri koruma türü gerektiren samimi sohbet geçmişlerinden bahsediyor ve riskleri kabul ediyor: “Steroitler üzerindeki Photoshop gibi”.
(bme)
Haberin Sonu
2018 gibi erken bir tarihte, sinir ağları sahte porno ve Hitler parodileri yarattı. Ancak o zamanın aksine, üretici yapay zekalar artık çok daha iyi eğitilmiş, kullanımı daha kolay, bazen ücretsiz ve aldatıcı bir şekilde gerçek görünen sonuçlar veriyor. Uzmanlar, seçmenlerin gerçek videoları sahte olanlardan ayırt etmesinin çok zor olacağı konusunda hemfikir.
Sahte videolar: ABD seçim kampanyasındaki tehlike
Geçenlerde Hillary Clinton’ın Cumhuriyetçi Ron DeSantis lehine konuştuğu bir video ortaya çıktı. Deepfake’de eski ABD Başkanı’nın eşinin ağzından şu sözler döküldü: “İnsanlar bunu benden duyunca şaşıracak ama ben Ron DeSantis’i seviyorum.” DeSantis, ülkenin şu anda ihtiyacı olan şey. Video, diğerlerinin yanı sıra Twitter’da düşük çözünürlükte yayınlandı ve aldatıcı bir şekilde gerçek görünüyor.
Brookings Enstitüsü’nün Teknoloji İnovasyon Merkezi’nin kıdemli üyesi Darrell West, Reuters’e şunları söyledi: “Donald Trump veya Joe Biden taraftarlarının, rakibini kötü göstermek için bu teknolojiyi nasıl kullanabileceğini hayal edebilirsiniz.” Ona göre, seçimden kısa bir süre önce, kimsenin kapatamayacağı manipüle edilmiş içerik ortaya çıkabilir.
Donald Trump geçtiğimiz günlerde sosyal ağı “Truth Social”da sahte bir video yayınladı. Bir CNN sunucusu, “Burada CNN-Townhall’da canlı yayında kıçımızı yırtan Donald J Trump’dı” dedi. Ancak videodaki dudak hareketleri moderatör Anderson Cooper’ın anlattıklarıyla uyumlu değil. Twitter’da “Donald Trump Jr.” hesap bu videonun gerçek olduğunu onaylar. Twitter hesabının mavi doğrulama kancası var, ancak bu artık “Twiiter Blue” aboneliğiyle de mevcut. CNN, videonun derin sahte olduğunu belirtti. Joe Biden’ın transseksüel bir kişiye saldırdığı derin sahte bir video, yılın başından beri internette dolaşıyor. Aşağıdaki örnek sahte videolar (henüz) mükemmel olmaktan uzaktır, ancak araçların hızlı gelişimi, ABD seçimlerinin sıcak aşamasıyla oldukça ilerletilebilir.
Manipüle edilmiş içerik eğilimi: hızla artıyor
DeepMedia’ya göre 2020 seçimleri hala büyük ölçüde derin sahtekarlıklardan yoksun olsa da, bu yılın aynı döneminde iki yıl öncesine göre üç kat daha fazla video ve sekiz kat daha fazla sesli derin sahte yayın yayınlandı. DeepMedia, manipüle edilmiş içeriği tespit etme konusunda uzmanlaşmış bir şirkettir ve tahminlerine göre 2023’te yaklaşık 500.000 adet manipüle edilmiş video ve ses içeriği yayınlanacak. Reuters’in bildirdiğine göre, bir sesi klonlamak eğitim maliyeti olarak 10.000 dolara mal olurdu, bugün start-up’lar bunu birkaç dolara teklif edebilirdi. Aynısı fotoğrafların manipülasyonu için de geçerlidir.
2021 gibi erken bir tarihte, bir AB çalışması demokrasiyi, bireyleri ve ekonomiyi tehlikeye atabilecek derin sahtekarlıklar konusunda uyarıda bulundu. Bugün yapay zeka endüstrisinin kendisi, bilim adamları ve araştırmacılar üretken yapay zekanın sonuçları konusunda uyarılarda bulunuyor. ChatGPT’nin kurucusu, AI’nın “pandemi ve nükleer savaş kadar tehlikeli” olduğu ifadelerine ek olarak, yeni bir veri koruma türü gerektiren samimi sohbet geçmişlerinden bahsediyor ve riskleri kabul ediyor: “Steroitler üzerindeki Photoshop gibi”.
(bme)
Haberin Sonu