Federal Konsey, deepfake'lere karşı daha sert önlemler alınması çağrısında bulunuyor. Bilgisayarda üretilen gerçekçi görünümlü medya içeriği aracılığıyla kişisel hakları cezai olarak korumak için bir yasa tasarısı sundu… giderek daha fazla yapay zeka (AI) kullanıyor. Eyaletler Odası bu nedenle Bavyera'nın bir girişimini takip ediyor. Taslağın özü, Ceza Kanunu'nun (StGB) 201b maddesindeki yeni bir paragraftır. “Dış görünümü, davranışı veya sözlü ifadeleri” nedeniyle gerçekçi görünen bilgisayar tarafından oluşturulmuş veya değiştirilmiş bir görüntüyü dağıtan ve böylece başka bir kişinin kişisel haklarını ihlal eden herkes para cezası veya iki yıla kadar hapis cezası ile cezalandırılacaktır. Bu, ölmüş kişilere yapılan atıflar için de geçerli olmalıdır.
Reklamcılık
Plana göre, bu tür medya içeriklerini kamuya açık hale getiren veya “hayatın en kişisel alanındaki bir süreci” ilgilendiren deepfake'leri dağıtan herkes beş yıla kadar hapis veya para cezasıyla karşı karşıya kalabilir. “Öncelikli meşru çıkarların peşinde” gerçekleştirilen eylemler muaftır. Federal Konsey, sanat veya bilim, araştırma ve öğretimin yanı sıra güncel olaylarla ilgili raporlamaya atıfta bulunur. “Suçlunun veya katılımcının kullandığı” görüntü ve ses kayıtları veya diğer teknik araçlar da müsadere edilebilir.
Eyaletler, deepfake'lerin “hem bireysel kişisel haklar ve varlıklar hem de demokratik karar alma süreci için önemli riskler” oluşturduğunu söyleyerek uygulamalarını haklı çıkarıyorlar. Özellikle yapay zekanın sürekli gelişen ürünleri nedeniyle, bunlar devlet ve vatandaşları için “özellikle tehlikeli bir bilgi manipülasyonu biçimi”ni temsil ediyor. Deepfake'ler ayrıca suçlular tarafından yanlış bilgilendirme veya yasadışı zenginleştirme gibi kötüye kullanım amaçlarına ulaşmak için giderek daha fazla kullanılıyor.
Deepnudes ve şok çağrıları hakkında endişe
Ancak, Federal Konsey'in açıkladığına göre, deepfake'ler her şeyden önce kişisel hakların korunması açısından da riskler taşıyor. Kadınlar ve kızlar genellikle “daha önce var olmayan ve etkilenenler tarafından açıkça istenmeyen bir cinsel bağlama yerleştiriliyor” (“deepnudes”), görüntü veya videoların teknik manipülasyonu yoluyla. Failler genellikle “bu insanları kendi cinsel ilgilerinin nesnesi haline getirmeyi veya intikam ve güç ihtiyaçlarını üzerlerinde yaşamayı” amaçlıyor. Etkilenenler için zararlı etkiler, gerçek çıplak fotoğrafların istenmeyen dağıtımından pek de farklı değil. Deepfake'ler ayrıca örneğin “siyasi görüş yarışmalarında diğer insanları mümkün olduğunca etkili bir şekilde itibarsızlaştırmak” veya yakın akrabaların sözde sesleriyle “şok çağrıları” yapmak için kullanılıyor. Örneğin, Şansölye Olaf Scholz (SPD), kendisinin yapay zeka animasyonlu bir videosunu deneyimlemek zorunda kaldı.
Kadınlar ve Gençlik Komitesi açıklamalar talep etmişti. Ayrıca deepfake üretiminin suç haline getirilmesini istiyordu. Ancak, genel kurulda bunun için çoğunluk yoktu. Ancak Bundesrat bir kararda federal hükümetten manipüle edilmiş içerikleri tespit edip etiketlemek için programlar başlatmasını istedi. Küçük ve orta ölçekli şirketleri deepfake tespiti ve etiketleme konularında desteklemek için merkezi bir irtibat noktası kurulmasını önerdi. Eyaletler Odası şu anda yasa tasarısını Bundestag'a sunuyor ve ardından yasa hakkında karar verecek. Bunun için bir son tarih yok. Federal hükümet önceden yorum yapabilir. Mart ayında bir hükümet sözcüsü, yapay zeka tarafından üretilen videolara karşı mücadelede kullanılan araçların “aslında yeterli olmadığını” ve harekete geçilmesi gerektiğini söyledi.
(mk)
Reklamcılık
Plana göre, bu tür medya içeriklerini kamuya açık hale getiren veya “hayatın en kişisel alanındaki bir süreci” ilgilendiren deepfake'leri dağıtan herkes beş yıla kadar hapis veya para cezasıyla karşı karşıya kalabilir. “Öncelikli meşru çıkarların peşinde” gerçekleştirilen eylemler muaftır. Federal Konsey, sanat veya bilim, araştırma ve öğretimin yanı sıra güncel olaylarla ilgili raporlamaya atıfta bulunur. “Suçlunun veya katılımcının kullandığı” görüntü ve ses kayıtları veya diğer teknik araçlar da müsadere edilebilir.
Eyaletler, deepfake'lerin “hem bireysel kişisel haklar ve varlıklar hem de demokratik karar alma süreci için önemli riskler” oluşturduğunu söyleyerek uygulamalarını haklı çıkarıyorlar. Özellikle yapay zekanın sürekli gelişen ürünleri nedeniyle, bunlar devlet ve vatandaşları için “özellikle tehlikeli bir bilgi manipülasyonu biçimi”ni temsil ediyor. Deepfake'ler ayrıca suçlular tarafından yanlış bilgilendirme veya yasadışı zenginleştirme gibi kötüye kullanım amaçlarına ulaşmak için giderek daha fazla kullanılıyor.
Deepnudes ve şok çağrıları hakkında endişe
Ancak, Federal Konsey'in açıkladığına göre, deepfake'ler her şeyden önce kişisel hakların korunması açısından da riskler taşıyor. Kadınlar ve kızlar genellikle “daha önce var olmayan ve etkilenenler tarafından açıkça istenmeyen bir cinsel bağlama yerleştiriliyor” (“deepnudes”), görüntü veya videoların teknik manipülasyonu yoluyla. Failler genellikle “bu insanları kendi cinsel ilgilerinin nesnesi haline getirmeyi veya intikam ve güç ihtiyaçlarını üzerlerinde yaşamayı” amaçlıyor. Etkilenenler için zararlı etkiler, gerçek çıplak fotoğrafların istenmeyen dağıtımından pek de farklı değil. Deepfake'ler ayrıca örneğin “siyasi görüş yarışmalarında diğer insanları mümkün olduğunca etkili bir şekilde itibarsızlaştırmak” veya yakın akrabaların sözde sesleriyle “şok çağrıları” yapmak için kullanılıyor. Örneğin, Şansölye Olaf Scholz (SPD), kendisinin yapay zeka animasyonlu bir videosunu deneyimlemek zorunda kaldı.
Kadınlar ve Gençlik Komitesi açıklamalar talep etmişti. Ayrıca deepfake üretiminin suç haline getirilmesini istiyordu. Ancak, genel kurulda bunun için çoğunluk yoktu. Ancak Bundesrat bir kararda federal hükümetten manipüle edilmiş içerikleri tespit edip etiketlemek için programlar başlatmasını istedi. Küçük ve orta ölçekli şirketleri deepfake tespiti ve etiketleme konularında desteklemek için merkezi bir irtibat noktası kurulmasını önerdi. Eyaletler Odası şu anda yasa tasarısını Bundestag'a sunuyor ve ardından yasa hakkında karar verecek. Bunun için bir son tarih yok. Federal hükümet önceden yorum yapabilir. Mart ayında bir hükümet sözcüsü, yapay zeka tarafından üretilen videolara karşı mücadelede kullanılan araçların “aslında yeterli olmadığını” ve harekete geçilmesi gerektiğini söyledi.
(mk)