Federal Veri Koruma Yasası'nda (BDSG) yapılacak ilk değişiklik için federal hükümetin yasa tasarısı taslağına ilişkin Federal Meclis'teki duruşmada, henüz planda yer almayan bir nokta çok yer kapladı: biyometrik gözetimin yasaklanması, örneğin kamusal alanlarda otomatik yüz tanıma yoluyla. Kaos Bilgisayar Kulübü'nden (CCC) Matthias Marx ve Sivil Haklar Derneği'nden (GFF) Simone Ruf özellikle bu gereksinimin dahil edilmesi çağrısında bulundu. Şaşırtıcı bir şekilde, Hamburg Polis Akademisi'nde anayasa avukatı olan Eike Richter de böyle bir yasağın anayasal kaygısı olmadığını açıkça ifade etti. Yasama organı temel haklar kapsamında böyle bir maddeyi dahil etmeye bile mecbur tutulabilir.
Reklamcılık
AB'nin yeni yapay zeka düzenlemesine ilişkin müzakereler sırasında canlı yüz tanıma özellikle sıcak bir konu olarak değerlendirildi. AB Parlamentosu başlangıçta biyometrik toplu gözetlemenin genel olarak yasaklanması çağrısında bulundu, ancak üye ülkeler buna karşı çıktı. Nihai versiyonda, özellikle adam kaçırma, insan ticareti ve cinsel istismar mağdurlarına yönelik hedefli arama veya “somut ve mevcut bir terör tehdidini” savuşturmak için, gerçek zamanlı kimlik tespitinin “zaman ve mekan açısından sınırlı” olarak mümkün olması gerektiği belirtiliyor.
Trafik ışığı koalisyonu, AI Yasasında kalan arka kapıları biyometrik gözetim için kullanmak istemediğini, bunun yerine otomatik yüz tanıma gibi araçları sınırlamak istediğini kabul ediyor. Richter, aslında bu tür uzaktan kimlik belirleme biçimlerinin “izin verilmediği sürece bu ülkede polis için zaten yasak olduğunu” açıkladı. Ancak şu anda bunun “etkisiz bir çekince” olduğu anlaşılıyor. Eğer bu geçerli değilse, araçla bağlantılı bilgi edinme hakkının belirlenmesi hakkına yapılan müdahale dikkate alındığında açık bir yasaklama öncelikli olmalıdır. Polis avukatı işkence yasağını da buna paralel olarak gösterdi. AI düzenlemesi özellikle teknik sistemlerin düzenlenmesine atıfta bulunur. Ancak yasal yasağın “daha geniş kalabileceği” ve muhtemelen özel sektörü de kapsayabileceği belirtiliyor.
Her yerde hazır ve nazır kayıt distopisi
CCC'den Marx, polis yetkililerinin biyometrik gözetim sistemlerini uygunsuz ve yasal dayanak olmadan kullandığı vakaların sayısının arttığını, Saksonya polis departmanı adına geliştirilen ve şu anda diğer federal eyaletlerdeki kolluk kuvvetleri tarafından da kullanılan gizli gözetim teknolojisi PerIS'e atıfta bulunduğunu söyledi. Polis bu süreçte demokratik kontrolden de kaçtı. PerIS, Saksonya'da ancak parlamento soruşturması yoluyla yaygın olarak tanındı. Marx, aynı zamanda Federal ve Eyalet Veri Koruma Denetleme Otoriteleri Konferansı'nın (DSK) kamu yönetimine para cezası verebilme çağrısına destek vererek, “Yetkililer zorlayıcı araçlardan yoksun” dedi.
Bilgisayar korsanı, biyometrik gözetim sistemlerinin kamusal alanlarda her yerde kayıt yapılmasına yol açtığını belirtti. Her adım kaydediliyor ve net fiziksel tanımlama özellikleri sayesinde ayrıntılı olarak analiz edilebiliyor. Ancak izlendiğini hisseden herkes örneğin bir gösteriye katılmamaya karar verebilir. Bu süreç durdurulmalı.
GFF'den Ruf, BDSG'nin özellikle biyometrik uzaktan tanımlama sistemleri üzerindeki yasağı koruma altına almak için çok uygun olduğunu ekledi. Biyometrik veri işlemeye ilişkin düzenlemeleri zaten içeriyor. Aynı zamanda özel şirketler, federal kamu kurumları ve bir dereceye kadar eyaletlerin şirketleri için de geçerlidir. Genel olarak, otomatik yüz tanıma ayrımcı değildir ve “beyaz olmayan kişileri sıklıkla yanlış şekilde tanımlar”. Bu da polisin işini zorlaştırıyor. Toplanan biyometrik verilere yetkisiz erişim durumunda ilgili özellik artık değiştirilemez.
Schufa & Co. puanlama için ne kullanabilir?
Bir başka çekişme noktası: Hükümet ayrıca ev adresi, isim veya sosyal ağlardan alınan bilgiler gibi verilerin artık tüketicilerin puanlama yoluyla ödeme yapma kabiliyetini değerlendirmek için kullanılmamasını şart koşmak istiyor. Olasılık değerleri yalnızca, içerdiği kişisel verilerin “başka hiçbir amaçla işlenmemesi” durumunda oluşturulabilir veya kullanılabilir. Federal Tüketici Örgütleri Birliği'nden (vzbv) Johannes Müller, bunu “belirli kategorilerin kullanılmamasının önemli” olduğunu belirtiyor. Aksi takdirde kullanıcılar puanlarını artırmak için sosyal medyadaki davranışlarını veya adreslerini de hedef olarak belirleyebilirler.
Geleceğin Federal Veri Koruma Komiseri Louisa Specht-Riemenschneider, Schufa & Co. tarafından yapılan puanlamaya dayalı otomatik kararlara ilişkin önerilen kısıtlamaları “dengeli bir öneri” olarak övdü. Ancak bu durum dengesiz değerlendirme uygulamalarının kontrol altına alınması için yeterli olmayacaktır. “Odadaki fil”, Paypal veya Klarna gibi gerekliliklerin kendileri için geçerli olmadığı ödeme hizmeti sağlayıcılarıdır. Bonn hukuk profesörü bu nedenle Tüketiciyi Koruma Direktifi'nin 18. maddesinin de uygulanması ve dolayısıyla aktörlerin de dahil edilmesi gerektiğini tavsiye etti. Görevdeki Federal Veri Koruma Komiseri Ulrich Kelber ve Hessian Veri Koruma Komiseri Alexander Roßnagel gibi Specht-Riemenschneider de ticari ve ticari sırların korunması amacıyla bilgi edinme hakkına yönelik planlanan kısıtlamaların kaldırılması lehinde konuştu.
Passau anayasa avukatı Meinhard Schröder ise puanlamaya ilişkin yasakların çok geniş olduğunu düşünüyor. Etnik köken, biyometrik özellikler ve sağlık verileri gibi kişisel bilgilerin “belirli kategorilere yönelik tamamen yasaklanması”, Genel Veri Koruma Yönetmeliği (GDPR) kapsamında değildir. Sosyal ağların hariç tutulması da çok ileri gidiyor: Örneğin bir Facebook sayfası normal bir web sitesinden “daha açıktır”. Münih hukuk profesörü Boris Paal da, prensipte gerekli olan ancak çok ileri giden otomatik kararlara getirilen kısıtlamaların “yanlış anlaşılmalara ve hukuki belirsizliklere” yol açabileceğinden korkuyordu.
Reklamcılık
AB'nin yeni yapay zeka düzenlemesine ilişkin müzakereler sırasında canlı yüz tanıma özellikle sıcak bir konu olarak değerlendirildi. AB Parlamentosu başlangıçta biyometrik toplu gözetlemenin genel olarak yasaklanması çağrısında bulundu, ancak üye ülkeler buna karşı çıktı. Nihai versiyonda, özellikle adam kaçırma, insan ticareti ve cinsel istismar mağdurlarına yönelik hedefli arama veya “somut ve mevcut bir terör tehdidini” savuşturmak için, gerçek zamanlı kimlik tespitinin “zaman ve mekan açısından sınırlı” olarak mümkün olması gerektiği belirtiliyor.
Trafik ışığı koalisyonu, AI Yasasında kalan arka kapıları biyometrik gözetim için kullanmak istemediğini, bunun yerine otomatik yüz tanıma gibi araçları sınırlamak istediğini kabul ediyor. Richter, aslında bu tür uzaktan kimlik belirleme biçimlerinin “izin verilmediği sürece bu ülkede polis için zaten yasak olduğunu” açıkladı. Ancak şu anda bunun “etkisiz bir çekince” olduğu anlaşılıyor. Eğer bu geçerli değilse, araçla bağlantılı bilgi edinme hakkının belirlenmesi hakkına yapılan müdahale dikkate alındığında açık bir yasaklama öncelikli olmalıdır. Polis avukatı işkence yasağını da buna paralel olarak gösterdi. AI düzenlemesi özellikle teknik sistemlerin düzenlenmesine atıfta bulunur. Ancak yasal yasağın “daha geniş kalabileceği” ve muhtemelen özel sektörü de kapsayabileceği belirtiliyor.
Her yerde hazır ve nazır kayıt distopisi
CCC'den Marx, polis yetkililerinin biyometrik gözetim sistemlerini uygunsuz ve yasal dayanak olmadan kullandığı vakaların sayısının arttığını, Saksonya polis departmanı adına geliştirilen ve şu anda diğer federal eyaletlerdeki kolluk kuvvetleri tarafından da kullanılan gizli gözetim teknolojisi PerIS'e atıfta bulunduğunu söyledi. Polis bu süreçte demokratik kontrolden de kaçtı. PerIS, Saksonya'da ancak parlamento soruşturması yoluyla yaygın olarak tanındı. Marx, aynı zamanda Federal ve Eyalet Veri Koruma Denetleme Otoriteleri Konferansı'nın (DSK) kamu yönetimine para cezası verebilme çağrısına destek vererek, “Yetkililer zorlayıcı araçlardan yoksun” dedi.
Bilgisayar korsanı, biyometrik gözetim sistemlerinin kamusal alanlarda her yerde kayıt yapılmasına yol açtığını belirtti. Her adım kaydediliyor ve net fiziksel tanımlama özellikleri sayesinde ayrıntılı olarak analiz edilebiliyor. Ancak izlendiğini hisseden herkes örneğin bir gösteriye katılmamaya karar verebilir. Bu süreç durdurulmalı.
GFF'den Ruf, BDSG'nin özellikle biyometrik uzaktan tanımlama sistemleri üzerindeki yasağı koruma altına almak için çok uygun olduğunu ekledi. Biyometrik veri işlemeye ilişkin düzenlemeleri zaten içeriyor. Aynı zamanda özel şirketler, federal kamu kurumları ve bir dereceye kadar eyaletlerin şirketleri için de geçerlidir. Genel olarak, otomatik yüz tanıma ayrımcı değildir ve “beyaz olmayan kişileri sıklıkla yanlış şekilde tanımlar”. Bu da polisin işini zorlaştırıyor. Toplanan biyometrik verilere yetkisiz erişim durumunda ilgili özellik artık değiştirilemez.
Schufa & Co. puanlama için ne kullanabilir?
Bir başka çekişme noktası: Hükümet ayrıca ev adresi, isim veya sosyal ağlardan alınan bilgiler gibi verilerin artık tüketicilerin puanlama yoluyla ödeme yapma kabiliyetini değerlendirmek için kullanılmamasını şart koşmak istiyor. Olasılık değerleri yalnızca, içerdiği kişisel verilerin “başka hiçbir amaçla işlenmemesi” durumunda oluşturulabilir veya kullanılabilir. Federal Tüketici Örgütleri Birliği'nden (vzbv) Johannes Müller, bunu “belirli kategorilerin kullanılmamasının önemli” olduğunu belirtiyor. Aksi takdirde kullanıcılar puanlarını artırmak için sosyal medyadaki davranışlarını veya adreslerini de hedef olarak belirleyebilirler.
Geleceğin Federal Veri Koruma Komiseri Louisa Specht-Riemenschneider, Schufa & Co. tarafından yapılan puanlamaya dayalı otomatik kararlara ilişkin önerilen kısıtlamaları “dengeli bir öneri” olarak övdü. Ancak bu durum dengesiz değerlendirme uygulamalarının kontrol altına alınması için yeterli olmayacaktır. “Odadaki fil”, Paypal veya Klarna gibi gerekliliklerin kendileri için geçerli olmadığı ödeme hizmeti sağlayıcılarıdır. Bonn hukuk profesörü bu nedenle Tüketiciyi Koruma Direktifi'nin 18. maddesinin de uygulanması ve dolayısıyla aktörlerin de dahil edilmesi gerektiğini tavsiye etti. Görevdeki Federal Veri Koruma Komiseri Ulrich Kelber ve Hessian Veri Koruma Komiseri Alexander Roßnagel gibi Specht-Riemenschneider de ticari ve ticari sırların korunması amacıyla bilgi edinme hakkına yönelik planlanan kısıtlamaların kaldırılması lehinde konuştu.
Passau anayasa avukatı Meinhard Schröder ise puanlamaya ilişkin yasakların çok geniş olduğunu düşünüyor. Etnik köken, biyometrik özellikler ve sağlık verileri gibi kişisel bilgilerin “belirli kategorilere yönelik tamamen yasaklanması”, Genel Veri Koruma Yönetmeliği (GDPR) kapsamında değildir. Sosyal ağların hariç tutulması da çok ileri gidiyor: Örneğin bir Facebook sayfası normal bir web sitesinden “daha açıktır”. Münih hukuk profesörü Boris Paal da, prensipte gerekli olan ancak çok ileri giden otomatik kararlara getirilen kısıtlamaların “yanlış anlaşılmalara ve hukuki belirsizliklere” yol açabileceğinden korkuyordu.