Biyometrik kitle gözetimi: Avrupa Parlamentosu Üyeleri yapay zekayı demokratikleştirmek istiyor
Gelecekte yapay zeka (AI) oyunun demokratik kurallarına uymalı, vatandaşların temel haklarını korumalı ve kamu yararına hizmet etmelidir. AB Parlamentosu’nun sivil özgürlükler, içişleri ve adalet ile iç pazar ve tüketicinin korunmasına ilişkin önde gelen komiteleri, Perşembe günü ortak bir toplantıda onayladıkları AI yönetmeliği taslağı üzerindeki konumlarında bu asil hedefi takip ediyorlar. 12 çekimser oyla 7’ye karşı 84 oyla büyük çoğunluk. 144 sayfalık uzlaşmanın bir kısmı, milletvekillerinin “kabul edilemez” olarak değerlendirdiği, kamusal alanlarda biyometrik kitle gözetimine yönelik geniş kapsamlı bir yasak.
Bu nedenle otomatik yüz tanıma gibi yapay zeka destekli tekniklerin kullanımına ancak mahkeme kararıyla ciddi suçlar söz konusu olduğunda failler arandıktan sonra izin verilmelidir. Hamburg polisinin G20 zirvesinde isyancılar için müteakip tartışmalı biyometrik araması gibi önlemler en azından daha zor hale getirilmelidir. Gerçek zamanlı kullanım genellikle yasaktır. “Yüz tanıma için veritabanları oluşturmak veya genişletmek amacıyla sosyal medyadan veya gözetleme videolarından ayrım gözetmeyen ve hedeflenmemiş biyometrik veri toplanmasına” da bir yasak getirilmeli. ABD şirketi Clearview AI tarafından uygulanan böyle bir uygulama, kitlesel gözetleme hissine katkıda bulunuyor, muhakeme devam ediyor.
Biyometrik tanımlamaya geniş kapsamlı yasak
Karara göre, kolluk kuvvetleri, sınır kontrolü, çalışma ve eğitim, sosyal puanlama gibi alanlarda öngörülü polislik (“kestirimci polislik”) ile duygu ve davranış tanıma tamamen yasaklanacak. Milletvekilleri ayrıca kamu yönetiminde tahmine dayalı algoritmaları yasaklamak istiyor. Arka plan, binlerce ailenin hatalı bir BT sistemi nedeniyle haksız yere dolandırıcılıkla suçlandığı Hollanda çocuk parası skandalıdır.
Biyometrik tanımlamaya yönelik planlanan geniş kapsamlı yasak, CDU ve CSU’nun üyesi olduğu muhafazakar Avrupa Halk Partisi’ni (EPP) geri püskürttü. İlgili maddeler üzerinde ayrı bir oylama elde etti, ancak hayır için çoğunluk bulamadı.
Üretken yapay zeka için özellikle katı gereksinimler
ChatGPT gibi yeni hizmetler en baştan yüksek riskli teknoloji olarak sınıflandırılmamasına rağmen, yine de özellikle sıkı bir şekilde düzenlenmelidir. Ölçekte büyük miktarda kategorize edilmemiş veri üzerinde eğitilmiş, genel bir çıktı için tasarlanmış ve çok çeşitli aşağı akışa uyarlanabilen yapay zeka temel modellerinin operatörleri, değiş tokuşa göre farklı görevlerin öngörülebilir sağlığa sahip olması gerekir. , emniyet ve asayiş riskleri , temel haklar , çevre , demokrasi ve hukukun üstünlüğünü bağımsız uzmanların katılımıyla ve gerekirse hafifletmek. Uzmanların, örneğin kaynakların doğruluğunu, olası çarpıtmalarını ve bunlara karşı atılan adımları değerlendirebilmesi için eğitim verileri büyük ölçüde açıklanmalıdır.
Temel modeller ayrıca kullanım ömürleri boyunca uygun seviyede performans, yorumlanabilirlik, düzeltilebilirlik, güvenlik ve BT güvenliği göstermelidir. Üretken yapay zeka kategorisine girerlerse, daha fazla şeffaflık gereksinimlerini karşılamaları ve AB yasalarını ihlal eden veya dezenformasyon ve “sahte haberler” yayan içerik oluşturmaya karşı uygun önlemleri almaları gerekir. Bu, genellikle telif hakkıyla korunan mevcut çalışmalara dayalı olarak yeni metinler, resimler, müzik veya videolar oluşturan ChatGPT, DALL-E, Stable Diffusion ve Midjourney gibi sistemleri içerir. Gerekirse modellerini de temizlemeleri gerekir.
10 milyon avroya veya yıllık cironun yüzde 2’sine varan para cezaları
OpenAI gibi üretken yapay zeka modellerinin üreticileri de, halk temsilcilerini “telif hakkıyla korunan eğitim verilerinin kullanımının yeterince ayrıntılı bir özetini belgeleme ve kamuya açık hale getirme” zorunluluğu getirmek istiyor. Örneğin, bilimsel makalelerin, web’deki fotoğrafların veya belirli sanatçıların şarkılarının dahil edilip edilmediğini belirtmeniz gerekir. Bu ifşa, yazarların ve kullanıcıların lisans ücreti, telif ücreti veya tazminat talep etmelerini sağlamalıdır. Ayrıca, üretici temel modellerin operatörleri, içeriklerinin insanlar tarafından değil yapay zeka tarafından oluşturulduğunu şeffaf hale getirmek zorunda kalacak. AI düzenlemelerini ihlal eden ilgili sağlayıcılar için para cezaları, milletvekilleri tarafından 10 milyon avroya veya yıllık satışların yüzde 2’sine kadar belirlenir.
AB Komisyonu’nun orijinal taslağına göre, yüksek riskli sistemler için de katı gereklilikler geçerli olmalıdır. Bunlar, örneğin, otonom araçlarla trafik gibi kritik altyapılar, robot yardımlı cerrahi gibi ürünlerin güvenlik bileşenleri ve ayrıca adaletin idaresi ve demokratik süreçler için iş ve üniversite kontenjanlarına başvuranları seçmeye yönelik programları içerir. Schufa tarafından yapılan kredi kontrolleri için puanlama gibi önemli özel ve kamu hizmetleri de bu kategoriye girer.
Enerji ve su yönetimi – Kritik altyapıyı yönetmek için yapay zeka
Parlamenterlerin iradesine göre, enerji ağları veya su yönetim sistemleri gibi kritik altyapıyı yönetmek için kullanılan yapay zeka da potansiyel olarak büyük çevresel etkilere sahip yüksek riskli olarak sınıflandırılmalıdır. Bu aynı zamanda sosyal medya öneri sistemleri için de geçerli olmalıdır. Genel olarak, bir tehlikenin ciddiyet derecesi, yoğunluğu, meydana gelme olasılığı ve süresi dikkate alınmalıdır. Komisyon tarafından önerilen bir listeye dayalı otomatik sınıflandırma yapılmaz.
AI geliştiricileri, sonuçların ayrımcı olmaması için böyle bir sınıflandırma için sistemlerini yüksek kaliteli verilerle beslemelidir. Riskleri değerlendirmek ve azaltmak için uygun sistemlere ihtiyaç vardır ve yetkililer ve yeni bir Avrupa AI komitesi bunların uyumunu değerlendirecektir. Geliştirme ve uygulamada uygun insan gözetimi ve kontrolünün yanı sıra yüksek düzeyde siber güvenlik, sağlamlık ve doğruluk zorunludur. Sağlayıcılar öncelikle temel haklar için bir etki değerlendirmesi yapmalıdır. Küçük ve orta ölçekli şirketler bundan muaftır.
Bir gözetleme kabusu önlenecek mi?
Avrupa Parlamentosu Üyeleri ayrıca, kural kitabının uyumlu bir şekilde uygulanmasına ve sınır ötesi soruşturmalara yardımcı olacak bir AB organı olan bir AI Bürosunun oluşturulmasını savunur. Ofisi daha büyük, kapsayıcı bir kuruma genişletmek mümkün olmalıdır. Halkın temsilcileri ayrıca yetkili ulusal makamlara AI sistemlerinin eğitim modellerine erişim talep etme seçeneği sunmak istiyor.
İçişleri Komisyonu raportörü Brando Benifei, medeni haklara net bir şekilde odaklanan dengeli bir metinden bahsetti. Yenilikler kısıtlanmaz. Her şeyden önce, etik ve sürdürülebilir bir yaklaşımla AI’da güven oluşturmak önemlidir: “Demokrasilerde yaşıyoruz, teknolojiler buna göre düzenlenmelidir” diyen sosyal demokrat vurguladı. AB ülkelerinin daha fazla biyometrik gözetim istediğini biliyor. Ancak Parlamento bir gözetim kabusunu önleyecek ve temel hakların körü körüne kısıtlanmasını kabul etmeyecektir. İtalyan ayrıca, Genel Veri Koruma Yönetmeliği (GDPR) gibi bir “Brüksel Etkisi” ve AI’nın etkisi hakkında küresel bir tartışma umuyor.
ayrıca oku
Daha fazla göster
daha az göster
Benifei’nin iç pazar komitesindeki meslektaşı Dragoş Tudorache, “Bu teknolojiyle ilgili artan endişeleri ciddiye almalıyız” dedi. Liberal, AI geliştiricilerinin ve şirketlerinin her şeyden önce yenilik yapabilmek için yasal kesinliğe ihtiyacı olduğunu vurguladı. Özellikle start-up’ların süreçleri deneyebileceği “düzenleyici sanal alanlar” da planlanmıştır. Rota komitede belirlendikten sonra, AB Bakanlar Konseyi ile müzakerelerin başlayabilmesi için uzlaşmanın genel kuruldan geçmesi gerekiyor. Her iki raportör de yönetmeliğin nihayet yıl sonunda kabul edilebileceğinden emindi. Yeşil komite başkanı Anna Cavazzini, yaklaşık 3.000 değişikliğin masaya yatırıldığı “tarihi bir oylamadan” söz etti.
(bme)
Haberin Sonu