AI yönetmeliği: AB Parlamentosu gerçek zamanlı yüz tanımaya karşı oy kullanıyor
Merkez sağdan gelen yıkıcı ateş nihayetinde başarısız oldu: Çarşamba günü AB Parlamentosu yapay zekayı (AI) düzenleyen bir düzenleme için çizgisini belirledi ve kamusal alanlarda biyometrik toplu gözetlemeye yönelik geniş kapsamlı bir yasaktan yana çıktı. Bu pozisyon için, sorumlu komitelerin tavsiyeleri doğrultusunda, 499 Milletvekili 28 aleyhte ve oldukça büyük bir sayı olan 93 çekimser oy kullandı. Gelecekte yapay zeka, oyunun demokratik kurallarına uymalı, vatandaşların temel haklarını korumalı ve kamu yararına hizmet etmelidir.
Uzun bir ileri geri hareketin ardından komitelerde önceden üzerinde anlaşmaya varılan uzlaşma, geçtiğimiz günlerde yeniden sallandı. CDU ve CSU’nun üyesi olduğu Avrupa Halk Partisi’nin (EPP) muhafazakar hizipleri, biyometrik kitle gözetimine karşı üzerinde anlaşmaya varılan maddelerden saptılar ve buna karşı kendi grup önergelerini sundular. Temelde merkez sağ, bu muharebe oylamasının AB Komisyonu’nun biyometrik sistemlerin üç durumda gerçek zamanlı kullanımına izin verecek orijinal önerisine geri dönmesini istedi: kayıp bir kişiyi bulmak, terör saldırılarını önlemek veya ciddi suçları kovuşturmak. Ancak talebi çoğunluk bulmadı.
Gerçek zamanlı kullanım yasaktır
Genel kurulda belirlenen kursa göre, otomatik yüz tanıma gibi yapay zeka destekli teknolojilerin kullanımına ancak mahkeme kararıyla ağır suçlarda failleri arandıktan sonra izin verilmelidir. Hamburg polisinin G20 zirvesinde isyancılar için müteakip tartışmalı biyometrik araması gibi önlemler en azından daha zor hale getirilmelidir. Gerçek zamanlı kullanım genellikle yasaktır.
“Yüz tanıma için veritabanları oluşturmak veya genişletmek amacıyla sosyal medyadan veya gözetleme videolarından ayrım gözetmeyen ve hedeflenmemiş biyometrik veri toplanmasına” da bir yasak getirilmeli. Halkın temsilcilerine göre, ABD şirketi Clearview AI tarafından uygulanan böyle bir uygulama, kabul edilemez kitlesel gözetleme hissine katkıda bulunuyor. Öngörülü polislik ve duygu tanıma, kolluk kuvvetleri, sınır kontrolü, iş ve eğitim ve sosyal puanlama gibi alanlarda da tamamen yasaklanacak.
ChatGPT için geçerli olanlar
ChatGPT gibi yeni hizmetler, en başından itibaren yüksek riskli teknoloji olarak sınıflandırılmaz, ancak sıkı bir şekilde düzenlenmelidir. Uzlaşmaya göre, geniş ölçekte sınıflandırılmamış büyük miktarda veri üzerinde eğitilmiş ve genel bir çıktı için tasarlanmış yapay zeka temel modellerinin operatörleri, sağlık, güvenlik, temel haklar, çevre, demokrasi ve hukukun üstünlüğüne yönelik öngörülebilir riskleri aşağıdakilerle birlikte değerlendirmelidir: bağımsız uzmanların katılımıyla gözden geçirilir ve gerekirse hafifletilir. Eğitim verileri, uzmanların örneğin kaynakların doğruluğunu, olası önyargıları ve bunlara karşı koymak için atılan adımları değerlendirebilmesi için geniş çapta açıklanmalıdır.
Temel modeller ayrıca kullanım ömürleri boyunca uygun seviyede performans, yorumlanabilirlik, düzeltilebilirlik, güvenlik ve BT güvenliği göstermelidir. Üretken yapay zeka kategorisine girerlerse, daha fazla şeffaflık gereksinimlerini karşılamaları ve AB yasalarını ihlal eden veya dezenformasyon ve “sahte haberler” yayan içerik oluşturmaya karşı uygun önlemleri almaları gerekir. Bu, genellikle telif hakkıyla korunan mevcut çalışmalara dayalı olarak yeni metinler, resimler, müzik veya videolar oluşturan ChatGPT, DALL-E, Stable Diffusion ve Midjourney gibi sistemleri içerir. Gerekirse modellerini de temizlemeleri gerekir.
“Tarihi Oy”
OpenAI gibi üretken yapay zeka modellerinin üreticileri de, halk temsilcilerini “telif hakkıyla korunan eğitim verilerinin kullanımının yeterince ayrıntılı bir özetini belgeleme ve kamuya açık hale getirme” zorunluluğu getirmek istiyor. Örneğin, bilimsel makalelerin, web’deki fotoğrafların veya belirli sanatçıların şarkılarının dahil edilip edilmediğini belirtmeniz gerekir. Bu ifşa, yazarların ve kullanıcıların lisans ücreti, telif ücreti veya tazminat talep etmelerini sağlamalıdır. Ayrıca, üretici temel modellerin operatörleri, içeriklerinin insanlar tarafından değil yapay zeka tarafından oluşturulduğunu şeffaf hale getirmek zorunda kalacak.
Sosyal Demokratlardan Raportör Brando Benifei, dünyanın geri kalanına açık bir mesaj gönderen “tarihi bir oylamadan” söz etti. Avrupa devam ediyor ve “yapay zekanın içerdiği risklere somut bir yanıt” veriyor. Eş müzakereci Dragos Tudorache de liberalleri, AI yasasının “yapay zekanın geliştirilmesi ve kontrolünde dünya çapında tonu belirleyeceğine” ikna olmuştu. Teknoloji muazzam avantajlar sunar ve toplumları kökten değiştirebilir. Ancak onları doğru yöne yönlendirmek önemlidir. Rumen’e göre, AB Bakanlar Konseyi ile nihai uzlaşmaya ilişkin bekleyen müzakereler Çarşamba akşamı başlayacak. Üye devletlerin çizgisi hala önemli noktalarda Parlamentonun çizgisinden sapmaktadır.
(mki)
Haberin Sonu