Trafik ışığı koalisyonu, devlet tarafından konuşlandırılmış yapay zeka (AI) sistemleri için bir kamu sicilinin oluşturulmasına ısınıyor. Kamu yönetiminde otomatik karar verme sistemlerinin kullanımının şeffaf hale getirilmesine yardımcı olmayı amaçlamaktadır. Bu Cuma sabahı Federal Meclis’teki Yeşiller, Federal Hükümet’in BT temsilcisi Markus Richter ile birlikte Federal Meclis’teki bir “parlamento kahvaltısında” AlgorithmWatch organizasyonundan bir kavram belgesi sunacaklar.
“Kamu yönetimi, tekliflerini ve süreçlerini önemli ölçüde iyileştirmek için otomasyon ve yapay zeka süreçlerini kullanabilir” diyor dürtü. Yetkililerin dijital becerilerini geliştirmek, vatandaşların haklarını korumak ve aynı zamanda ortak yararı güçlendirmek için “federal ve eyalet hükümetleri bir AI şeffaflık sicili oluşturmalıdır”. Amaç, kullanılan yöntemler de dahil olmak üzere kamu yönetiminde kullanılan “Otomatik Karar Alma” (ADM) sistemleri hakkında en önemli bilgileri herkesin erişimine açmaktır.
Makaleye göre, bundan önce “yetkilileri algoritmik sistemlerinin tasarımı ve geliştirilmesinde yoğun bir şekilde destekleyen” yapılandırılmış bir prosedür izlenmelidir. Otomasyonun potansiyeli, ancak yetkililerin “sistemlerin hedefe yönelik nasıl kullanılabileceği” ve istenmeyen etkilerin nasıl önlenebileceği sorusunun sağlam temellere dayanan bir değerlendirmesini elde etmesi durumunda kullanılabilir. Etkilenen vatandaşlar, otomatik kararları daha iyi anlayabilecek ve fikri mülkiyet haklarından yararlanabilecektir.
İstenmeyen etkilerden kaçının
AlgorithmWatch’ın kurucu ortağı ve genel müdürü Matthias Spielkamp çevrimiçi olarak “Kamu yönetimi süreçlerini otomatikleştirdiğinde ve süreçte hatalar yaptığında bunun ne kadar feci sonuçlara yol açabileceğini diğer ülkelerde görebiliriz” dedi. Sözde çocuk parası meselesinde, özellikle göçmen aileler, Hollanda’daki on binlerce davada haksız yere sosyal sistemi aldatmakla suçlandı. Avustralya’da benzer bir olay 400.000 sosyal yardım alan kişiyi etkiledi.
Spielkamp, ”Bazen beş haneli meblağların geri alınmasıyla ortaya çıkan varoluşsal zorluğu hayal etmek kolay,” diye vurguluyor. Almanya’da böyle bir şeyin olmaması için elimizden gelen her şeyi yapmalıyız” dedi. Örneğin, “son derece otomatik bir şekilde işlenecek olan” planlanan temel çocuk güvenliğini düşünüyor. Bu sadece kontrolle ilgili değil. ADM uzmanı şunu vurguluyor: “Geliştirdiğimiz gibi bir yapay zeka kaydı, yetkililerin sistemleri iyi ve doğru kullanma konusunda aktif olarak desteklenmesini de sağlayacaktır.”
Yeşil milletvekilleri Misbah Khan ve Anna Christmann, makalenin sunumuna yönelik davette şunları yazıyor: “Trafik ışığı koalisyonu, devlet yapılarını, süreçlerini ve çalışma yöntemlerini modernleştirmeye yönelik merkezi projeyi kendisine belirledi. Dijitalleştirme, otomasyon ve AI kullanımı ve ADM, “devletin insanlara iyi hizmet sunmasını ve insanlarla zamanında iletişim kurmasını sağlamaya önemli bir katkı yaptı”. Otomatik karar alma sistemlerinin kullanıldığı durumlarda, gerekli güveni oluşturmak ve hakları korumak için sağduyu ve açıklık gerekir. Ayrımcılığa karşı özgürlük olarak “, Khan ayrıca vurguladı. Bir ADM kaydı “önemli katma değer sağlayabilir”.
Yüksek riskli alanlarda etiketleme zorunluluğu
Ocak ayında, AI ile ilgili bir görüş belgesinde, SPD parlamento grubu daha fazla şeffaflık ve “yüksek riskli bölgedeki tüm AI uygulamaları için zorunlu etiketleme” lehinde konuştu. Devletin bu alanda, özellikle “güvenlik, göç, iltica veya vergiler alanlarında tasarruf yetkisi bulunan” kamu kurumlarında özel bir sorumluluğu vardır. Sosyal Demokratlar, bu zorunluluğa “herkesin erişebileceği ve amaçları da dahil olmak üzere devlet tarafından kullanılan tüm AI uygulamalarını listeleyen bir kayıtla” karşı çıkmak istiyor. Bunun için yalnızca “kesinlikle sınırlı istisnalar” olmalıdır.
Liberaller arasında da projeyi destekleyenler var. Berlin Temsilciler Meclisi’ndeki FDP parlamento grubu, Şubat ayında tekrarlanan seçimlerin ardından ayrılmadan önce, başkent parlamentosuna “İdarede Otomatik Karar Alma Süreçlerine İlişkin Prosedür Rehberi” için bir önerge sundu. Böyle bir çevrimiçi kayıt, “bilim, sivil toplum, gazetecilik gibi dış taraflarca bağımsız doğrulama sağlamak için kamu yönetiminde otomasyon sistemlerinin kullanımına ilişkin tüm ilgili verileri içermelidir” diyor. Genel olarak, “özerklik, adalet ve hakkaniyet, zarardan kaçınma ve vatandaşların refahı, ofislerde AI için temel standartlar olmalıdır”.
(eski)
Haberin Sonu
“Kamu yönetimi, tekliflerini ve süreçlerini önemli ölçüde iyileştirmek için otomasyon ve yapay zeka süreçlerini kullanabilir” diyor dürtü. Yetkililerin dijital becerilerini geliştirmek, vatandaşların haklarını korumak ve aynı zamanda ortak yararı güçlendirmek için “federal ve eyalet hükümetleri bir AI şeffaflık sicili oluşturmalıdır”. Amaç, kullanılan yöntemler de dahil olmak üzere kamu yönetiminde kullanılan “Otomatik Karar Alma” (ADM) sistemleri hakkında en önemli bilgileri herkesin erişimine açmaktır.
Makaleye göre, bundan önce “yetkilileri algoritmik sistemlerinin tasarımı ve geliştirilmesinde yoğun bir şekilde destekleyen” yapılandırılmış bir prosedür izlenmelidir. Otomasyonun potansiyeli, ancak yetkililerin “sistemlerin hedefe yönelik nasıl kullanılabileceği” ve istenmeyen etkilerin nasıl önlenebileceği sorusunun sağlam temellere dayanan bir değerlendirmesini elde etmesi durumunda kullanılabilir. Etkilenen vatandaşlar, otomatik kararları daha iyi anlayabilecek ve fikri mülkiyet haklarından yararlanabilecektir.
İstenmeyen etkilerden kaçının
AlgorithmWatch’ın kurucu ortağı ve genel müdürü Matthias Spielkamp çevrimiçi olarak “Kamu yönetimi süreçlerini otomatikleştirdiğinde ve süreçte hatalar yaptığında bunun ne kadar feci sonuçlara yol açabileceğini diğer ülkelerde görebiliriz” dedi. Sözde çocuk parası meselesinde, özellikle göçmen aileler, Hollanda’daki on binlerce davada haksız yere sosyal sistemi aldatmakla suçlandı. Avustralya’da benzer bir olay 400.000 sosyal yardım alan kişiyi etkiledi.
Spielkamp, ”Bazen beş haneli meblağların geri alınmasıyla ortaya çıkan varoluşsal zorluğu hayal etmek kolay,” diye vurguluyor. Almanya’da böyle bir şeyin olmaması için elimizden gelen her şeyi yapmalıyız” dedi. Örneğin, “son derece otomatik bir şekilde işlenecek olan” planlanan temel çocuk güvenliğini düşünüyor. Bu sadece kontrolle ilgili değil. ADM uzmanı şunu vurguluyor: “Geliştirdiğimiz gibi bir yapay zeka kaydı, yetkililerin sistemleri iyi ve doğru kullanma konusunda aktif olarak desteklenmesini de sağlayacaktır.”
Yeşil milletvekilleri Misbah Khan ve Anna Christmann, makalenin sunumuna yönelik davette şunları yazıyor: “Trafik ışığı koalisyonu, devlet yapılarını, süreçlerini ve çalışma yöntemlerini modernleştirmeye yönelik merkezi projeyi kendisine belirledi. Dijitalleştirme, otomasyon ve AI kullanımı ve ADM, “devletin insanlara iyi hizmet sunmasını ve insanlarla zamanında iletişim kurmasını sağlamaya önemli bir katkı yaptı”. Otomatik karar alma sistemlerinin kullanıldığı durumlarda, gerekli güveni oluşturmak ve hakları korumak için sağduyu ve açıklık gerekir. Ayrımcılığa karşı özgürlük olarak “, Khan ayrıca vurguladı. Bir ADM kaydı “önemli katma değer sağlayabilir”.
Yüksek riskli alanlarda etiketleme zorunluluğu
Ocak ayında, AI ile ilgili bir görüş belgesinde, SPD parlamento grubu daha fazla şeffaflık ve “yüksek riskli bölgedeki tüm AI uygulamaları için zorunlu etiketleme” lehinde konuştu. Devletin bu alanda, özellikle “güvenlik, göç, iltica veya vergiler alanlarında tasarruf yetkisi bulunan” kamu kurumlarında özel bir sorumluluğu vardır. Sosyal Demokratlar, bu zorunluluğa “herkesin erişebileceği ve amaçları da dahil olmak üzere devlet tarafından kullanılan tüm AI uygulamalarını listeleyen bir kayıtla” karşı çıkmak istiyor. Bunun için yalnızca “kesinlikle sınırlı istisnalar” olmalıdır.
Liberaller arasında da projeyi destekleyenler var. Berlin Temsilciler Meclisi’ndeki FDP parlamento grubu, Şubat ayında tekrarlanan seçimlerin ardından ayrılmadan önce, başkent parlamentosuna “İdarede Otomatik Karar Alma Süreçlerine İlişkin Prosedür Rehberi” için bir önerge sundu. Böyle bir çevrimiçi kayıt, “bilim, sivil toplum, gazetecilik gibi dış taraflarca bağımsız doğrulama sağlamak için kamu yönetiminde otomasyon sistemlerinin kullanımına ilişkin tüm ilgili verileri içermelidir” diyor. Genel olarak, “özerklik, adalet ve hakkaniyet, zarardan kaçınma ve vatandaşların refahı, ofislerde AI için temel standartlar olmalıdır”.
(eski)
Haberin Sonu