AB projesi: Çocuk istismarını önlemek için gönüllü cihaz tarayıcı
Pedofil olan veya halihazırda çocuklara cinsel istismarda bulunan kişiler, akıllı telefonlar gibi cihazlarına Çocuk Cinsel İstismarı Materyalleri (CSAM) için gönüllü olarak bir tarayıcı yüklemelidir. Berlin Üniversite Hastanesi Charité tarafından koordine edilen Avrupa projesi Protech bu yaklaşımı izliyor. AB Komisyonu, ilgili bir prototipin geliştirilmesini ve bunun umut edilen önleyici etkisine ilişkin ilgili çalışmaları 2 milyon avro ile finanse ediyor.
Gönüllü kendi kendini izleme yoluyla önleme
Komisyonun kamu alımları veri tabanındaki ilgili girişe göre, çevrimiçi olarak sunulan çocuk cinsel istismarı materyalinin miktarı ve buna yönelik küresel talep “benzeri görülmemiş seviyelere ulaştı”. İlgili taraflar bu iddia için herhangi bir kanıt sunmuyor. AB nakit enjeksiyonuna rağmen Protech’e önemli ölçüde dahil olan İngiliz çocuk koruma kuruluşu Internet Watch Foundation (IWF), Charité’deki Cinsel Bilimler ve Cinsel Tıp Enstitüsü müdürü Klaus Beier’den yaptığı açıklamada uyarıda bulunuyor: ” Çocukların cinsel sömürüsüne yönelik materyallerin tüketiminin ve yayılmasının artması, uluslararası kaygı uyandıran bir sorundur.”
Bu nedenle Beier, “adli makamlarca bilinmeyen” durumlarda CSAM ile ilgili kullanıcı davranışının araştırılmasının gerekli olduğunu düşünmektedir. “Önleme için en büyük potansiyelin yattığı yer burası olmasına rağmen” bu, geçmişte büyük ölçüde ihmal edilmiştir. Çünkü bildirilmeyen vakaların karşılık gelen sayısı yüksektir. Bu nedenle tarayıcı, kullanımı başlatmaktan veya sürdürmekten kaçınmak isteyen, çocuk cinsel istismarı görüntülerinin kendi kendini motive eden ve işbirliğine dayalı potansiyel veya gerçek kullanıcılarına yöneliktir.”
Tartışmalı AI tabanlı filtreler
İlgili kişiler, önerilen filtre aletine Roma sağlık, şifa ve esenlik tanrıçasından sonra Salus adını verdiler. Siber güvenlik konusunda uzmanlaşmış ve IWF’ye göre halihazırda “yenilikçi gerçek zamanlı gözetim teknolojisi kullanan” İngiliz şirketi SafeToNet tarafından geliştirilecek. Uygulamanın tasarlanmasına yardımcı olmak için Birleşik Krallık’taki Anglia Ruskin Üniversitesi’ndeki bir polislik enstitüsü ve Hollanda’daki Tilburg Üniversitesi’ndeki Gelişim Psikolojisi Bölümü gibi diğer ekip üyelerinin, suçluların neden ve nasıl CSAM kullanmaya başladıklarını ve neyin yardımcı olabileceğini araştırdıkları söyleniyor. durdururlar.
Çevrim içi çocuklara yönelik cinsel istismar resim ve videolarının izlenmesi ve silinmesi konusunda kendisini Avrupa’nın en büyük yardım hattı olarak ilan eden IWF, “uygulamanın makine öğrenimi yazılımını eğitmek ve test etmek için güvenli bir ortam sağlamayı” amaçlıyor. Bu, uygulamanın CSAM’yi “doğru şekilde tanımasını” sağlamak içindir. Yapay zekaya (AI) dayalı ilgili filtrelerin işlevselliği tartışmalıdır. Sivil haklar aktivistleri ve araştırmacıları şüpheci olsa da, Komisyon şu anda kullanımda olan tarayıcıların doğruluğunu iyi olarak değerlendiriyor: hata oranı, hash edilmemiş, yani henüz bilinmeyen içerik için bile bazen yüzde 0,1’e kadar çıkıyor. Brüksel hükümet kurumu, aktör Ashton Kutcher’ın ortak kurucusu olduğu ABD’li kuruluşlar Thorn ve Safer’den alınan asılsız bilgilere güveniyor.
“Suçlu içeriği” kullanıcıdan gizleyin
IWF’ye göre Salus, “suç içeriğinin görüntülenmesini kullanıcı tarafından görülmeden önce tespit etmek ve durdurmak için gerçek zamanlı olarak çalışmalı”. İlgili taraflar, kullanılan teknoloji hakkında henüz daha fazla ayrıntı vermedi. Aynı zamanda, Komisyon’un sohbet kontrolü girişimi konusundaki anlaşmazlık AB’de hararetli. Bu aynı zamanda WhatsApp, Apple, Signal ve Threema gibi tutarlı bir şekilde şifrelenmiş mesajlaşma ve diğer iletişim hizmetleri sağlayıcılarının, kullanıcılarının mesajlarında çocuk istismarı içeren fotoğraf ve videoları bulmak için resmi emirlerle yükümlü kılınmasına da izin vermelidir. Mesajlar bir sunucuya gönderilebilir veya doğrudan uç cihazlarda incelenebilir. Federal hükümet, uçtan uca şifrelemeyi atlatmak için kullanılabilecek bu ikinci “istemci tarafı taramaya” (CSS) özellikle karşı çıkıyor.
Protech Mart ayında piyasaya çıkacak. Tarayıcı faaliyete geçtiğinde, Almanya, Hollanda, Belçika, İrlanda ve Birleşik Krallık’ta 11 aylık bir süre içinde 50’den fazla profesyonel ve en az 180 kullanıcıyı içeren bir pilot aşamanın başlatılması planlanıyor. IWF’ye göre SafeToNet, “yazılımı daha da geliştirmek ve uyarlamak için” bu test işlemi sırasında geri bildirimlerini kullanacaktır. Projenin bir kısmı, “müdahalenin” Avrupa’daki potansiyel erişimini ve etkisini değerlendirmektir. Uzmanların “halk sağlığını önleme programlarının bir parçası olarak nasıl etkili bir şekilde uygulanabileceğine ilişkin” tavsiyelerini dikkate alacaktır.
İlgililer, yaklaşımın orta vadede “ilk CSAM suçunu işleme riski taşıyanlar için erken müdahale yoluyla önleme programlarının kullanılabilirliğini ve kalitesini artıracağını” umuyor. Mağdurların tekrar istismara uğrama riskleri de azaltılmalıdır. Genel olarak, kötüye kullanım tasvirlerine yönelik küresel talebi ve kolluk kuvvetlerinin iş yükünü azaltmaya çalışıyorlar. Sivil haklar örgütü European Digital Rights’tan (EDRi) Ella Jakubowska, “Euractiv” portalına karşı “‘taşmayı’ önlemek için sıkı güvenlik önlemlerinin alınması gerektiği” uyarısında bulundu. Teknolojinin nihai olarak üçüncü şahıslar tarafından cihazların izlenmesi için kullanılmadığından emin olunmalıdır.
(iki)
Haberin Sonu