Kıyamete karşı: Bilim insanları yapay zeka için bir “sonlandırma anahtarı” çağrısında bulunuyor
Yapay zeka (AI), birçok insanın Skynet'in Terminatör gibi katil robotlarla ortalığı karıştıracağı korkusunu artırıyor. Cambridge, Harvard ve Toronto üniversitelerinin yanı sıra ChatGPT üreticisi OpenAI'den oluşan bir bilim insanı ekibi bu nedenle, sıklıkla korkulan teknoloji odaklı kıyameti önlemenin ve Avrupa Yapay Zeka Yasası gibi çabaların ötesinde yapay zekayı temelden düzenlemenin yollarını aradı. Çarşamba günü yayınlanan ve henüz dış araştırmacılar tarafından kontrol edilmeyen bir ön baskı makalesinde, donanımla başlamayı öneriyorlar.
Reklamcılık
Makalenin yazarları, yüksek performanslı çiplerin, sinir ağlarının ve üretken, genel amaçlı yapay zeka sistemlerinin eğitimi için temel olduğunu vurguluyor. Bu tür yarı iletkenlerin dünya çapındaki satışlarını takip etmek ve bunları uzaktan kapatmak için onlara bir tür “sonlandırma anahtarı” sağlamak önemlidir.
Özellikle bilim insanları yapay zeka çiplerinin satışı için küresel bir kayıt sistemi getirilmesini öneriyor. Bunun amacı, bu temel bileşenlerin, üretildikleri ülkeden ihraç edilmiş olsalar bile tüm yaşam döngüleri boyunca takip edilebilmesini sağlamaktır. Böyle bir dizin, karşılık gelen her yarı iletkene benzersiz bir tanımlayıcı (ID) dahil edebilir. Uzmanlar başlangıçta bunu yüksek performanslı bilgisayarların bu tür bileşenlerinin kaçakçılığıyla mücadeleye bir katkı olarak görüyor. Ancak bununla kalmıyorlar, “acil durdurma anahtarlarını” da devreye sokuyorlar. Onlara göre çiplerin “kötü amaçlı uygulamalarda” kullanılmasını önlemek için silikonun içine bir tane entegre edilebilir.
Kod politikayı oluşturur
Ekip, “Çip üzerinde oturan uzman ortak işlemciler, kriptografik olarak imzalanmış bir dijital 'sertifikaya' sahip olabilir” diye açıklıyor. İzin verilen kullanımlara yönelik entegre kılavuz daha sonra “ürün yazılımı güncellemeleri aracılığıyla uzaktan” sağlanabilir. Çip lisansına ilişkin yetki, sorumlu bir düzenleyici makam tarafından düzenli olarak yenilenebilir; çip üreticisi spesifikasyonları teknolojiye uygulayabilir ve böylece bunları uygulayabilir.
Gazete, “Süresi dolmuş veya geçersiz bir lisans, çipin arızalanmasına veya performansının düşmesine neden olabilir” diyor. Çevrimiçi dergi The Register'ın girişim hakkında bildirdiğine göre, teorik olarak bu yaklaşım, düzenleyicilerin “çiplere erişimi uzaktan engelleyerek hassas teknolojilerin kötüye kullanılmasına daha hızlı yanıt vermelerine” olanak tanıyabilir.
Ancak yazarlar böyle bir yaklaşımın tehlikeleri de barındırdığının bilincindedir. Yanlış uygulanırsa, bir öldürme anahtarı siber suçluların hedefi haline gelebilir veya diktatörler tarafından toplumlar için önemli olan yapay zeka işlevlerini az çok felç etmek için kötüye kullanılabilir. Ek bir önlem olarak araştırmacılar, potansiyel olarak riskli yapay zeka eğitim görevlerini büyük ölçekte kullanılmadan önce birden fazla tarafın onaylamasını öneriyor. Haksız veya kasıtsız kullanımı önlemek için “Nükleer silahların benzer mekanizmalar kullandığını” söylüyorlar. Güvenlik kilitleri aynı zamanda kişinin kontrolsüz hareket etmesini ve ilk vuruşu yapmasını engellemeye yöneliktir.
Yapay zeka bilgi işlem gücünü yalnızca belirli gruplara tahsis edin
Bilim insanlarına göre bu, yapay zekaya uygulandığında şu anlama gelebilir: Bir kişi veya şirket, bulutta belirli bir eşiğin üzerinde bir model eğitmek istiyorsa, öncelikle bunun için izin alması gerekir. Ancak bu aynı zamanda arzu edilen yapay zeka yeniliklerinin gelişimini yavaşlatarak ve hatta durdurarak geri tepebilir. Nükleer silahlardan farklı olarak yapay zekanın geliştirilmesi her zaman tek bir amaca hizmet etmez ve hiçbir şekilde genel olarak zararlı değildir.
Genel olarak yazarlar, yapay zeka kaynaklarının bir bütün olarak toplumun yararına yeniden dağıtılması olanaklarını da araştırıyorlar: “Tahsis kavramına” göre, siyasi karar vericiler, yapay zeka hesaplama gücünü, bunu gerçekleştirmesi muhtemel olmayan belirli gruplar için daha erişilebilir hale getirmek için bir araya gelebilirler. onları kötü amaçlarla kullansın.
Ekip aynı zamanda hem askeri hem de sivil amaçlarla (“ikili kullanım”) kullanılabilecek malların, malzemelerin, yazılımların ve diğer teknolojilerin ihracatına ilişkin gereklilikler gibi mevcut düzenleyici araçları da ele alıyor. AB Parlamentosu, 2021 civarında, devlet truva atları veya biyometrik yüz tanıma sistemleri gibi, insanların büyük miktarda veri toplayarak gizlice izlenebildiği ürünler için de geçerli olan bir yönergeyi kabul etti. Geçen yıl ABD Başkanı Joe Biden da büyük, çift kullanımlı yapay zeka modelleri geliştiren şirketlerin belirlenmesine yönelik bir düzenleme sunmuştu. Bunları eğitebilecek altyapı sağlayıcıları da kayıt altına alınmalıdır.
ABD zaten ihracat engellerini sıkılaştırdı
ABD Ticaret Bakanlığı ayrıca ulusal bulut sağlayıcılarının müşterilerini incelemek için daha katı kurallar getirmesini zorunlu kılmak istiyor. Bunun amacı, etkilenen bireylerin veya ülkelerin ihracat kısıtlamalarını aşmasını önlemektir. Bilim insanları, ilgili şeffaflığın değerli olduğunu ve başka bir silahlanma yarışını durdurabileceğini belirtiyor. Ancak bu raporlama yükümlülüklerine uyum, müşterilerin mahremiyetini ihlal etmek ve gizli verilerin kaybına katkıda bulunmak gibi ikincil bir amaca sahip olacaktır. ABD ticaret bakanlığı, grafik hızlandırıcıların ve yapay zeka gelişimi için önemli olan diğer bileşenlerin ihracatına yönelik engelleri zaten sıkılaştırdı. Bununla birlikte, bu tür gereksinimler genellikle nispeten kolay bir şekilde aşılabilir.
Bir “sonlandırma anahtarı” çağrısı tamamen yeni değil. 2017 gibi erken bir tarihte AB Parlamentosu, geliştiricilerin robotlara yönelik makine tasarımına acil durdurma anahtarı biçimindeki “açık serbest bırakma mekanizmalarını” entegre etmelerini savundu. 2011 yılında medya bilimcisi Evgeny Morozov bunu, bilgisayar korsanlarının gözetleme teknolojisi için bir durdurma anahtarını uzaktan etkinleştirerek onu felç etme seçeneği olarak tanımladı. Ancak onun da siber-endüstriyel kompleksin “silahlarını” bu şekilde tersine çevirmenin sonuçlarıyla ilgili endişeleri vardı.
(benim)
Haberin Sonu