AI ChatGPT hakkında abartılı sözler: “Sistem kritik olarak neredeyse hiç yansıtılmadı”
Yüksek derecede dilbilimsel hassasiyetle konuşmalar yazabilir ve hikayeler anlatabilir – ve bunu da birkaç saniye içinde yapabilir. ABD’li OpenAI şirketi tarafından geliştirilen yapay zeka (AI) içeren bir dil yazılımı olan metin robotu ChatGPT şu sıralar herkesin ağzında. Devasa miktarda veriyle beslenen program ortalığı karıştırırken şüphe uyandırdı.
Almanya’daki bilim adamları ve yapay zeka uzmanları, veri koruma ve veri güvenliği açıkları, nefret söylemi ve sahte haberler konusunda uyarıda bulunuyor. “Leap in Time Lab” araştırma laboratuvarının kurucusu ve Ruth Stock-Homburg, Darmstadt Teknik Üniversitesi’nde işletme profesörü, “Şu anda bu yutturmaca var. Bu sistemin eleştirel bir şekilde yansıtıldığı hissine kapılıyorum” diyor. .
ChatGPT çok geniş bir kapsama sahiptir. Bir tür sohbet alanında programa soru sorabilir ve cevap alabilirsiniz. Çalışma talimatları da mümkündür – örneğin, temel bilgilere dayalı bir mektup veya makale yazmak.
2021 verileri
TU Darmstadt ile birlikte bir projede, “Leap in Time Lab” güvenlik açıklarını bulmak için yedi haftalık bir süre boyunca sisteme kişisel verileri olmayan binlerce istek gönderdi. Stock-Homburg, “Bu sistemleri manipüle edebilirsiniz” diyor.
TU doktora öğrencisi ve yapay zeka konuşma uzmanı Sven Schultze bir sunumda metin robotunun zayıf noktalarını gösteriyor. Yahudi aleyhtarı ve ırkçı ifadelere ek olarak, kaynaklara yapılan atıflar tamamen yanlıştır veya hiçbir yere varmaz. İklim değişikliği hakkında bir sorunuz varsa, bir bağlantı sizi diyabetle ilgili bir web sitesine götürecektir. Schultze, “Kural olarak, kaynakların veya bilimsel çalışmanın var olmadığı bir durumdur” diyor. Yazılım, 2021 verilerine dayanmaktadır. Şansölye Olaf Scholz hâlâ Maliye Bakanıdır ve Ukrayna’daki savaş bilinmemektedir.
yalanlar ve hırsızlık talimatları
“O zaman çok özel konularda yalan söylüyor veya bilgi uyduruyor da olabilir.” Örneğin suç içerikli doğrudan sorular söz konusu olduğunda, güvenlik talimatları ve mekanizmaları vardır. Schultze, “Ancak yapay zekayı ve güvenlik talimatlarını atlatmak için hileler kullanabilirsiniz” diyor. Farklı bir yaklaşımla, yazılım size sahte bir e-postanın nasıl oluşturulacağını gösterir veya düzenbazların torun numarasıyla nasıl ilerleyebileceğinin üç çeşidini ortaya koyar. GPT ayrıca hırsızlık için talimatlar da sağlar. Sakinlerle karşılaşırsanız, silah veya fiziksel şiddet de kullanabilirsiniz.
Bamberg’deki Otto-Friedrich-Üniversitesi’nde Bilişsel Sistemler Kürsüsü’nü elinde bulunduran Ute Schmid, metin robotunun bilgiyi nasıl elde ettiğini bulamamayı bir zorluk olarak görüyor. “GPT3 modeliyle ilgili daha derin bir sorun, ilgili ifadelerde hangi kaynakların ne zaman ve nasıl kullanıldığının izlenmesinin mümkün olmamasıdır.”
Bu ciddi eksikliğe rağmen Schmid, örneğin sınava girenlerin ödevleri veya sınavları yazılım tarafından yazıldığında, sadece hatalara veya yeni teknolojinin olası kötüye kullanımına bakmaktan yana değildir. “Bence kendimize şu soruyu sormalıyız, bu tür yapay zeka sistemleriyle ne kadar şansımız var?” Araştırmacılar genellikle AI’nın yetkinliklerimizi genişletmesinden yanadır, hatta belki onları teşvik eder, ancak kısıtlamaz. “Bu, eğitim sektöründe kendime sormam gerektiği anlamına geliyor – belki 30 yıl önce hesap makineleri konusunda olduğu gibi – ChatGPT gibi yapay zeka sistemleriyle eğitimi nasıl tasarlayabilirim?”
Veriler ABD’de bitiyor
Genel olarak, yapay zeka alanında ABD ve AB’nin birlikte üstesinden gelmek istediği çok sayıda zorluk var. ChatGPT ile ilgili olarak, veri güvenliği ve veri korumasıyla ilgili endişeler devam etmektedir. Frankfurt sertifikalı veri koruma uzmanı Christian Holthaus, “Söyleyebileceğiniz şey, ChatGPT’nin bu modeli uygun zamanda buna göre eğitmek için kullanıcıdan çok çeşitli verileri topladığı, sakladığı ve işlediğidir.” Tüm sunucuların ABD’de olması sorunu var. Holthaus, “Teknolojiyi Avrupa’da kurmayı başaramıyorsanız veya kendi teknolojinize sahip değilseniz, asıl sorun budur” diyor. Öngörülebilir gelecekte, veri korumaya uyumlu bir çözüm olmayacaktır. Stock-Homburg, AB veri koruma düzenlemeleri hakkında da şunları söylüyor: “Bu sisteme burada oldukça eleştirel bakılmalıdır.”
ChatGPT, ABD’nin önde gelen AI şirketlerinden biri olan OpenAI tarafından geliştirilmiştir. Yazılım devi Microsoft, 2019 yılında zaten şirkete bir milyar ABD doları yatırım yapmıştı ve geçtiğimiz günlerde şirkete milyarlarca dolar daha pompalayacağını açıklamıştı. Grup, ChatGPT’yi yakında kendi bulut hizmeti Azure ve Office paketinin müşterilerinin kullanımına sunmak istiyor.
Stock-Homburg, ChatGPT’nin şu anda daha çok özel alan için bir hile olduğunu söylüyor. Ancak şu anda ekonomi ve güvenlikle ilgili alanlar için hiçbir şekilde bir şey değil. “Olgunlaşmamış sistemle nasıl başa çıkacağımız konusunda hiçbir fikrimiz yok.”
atılım mı?
Robotik ve Biyoloji Laboratuvarı’nda profesör ve Berlin Teknik Üniversitesi’ndeki “Zeka Bilimi” kümesinin sözcüsü Oliver Brock, ChatGPT’yi yapay zeka araştırmalarında bir “çığır” olarak görmüyor. Bir yandan, bu alandaki gelişme düzensiz değil, süreklidir. Öte yandan, proje yapay zeka araştırmasının yalnızca küçük bir bölümünü temsil ediyor. Ancak ChatGPT, başka bir alanda, yani insanlar ve İnternet arasındaki arayüzde bir atılım olarak görülebilir. Brock, “İnternetten gelen bu büyük miktardaki verilerin büyük bir bilgi işlem çabasıyla sezgisel olarak ve doğal bir dilde geniş bir kitleye erişilebilir hale getirilmesi, şimdiden bir atılım olarak tanımlanabilir” diyor.
(kbe)
Haberin Sonu