ChatGPT firması OpenAI’nin başkanı Samuel Altman, yapay zeka üreticilerinin ciddi riskler oluşturduğunu kabul etti ve katı düzenleme çağrısında bulundu. ABD Senatosundaki bir duruşmada, şirketin kendi GPT4’ü gibi dil modellerinin ve buna dayalı araçların daha da fazla dezenformasyona yol açacağı, siber suçluları teşvik edeceği ve hatta demokratik seçimlere olan güveni tehlikeye atacağı konusunda diğer katılımcılarla aynı fikirdeydi. Ancak aynı zamanda, yeni teknolojinin olanaklarının risklerden çok daha ağır bastığına da ikna olmuştu. GPT4 gibi dil modelleri bazı meslekleri “otomatikleştirir” ama aynı zamanda birçok yeni meslek yaratır.
Güvenli ABD liderliği
Altman Salı günü Senato Yargı Komitesi önünde ifade verdi ve giriş konuşmasında yeni teknolojinin düzenlenmesi lehinde konuştu. İnsanlar AI teknolojisinin birçok avantajından yararlanırken, yasal gereklilikler güvenliği sağlamak için temel bir ön koşuldur. OpenAI, politikacılara bu konuda yardımcı olmaya çalışıyor. Yapay zeka gelişiminin kilit alanlarında ABD liderliğini sürdürmek için ABD’li yasa koyucularla birlikte çalışmaya kararlıyız. Ayrıca mümkün olduğu kadar çok Amerikalının yapay zekadan faydalanmasını sağlamak istiyorlar.
Yapay zekanın olası tehlikeleri hakkında senatörlerin defalarca dile getirdiği korkular karşısında Altman, en azından en kasvetli senaryoların geçerli olmasına izin vermek istemedi. Mevcut AI devriminin nükleer silahların geliştirilmesiyle karşılaştırılabilir olabileceği birkaç kez önerildi. Photoshop ile paralellikler çizmeyi tercih eden Altman için bu çok ileri gitti. Güçlü görüntü düzenleme programının ortaya çıkmasıyla birlikte, insanların sürüler halinde manipüle edilmiş görüntülere kanacaklarına dair endişeler de vardı. Ancak çoğu, prensip olarak görüntüleri sorgulamaya ve manipülasyonun mümkün olduğunu düşünmeye hızla alıştı. Mevcut gelişme benzerdir, sadece “steroidlerdeki gibi”.
Yapay zekanın işletimi için lisanslar
Teknik geliştirmeyi kontrol etmek için Altman, GPT4 gibi AI modellerini test etmek için bir ABD devlet kurumu kurulmasını önerdi. Teknoloji için bir dizi güvenlik testi yapılmalıdır – örneğin, bağımsız olarak yayılabilir mi? Ek olarak, ABD siyasetinden sorumlu olanlar, politikacıların teknolojiyi kimin geliştirebileceğini ve dağıtabileceğini kontrol edebilmesi için AI teknolojisi sağlayıcılarının lisanslı olup olmadığını kontrol etmelidir. Duruşmada, çatışan her iki tarafta da böyle bir otoritenin kurulmasına destek olduğu anlaşıldı. Sosyal ağların düzenlenmesindeki eksiklikler defalarca hatırlatıldı.
Altman, ChatGPT AI metin oluşturucu ve Dall-E görüntü oluşturucuların arkasındaki şirket olan Open AI’nın kurucu ortağı ve CEO’sudur. Hepsinden önemlisi, ChatGPT ve temel dil modeli GPT4, haftalardır teknoloji endüstrisinin çok ötesinde bir heyecana neden oluyor. İstek üzerine teknoloji, kulağa o kadar tutarlı gelen ve insanlardan gelmiş gibi görünen metinler üretiyor. Ancak aynı zamanda teknoloji gerçek ile gerçek olmayanı ayırt edemiyor, bu nedenle cevaplarda bazen tamamen uydurma kaynaklar yer alıyor. Farklılıklar görülemediğinden, teknolojinin istemeden – ama aynı zamanda kasıtlı olarak – dezenformasyon yaymak için kullanılabileceğine dair artan korkular var.
(mho)
Haberin Sonu
Güvenli ABD liderliği
Altman Salı günü Senato Yargı Komitesi önünde ifade verdi ve giriş konuşmasında yeni teknolojinin düzenlenmesi lehinde konuştu. İnsanlar AI teknolojisinin birçok avantajından yararlanırken, yasal gereklilikler güvenliği sağlamak için temel bir ön koşuldur. OpenAI, politikacılara bu konuda yardımcı olmaya çalışıyor. Yapay zeka gelişiminin kilit alanlarında ABD liderliğini sürdürmek için ABD’li yasa koyucularla birlikte çalışmaya kararlıyız. Ayrıca mümkün olduğu kadar çok Amerikalının yapay zekadan faydalanmasını sağlamak istiyorlar.
Yapay zekanın olası tehlikeleri hakkında senatörlerin defalarca dile getirdiği korkular karşısında Altman, en azından en kasvetli senaryoların geçerli olmasına izin vermek istemedi. Mevcut AI devriminin nükleer silahların geliştirilmesiyle karşılaştırılabilir olabileceği birkaç kez önerildi. Photoshop ile paralellikler çizmeyi tercih eden Altman için bu çok ileri gitti. Güçlü görüntü düzenleme programının ortaya çıkmasıyla birlikte, insanların sürüler halinde manipüle edilmiş görüntülere kanacaklarına dair endişeler de vardı. Ancak çoğu, prensip olarak görüntüleri sorgulamaya ve manipülasyonun mümkün olduğunu düşünmeye hızla alıştı. Mevcut gelişme benzerdir, sadece “steroidlerdeki gibi”.
Yapay zekanın işletimi için lisanslar
Teknik geliştirmeyi kontrol etmek için Altman, GPT4 gibi AI modellerini test etmek için bir ABD devlet kurumu kurulmasını önerdi. Teknoloji için bir dizi güvenlik testi yapılmalıdır – örneğin, bağımsız olarak yayılabilir mi? Ek olarak, ABD siyasetinden sorumlu olanlar, politikacıların teknolojiyi kimin geliştirebileceğini ve dağıtabileceğini kontrol edebilmesi için AI teknolojisi sağlayıcılarının lisanslı olup olmadığını kontrol etmelidir. Duruşmada, çatışan her iki tarafta da böyle bir otoritenin kurulmasına destek olduğu anlaşıldı. Sosyal ağların düzenlenmesindeki eksiklikler defalarca hatırlatıldı.
Altman, ChatGPT AI metin oluşturucu ve Dall-E görüntü oluşturucuların arkasındaki şirket olan Open AI’nın kurucu ortağı ve CEO’sudur. Hepsinden önemlisi, ChatGPT ve temel dil modeli GPT4, haftalardır teknoloji endüstrisinin çok ötesinde bir heyecana neden oluyor. İstek üzerine teknoloji, kulağa o kadar tutarlı gelen ve insanlardan gelmiş gibi görünen metinler üretiyor. Ancak aynı zamanda teknoloji gerçek ile gerçek olmayanı ayırt edemiyor, bu nedenle cevaplarda bazen tamamen uydurma kaynaklar yer alıyor. Farklılıklar görülemediğinden, teknolojinin istemeden – ama aynı zamanda kasıtlı olarak – dezenformasyon yaymak için kullanılabileceğine dair artan korkular var.
(mho)
Haberin Sonu