Bilim Kurgu Bilim Gerçeğine Dönüştüğünde: Yapay Zeka İkilemi...

Önde gelen yapay zeka bilim insanları, bir Politika Forumunda yapay zeka teknolojilerinin hızlı gelişmesiyle ilişkili önemli riskler konusunda uyarıda bulunuyor. Büyük teknoloji firmalarının ve kamu fon sağlayıcılarının bütçelerinin en az üçte birini risk değerlendirmesi ve hafifletmeye ayırmasını öneriyorlar. Ayrıca yapay zekanın kötüye kullanımını önlemek için katı küresel standartları savunuyorlar ve yapay zeka gelişimini faydalı sonuçlara yönlendirmek ve potansiyel felaketlerden kaçınmak için proaktif yönetişimin önemini vurguluyorlar.

Yapay zeka uzmanları, kötüye kullanımı önlemek ve yapay zeka gelişimini güvenli bir şekilde yönlendirmek için yapay zeka riskinin azaltılmasına önemli yatırım yapılmasını ve daha sıkı küresel düzenlemeler yapılmasını öneriyor. Araştırmacılar hızla gelişen yapay zeka (AI) teknolojilerinin aşırı riskleri konusunda uyarılarda bulundu ancak bu tehlikelerin nasıl yönetileceği konusunda fikir birliğine varılamadı. Politika Forumunda, dünya lideri yapay zeka uzmanları Yoshua Bengio ve meslektaşları, ilerleyen yapay zeka teknolojilerinin risklerini analiz ediyor. Bunlar arasında sosyal ve ekonomik etkiler, kötü niyetli kullanımlar ve otonom yapay zeka sistemleri üzerindeki insan kontrolünün potansiyel kaybı yer alıyor. Bu riskleri azaltmak için proaktif ve uyarlanabilir yönetişim önlemleri öneriyorlar. Yazarlar, büyük teknoloji şirketlerini ve kamu fon sağlayıcılarını daha fazla yatırım yapmaya ve bütçelerinin en az üçte birini bu riskleri değerlendirmeye ve azaltmaya ayırmaya çağırıyor. Ayrıca küresel yasal kurumları ve hükümetleri yapay zekanın kötüye kullanımını önleyecek standartları uygulamaya davet ediyorlar. 

Sorumlu Yapay Zeka Geliştirme Çağrısı 

"Yapay zekayı olumlu sonuçlara ve felaketten uzaklaştırmak için yeniden yön vermemiz gerekiyor. Sorumlu bir yol var; eğer bu yolu seçecek bilgeliğe sahipsek," diye yazıyor yazarlar.Birçok kritik alanda insan yeteneklerini karşılayabilecek veya aşabilecek genel yapay zeka sistemleri geliştirmek için dünya çapındaki teknoloji şirketleri arasındaki yarışı vurguluyorlar. 

Ancak bu hızlı ilerleme aynı zamanda sosyal adaletsizlikleri artırabilecek, sosyal istikrarı zayıflatabilecek ve büyük ölçekli siber suçları, otomatikleştirilmiş savaşları, kişiselleştirilmiş kitlesel manipülasyonları ve yaygın gözetlemeyi mümkün kılabilecek toplumsal ölçekte riskleri de beraberinde getiriyor. Vurgulanan endişeler arasında, insan müdahalesini etkisiz hale getirecek şekilde otonom yapay zeka sistemleri üzerindeki kontrolü kaybetme potansiyeli de yer alıyor.

Yapay Zeka Araştırmaları için Acil Öncelikler 

Yapay zeka uzmanları, insanlığın bu potansiyel yapay zeka riskleriyle baş etmeye yeterince hazırlıklı olmadığını savunuyor. Yapay zeka yeteneklerini geliştirmeye yönelik çabalarla karşılaştırıldığında, bu teknolojilerin güvenli ve etik bir şekilde geliştirilmesi ve konuşlandırılmasına çok az kaynak yatırıldığını belirtiyorlar. Bu boşluğu gidermek için yazarlar yapay zeka araştırma, geliştirme ve yönetişimine yönelik acil öncelikleri özetlemektedir. Bu araştırma hakkında daha fazla bilgi için bkz. Yapay Zeka Bilim Adamları İnsan Kontrolü Dışındaki Risklerin Ortaya Çıkarılması Konusunda Uyarıyor .