Yapay Zeka "Deadbots" Sevdiklerimizi Mezarın Ötesinden Dijital Olarak "Perdeleyebilir"

Cambridge araştırmacıları, ölen bireyleri taklit eden 'deadbot'ların (yapay zeka) psikolojik tehlikeleri konusunda uyarıyor, kötüye kullanımı önlemek ve saygılı etkileşimi sağlamak için etik standartlar ve rıza protokolleri çağrısında bulunuyor.

Cambridge Üniversitesi'ndeki araştırmacılara göre , kullanıcıların kayıp sevdikleriyle yazılı ve sesli görüşmeler yapmasına olanak tanıyan yapay zeka, psikolojik zarara yol açma ve hatta tasarım güvenliği standartları olmadan geride kalanlara dijital olarak "musallat" olma riskini taşıyor. 'Deadbot'lar veya 'Griefbot'lar, geride bıraktıkları dijital ayak izlerini kullanarak ölülerin dil kalıplarını ve kişilik özelliklerini simüle eden yapay zeka sohbet robotlarıdır. Bazı şirketler halihazırda bu hizmetleri sunuyor ve tamamen yeni bir tür "ölüm sonrası varlık" sağlıyor. Cambridge'in Leverhulme Zekanın Geleceği Merkezi'nden yapay zeka etik uzmanları, "yüksek riskli" olarak tanımladıkları bir yapay zeka alanında dikkatsiz tasarımın potansiyel sonuçlarını göstermek için gelişen "dijital ölümden sonraki yaşam endüstrisinin" bir parçası olarak ortaya çıkabilecek platformlar için üç tasarım senaryosunun ana hatlarını çiziyor. .” 

Yapay Zeka Chatbotlarının Kötüye Kullanımı

 Felsefe ve Teknoloji dergisinde yayınlanan araştırma , şirketlerin ölü robotları kullanarak kullanıcılara, ölen sevilen birinin yaptığı gibi gizlice ürün reklamı yapma veya ölü bir ebeveynin hâlâ "yanınızda" olduğu konusunda ısrar ederek çocuklara sıkıntı verme potansiyelini vurguluyor. Yaşayanlar öldükten sonra neredeyse yeniden oluşturulmak üzere kaydolduğunda, ortaya çıkan sohbet robotları şirketler tarafından hayatta kalan aile ve arkadaşlara sağladıkları hizmetlerle ilgili istenmeyen bildirimler, hatırlatıcılar ve güncellemeler göndermek için kullanılabilir; bu, dijital olarak "ölü tarafından takip edilmeye benzer" .” Araştırmacılar, ilk başta bir "ölü robot"tan teselli bulanların bile "ezici bir duygusal yük haline gelen günlük etkileşimler nedeniyle tükenebileceğini", ancak aynı zamanda ölen sevdiklerinin uzun bir sözleşme imzalaması durumunda bir yapay zeka simülasyonunu askıya alma konusunda güçsüz olabileceklerini ileri sürüyor. dijital ahiret hizmetiyle sözleşme yapın.

Cambridge'in Leverhulme Zekanın Geleceği Merkezi'nde çalışmanın ortak yazarı ve araştırmacısı olan Dr. Katarzyna Nowaczyk-Basińska, "Üretken yapay zekadaki hızlı ilerlemeler, İnternet erişimi ve bazı temel bilgi birikimine sahip neredeyse herkesin, ölen sevilen birini canlandırabileceği anlamına geliyor" dedi ( LCFI). “Yapay zekanın bu alanı etik bir mayın tarlasıdır. Merhumun onuruna öncelik vermek ve bunun örneğin dijital ahiret hizmetlerinin mali amaçları tarafından ihlal edilmemesini sağlamak önemlidir. Aynı zamanda kişi, acısını bu şekilde işlemeye hazır olmayan sevdiklerine veda hediyesi olarak bir yapay zeka simülasyonu bırakabilir. Hem veri bağışçılarının hem de yapay zekanın ölümden sonraki hizmetleriyle etkileşime girenlerin hakları eşit şekilde korunmalıdır."

Mevcut Hizmetler ve Varsayımsal Senaryolar 

Kendi sistemlerini geliştirmeden önce GPT modellerinden ve 'HereAfter' gibi uygulamalardan yararlanmaya başlayan 'Project Aralık' gibi ölüleri küçük bir ücret karşılığında AI ile yeniden yaratmayı teklif eden platformlar zaten mevcut. Benzer hizmetler Çin'de de ortaya çıkmaya başladı. Yeni makaledeki potansiyel senaryolardan biri “MaNana”dır: insanların, “veri bağışçısının” (ölen büyükanne veya büyükbabanın) izni olmadan ölen büyükannelerini simüle eden bir ölü robot oluşturmasına olanak tanıyan, konuşmaya dayalı bir yapay zeka hizmeti. Varsayımsal senaryoda, başlangıçta teknolojiden etkilenen ve onu rahatlatan yetişkin bir torunun, "premium deneme" sona erdiğinde reklam almaya başlaması öngörülüyor. Örneğin, ölen kişinin sesi ve tarzıyla yemek dağıtım hizmetlerinden sipariş vermeyi öneren chatbot. Akraba, büyükannesinin anısına saygısızlık ettiklerini düşünüyor ve ölü robotun kapatılmasını istiyor, ancak bunu anlamlı bir şekilde, hizmet sağlayıcıların dikkate almadığı bir şey.

Cambridge LCFI'den ortak yazar Dr. Tomasz Hollanek, "İnsanlar bu tür simülasyonlarla güçlü duygusal bağlar geliştirebilir ve bu da onları manipülasyona karşı özellikle savunmasız hale getirebilir" dedi. “Ölü robotları onurlu bir şekilde emekliye ayırmanın yöntemleri ve hatta ritüelleri dikkate alınmalıdır. Bu, örneğin bir tür dijital cenaze töreni veya sosyal bağlama bağlı olarak başka tür törenler anlamına gelebilir. Deadbot'ların reklam yapmak veya sosyal medyada aktif olarak yer almak gibi saygısız şekillerde kullanılmasını önleyen tasarım protokolleri öneriyoruz." Hollanek ve Nowaczyk-Basińska, yeniden yaratma hizmetleri tasarımcılarının, veri bağışçılarından aktif olarak onay almaları gerektiğini söylerken, rıza göstermeyen bağışçılara dayalı ölü robotlara yönelik bir yasağın mümkün olmayacağını savunuyorlar. Tasarım süreçlerinin, sevdiklerini “diriltmek” isteyenler için 'X ile nasıl hatırlanmak istedikleri hakkında hiç konuştunuz mu?' gibi bir dizi ipucu içermesi gerektiğini öne sürüyorlar, böylece ölen kişinin haysiyeti ön plana çıkıyor. deadbot geliştirmede. 

Yaş Sınırlamaları ve Şeffaflık 

Makalede yer alan bir başka senaryo, "Paren't" adlı hayali bir şirket, ölümcül hasta bir kadının, sekiz yaşındaki oğluna yas sürecinde yardımcı olmak için bir robotu bırakma örneğini vurguluyor. Deadbot başlangıçta terapötik bir yardım olarak yardımcı olsa da yapay zeka, çocuğun ihtiyaçlarına uyum sağladıkça, örneğin yaklaşan yüz yüze bir karşılaşmayı tasvir etmek gibi, kafa karıştırıcı yanıtlar üretmeye başlar. Araştırmacılar, ölü robotlar için yaş sınırlaması öneriyor ve ayrıca kullanıcıların bir yapay zeka ile etkileşimde olduklarının sürekli olarak farkında olmalarını sağlamak için "anlamlı şeffaflık" çağrısında bulunuyor. 

Bunlar, örneğin nöbetlere neden olabilecek içeriklerle ilgili mevcut uyarılara benzer olabilir. Çalışma tarafından incelenen son senaryo - "Stay" adlı kurgusal bir şirket - yaşlı bir kişinin, yetişkin çocuklarını rahatlatacağı ve torunlarının da özgürleşmesine olanak sağlayacağı umuduyla gizlice kendi kendini bir çıkmaza soktuğunu ve yirmi yıllık bir abonelik ödediğini gösteriyor. onları tanı. Ölümden sonra hizmet devreye giriyor. Yetişkin bir çocuk devreye girmiyor ve ölen ebeveynlerinin sesiyle bir e-posta yağmuru alıyor. Bir diğeri bunu yapar, ancak sonunda duygusal olarak bitkin düşer ve ölü robotun kaderi yüzünden suçluluk duygusuna kapılır. 

Ancak deadbot'un askıya alınması, ebeveynlerinin hizmet şirketiyle imzaladığı sözleşmenin şartlarını ihlal etmek anlamına gelir. Hollanek, "Dijital ölümden sonraki yaşam hizmetlerinin yalnızca yeniden yarattıklarının değil, simülasyonlarla etkileşime girmek zorunda kalacak olanların haklarını ve rızasını dikkate alması hayati önem taşıyor" dedi. "Bu hizmetler, kaybettikleri kişilerin endişe verici derecede doğru AI yeniden yaratımları nedeniyle istenmeyen dijital tacizlere maruz kalmaları durumunda, insanlara büyük sıkıntı yaratma riskini taşıyor. Potansiyel psikolojik etki, özellikle de zaten zor olan bir zamanda, yıkıcı olabilir.” Araştırmacılar, tasarım ekiplerine, potansiyel kullanıcıların ölü robotlarla ilişkilerini duygusal kapanış sağlayacak şekilde sonlandırmasına olanak tanıyan devre dışı bırakma protokollerine öncelik vermeleri çağrısında bulunuyor. Nowaczyk-Basińska şunu ekledi: "Dijital ölümsüzlüğün sosyal ve psikolojik risklerini nasıl azaltacağımızı şimdi düşünmeye başlamalıyız çünkü teknoloji zaten burada." 

Referans: Tomasz Hollanek ve Katarzyna Nowaczyk-Basińska, 9 Mayıs 2024, Felsefe ve Teknoloji . DOI: 10.1007/s13347-024-00744-w