Roma Bildirgesi: Nobel ödüllü isimlerden yapay zeka ve nükleer silahlar için küresel etik çağrısı
- Bildirgede; yapay zekada "anlamlı insan denetimi", nükleer silahsızlanmada uluslararası iş birliği, etkin küresel teknoloji yönetişimi ve jeopolitik rekabet yerine insan onurunun merkeze alınması çağrısı yapıldı.
- Katılımcılar, teknolojinin yalnızca teknik düzenlemelerle değil, insan-teknoloji ilişkisinin yeniden tanımlanmasıyla yönetilebileceğini savundu. Bilimsel ilerlemede etik ve ortak yararın vurgulandığı bildirgede; otonom sistemlerin temelinde insan kararlarının yer aldığı belirtilerek, yapay zekanın insan yaşamı, değerler ve sorumluluk ilkeleri doğrultusunda geliştirilmesi gerektiği ifade edildi.
Haber: Yeni Özgür Politika
İtalya'nın başkenti Roma'da düzenlenen “Yapay Zeka ve Nükleer Savaş Küresel Nobel Ödüllüleri Genel Kurulu”, yapay zekanın askeri kullanımının yaratabileceği risklere karşı uluslararası topluma ortak hareket etme çağrısında bulundu. Üç gün süren toplantının sonunda kabul edilen Roma Bildirgesi, özellikle yapay zeka destekli silah sistemleri ve nükleer silahların kontrolüne ilişkin etik ilkelerin belirlenmesini istedi.
14-16 Temmuz tarihleri arasında gerçekleştirilen toplantıya 200'ü aşkın Nobel ödüllü bilim insanı, diplomat, teknoloji uzmanı, din insanı ve barış savunucusu katıldı. Katılımcılar, yapay zekanın insanlık yararına geliştirilmesi gerektiğini, askeri sistemlere entegrasyonunun ise küresel güvenlik açısından yeni riskler doğurduğunu vurguladı.
Papa XIV. Leo'nun yapay zekanın gelişimini etik ilkeler çerçevesinde yönlendirme çağrısından ilham alan toplantı, Castel Gandolfo'daki Borgo Laudato Si' merkezinde başladı ve Roma'daki Capitol Tepesi'nde sona erdi.
Ölümcül kararlar makinelere bırakılamaz
Toplantı sonunda kabul edilen "Yapay Zeka, Nükleer ve Otonom Silahlar Çağında Silahsızlanmış ve Silahsızlandırıcı Barış İçin Roma Bildirgesi", ölümcül güç kullanımına ilişkin kararların, özellikle de nükleer silahların kullanımının hiçbir koşulda tamamen makinelere devredilmemesi gerektiğini vurguladı.
Bildirgede, yapay zeka sistemleri üzerinde "anlamlı insan denetiminin" korunması, nükleer silahsızlanma konusunda uluslararası iş birliğinin yeniden güçlendirilmesi, yeni teknolojiler için daha etkin küresel yönetişim mekanizmalarının oluşturulması ve teknolojik gelişmenin jeopolitik rekabet yerine insan onurunu merkeze alan bir anlayışla yürütülmesi çağrısı yapıldı.
Yapay zeka ile nükleer risklerin kesiştiği uyarısı
Katılımcılar, geçmişte yapay zeka ve nükleer silahların çoğunlukla ayrı başlıklar altında ele alındığını, ancak bugün bu iki alanın giderek iç içe geçtiğini belirtti. Yapay zekanın askeri istihbaratın analizinde, savaş alanındaki karar alma süreçlerinde ve otonom silah sistemlerinde giderek daha fazla kullanıldığına dikkat çekilirken, olası bir nükleer kriz sırasında yapılacak küçük bir hata, yanlış hesaplama veya siber müdahalenin geri dönülmez sonuçlar doğurabileceği ifade edildi.
Bildirgede, mevcut nükleer caydırıcılık doktrinlerinin insan karar vericilerin krizleri değerlendirmek için daha fazla zamana sahip olduğu bir dönemde geliştirildiği hatırlatılarak, yapay zekanın bu karar sürelerini saniyelere kadar düşürebileceği ve otomatik karar alma baskısını artırabileceği uyarısında bulunuldu.
Teknoloji etik sorumluluğun önüne geçmemeli
Katılımcılar, tartışmanın yalnızca yeni teknolojilerin düzenlenmesiyle sınırlı olmadığını, insanlığın teknolojiyle kurduğu ilişkinin yeniden tanımlanmasını gerektirdiğini savundu. Bilimsel ilerlemenin etik sorumluluk ve ortak yararın önüne geçmemesi gerektiği vurgulanırken, yapay zekanın yönetiminin yalnızca teknik düzenlemelerle sağlanamayacağı ifade edildi.
Bildirgede ayrıca, algoritmaların ve otonom sistemlerin arkasında her zaman insan kararlarının bulunduğu, bu nedenle yapay zeka alanındaki gelişmelerin değerler, sorumluluk ve insan yaşamının korunması ilkeleri doğrultusunda şekillendirilmesi gerektiği belirtildi.
Toplantının sonunda kabul edilen Roma Bildirgesi'nin hükümetlerin politikalarını ne ölçüde etkileyeceği henüz bilinmese de, katılımcılar teknolojik yeniliklerin etik ilkelerden bağımsız ilerlemesinin küresel barış açısından en büyük tehditlerden biri haline gelebileceği uyarısında bulundu. Bilim insanları ve Nobel ödüllü isimler, yapay zekanın insanlık için bir kazanıma dönüşebilmesi için insan denetimi altında kalması ve uluslararası iş birliği, insan onuru ile yaşam hakkı temelinde geliştirilmesi gerektiğini vurguladı.
Kaynak: www.globalnobelassembly.org
