• Yapay zekanın kontrolü ele geçirip bizi yok edeceği iddiası, sürekli tekrarlanan eski bir anlatı ve dolayısıyla bir abartı. Fakat toplum ne kadar ırkçı, cinsiyetçi veya antisemitikse yapay zeka sistemleri de bu önyargıları o ölçüde yansıtır.
  • Yapay zeka çalışma hayatı, iklim, eğitim, demokrasi, gözetim teknolojileri, bilişim güvenliği ve askeri alanların yanı sıra sorgulamadan pazarlama yapan medya için de tehlike yaratıyor. Asıl sorun bunun kontrol edilemez olması değil, kontrol edilmemesi.

Anne Roth* - Çeviri: Yeni Özgür Politika

Yapay zekanın asıl tehlikesi, kontrolden çıkması değil, yeterince denetlenmemesi ve düzenlenmemesi.

ABD Başkanı Donald Trump kısa süre önce Beyaz Saray’da en büyük teknoloji şirketlerinin yöneticilerini bir araya getirdi. Toplantının asıl mesajı şuydu: Şirketler yapay zeka alanında bundan sonra da kendi kendilerini denetlemeye devam edebileceklerdi.

Eylül ortasında yapay zeka geliştiricisi Jacob Coxon, X üzerinden yaptığı açıklamayla ABD merkezli Anthropic şirketindeki işinden ayrıldığını duyurdu. Gerekçesi, yapay zekanın artık fazla tehlikeli hâle gelmiş olmasıydı. Ardından şaşırtıcı bir gelişme yaşandı: Hem Anthropic’in hem de rakip şirket OpenAI’ın yöneticileri, yapay zekanın taşıdığı riskler konusunda büyük endişe duyduklarını açıkladılar. Almanya’daki birçok medya kuruluşu da bu açıklamalara geniş yer verdi.

Bunun ardından bana, durumun gerçekten ne kadar tehlikeli olduğuna ilişkin pek çok soru geldi.

Anne Roth; özellikle kitlesel gözetim, internet hakları, veri güvenliği ile dijital ve siber politika alanlarında uzmanlaşmış Alman bir siyaset bilimci, aktivist ve yazardır./foto:Wikipedia

Asıl şaşırtıcı olan…

Beni şaşırtan, bu insanların böyle açıklamalar yapması değil. İnsanların bundan endişe duyması da şaşırtıcı değil. Asıl şaşırtıcı olan, şirket yöneticilerinin bakış açısının birçok medya kuruluşunda neredeyse hiç sorgulanmadan aktarılması.

Çünkü ortada yeni söylenmiş bir şey yoktu. “Yapay zeka yakında kontrolü ele geçirecek ve hepimiz öleceğiz” iddiası, birkaç ayda bir yeniden karşımıza çıkan eski bir anlatıdan ibaret.

Buna verilecek doğru yanıt da yeni değil: Ortada gerçekten “akıllı makineler” yok ve yakın gelecekte ortaya çıkacaklarına dair bir işaret de bulunmuyor.

Bugün yapay zeka olarak adlandırılan sistemler hâlâ olasılık hesapları yapan yazılımlardan ibaret. İnsan zekası dediğimiz şey makineler tarafından hâlâ taklit edilebilmiş değil. Yarın öbür gün robotların dünyayı ele geçirip kendi başlarına “insanlar olmadan daha iyi olur” sonucuna varacaklarını düşünmek için bir neden yok.

Bu konuda 2021’de artık klasikleşmiş bir metin yayımlandı. Metin, yapay zeka denildiğinde özellikle Büyük Dil Modelleri’ni (LLM) “olasılıksal papağanlar” olarak tanımlıyordu. Çünkü bu sistemler, başka kaynaklardan öğrendikleri bilgileri matematiksel olarak karmaşık ama temelde olasılıklara dayalı biçimde yeniden üretirler.

Söz konusu metin, bunun beraberinde getirdiği sorunları da ortaya koyuyordu. Yapay zeka sistemleri, eğitildikleri verilerde bulunan önyargıları yeniden üretir. Bu nedenle toplum ne kadar ırkçı, cinsiyetçi, antisemitik veya queer karşıtıysa, yapay zeka sistemleri de bu önyargıları o ölçüde yansıtır.

Bu yüzden işe alım süreçlerinde kullanılan yapay zeka destekli ön eleme sistemleri; yaşlıları, hamileleri veya daha düşük eğitim seviyesine sahip kişileri dışlayabilir. Özellikle de daha önce bu kararları değerlendirecek insan denetimi ortadan kaldırılmışsa.

Alternatif Nobel ödüllü Gebru’nun uyarısı…

Bu metnin yazarlarından biri olan Timnit Gebru, bu tür sistemlerin geliştirilmesine yönelik eleştirileri nedeniyle yıllar önce Google’daki görevini kaybetmişti. Kendisine şimdi, yapay zeka geliştirme süreçlerinde amaç, sorumluluk ve düzenleme gibi temel soruların uluslararası tartışmanın merkezine taşınmasına katkıda bulunduğu için Alternatif Nobel Ödülleri’nden biri veriliyor.

Asıl tehdit, Timnit Gebru gibi araştırmacıların da defalarca vurguladığı üzere, kendi iradesini kazanmış makinelerin sözde sınırsız gücü değil.

Teknoloji şirketleri geliştirdikleri sistemler konusunda endişeliymiş gibi açıklamalar yaptığında, bunun önemli bir kısmı kendi pazarlama stratejilerine hizmet ediyor.

Elbette bu yapay zeka sistemleri gerçekten tehlikeli olabilir. Temmuz ayında yaşanan ve “firari” bir yapay zekanın başka bir şirketin bilişim sistemlerine saldırdığı iddia edilen olay da bunu gösterdi.

Ancak sorun, yapay zekanın kendi başına böyle bir karar vermesi değildi. Ona, sınırları yeterince açık belirlenmemiş bir görev verilmişti.

Bugün yapay zekanın yaratabileceği tehlikeleri birçok alanda görüyoruz: çalışma hayatı, iklim (özellikle veri merkezlerinin enerji tüketimi), eğitim, demokrasi (özellikle sosyal medya), gözetim teknolojileri, bilişim güvenliği ve elbette askeri kullanım alanları…

Ayrıca yapay zeka, pazarlama mesajlarını sorgulamadan aktaran medya kuruluşları için de bir tehdit oluşturuyor.

Ancak asıl sorun yapay zekanın kontrol edilemez olması değil, kontrol edilmemesi.

Korku yayarak kâr etmek

Şirketler ne gibi sonuçların ortaya çıkabileceğini açıkça biliyorlar. Buna rağmen deneylerini güvenli sınırlar içinde yürütmek yerine, sonuçlarını yeterince hesaba katmadan sistemlerini test ediyorlar.

Örneğin internete bağlantıyı tamamen kesmek mümkün. Böylece başka şirketlerin sistemlerine saldırı gerçekleşmez. Eğer yine de böyle bir olay yaşanıyorsa, bu şirketlerin bilinçli bir tercihi demek.

Yöneticilerin yayımladığı endişeli açıklamalar, yakından incelendiğinde pek ikna edici görünmüyor. Çünkü bu tehlikeli deneyleri durdurabilecek güç zaten onların elinde. Fakat bunu yaparlarsa, hangi yapay zeka şirketinin dünyanın en büyüğü olacağı yarışında geride kalabilirler.

Tam da bu nedenle, hangi sınırların çizileceğine karar verme yetkisi yalnızca bu şirketlere bırakılmamalı.

Tehlikeli olabilecek birçok ürün için denetim mekanizmaları, düzenleyici kurumlar ve yasaklar var. Gıda ürünleri, ilaçlar ve otomobiller belirli standartlara tabi. Otomobillerde emniyet kemeri ve güvenlik sistemleri zorunlu. ABD’de bile her şey serbest değil.

Ancak yapay zeka konusunda, Avrupa Birliği’nde uzun müzakereler sonucunda oluşturulan ve zaten yetersiz kalan düzenlemeler bile geri plana itiliyor. Gerekçe ise hep aynı: Avrupa rekabet gücünü kaybetmemeli, yenilikler düzenlemelerle engellenmemeli.

Bu durum, dövüş köpeklerini bilinçli olarak daha saldırgan olacak şekilde yetiştirip sonra bir pazar günü parkta tasmalarını çıkararak “bakalım ne olacak” diye izleyen insanlara benziyor. Neyse ki böyle bir şey yapmak yasak.

Kaynak: Neues Deutschland

Kaynak link: https://www.nd-aktuell.de/artikel/1202941.gefahren-kuenstlicher-intelligenz-don-t-believe-the-ki-hype.html