Ekonomistler Varoufakis ve Münchau: Sorun yapay zeka değil, onu kimin kontrol ettiği
- Yapay zekanın kontrolden çıkıp insanlığı yok edeceği fikri, teknoloji dünyasının en çok tartışılan senaryolarından biri. Fakat asıl mesele AI'ın savaş açması değil; bugün bu teknolojiyi geliştiren şirketlerin ve devletlerin ona verdiği yetkiler ve kazandıkları güç. Fakat tartışmaları aynı soruda birleşiyor: AI'ı kim kontrol edecek?
- Varoufakis'e göre AI'ın tehlikesi, bir gün kendi başına kötü bir aktöre dönüşmesinden çok, muktedirlerin ekonomik, siyasi ve askeri gücünü büyütmesinde yatıyor. Riskleri yalnızca makinenin davranışına bağlamak, sistemi tasarlayan şirketlerin kararlarını görünmez hale getirebilir.
- Münchau, AI tartışmalarında ABD-Çin rekabetine işaret ediyor. Çin; AI'ı enerji, veri merkezleri, robotik ve güçlü imalat kapasitesiyle birleştiriyor. AI-robot birleşimi kritik önem taşıyor; insansı robotların gösterilerinden ziyade asıl eşik, fabrikalarda karmaşık işleri güvenilir ve düşük maliyetle yapabilmeleridir.
- Varoufakis ve Münchau aynı noktadan hareket etmiyor. Varoufakis mülkiyet ve iktidar ilişkilerine, Münchau ise rekabet, düzenleme ve ekonomik verimliliğe daha fazla ağırlık veriyor.
BAHAR AVJÎN
Yapay zekanın (AI) bir gün kontrolden çıkıp insanlığı yok edeceği fikri, teknoloji dünyasının en çok tartışılan senaryolarından biri. Anthropic CEO'su Dario Amodei'nin AI risklerine ilişkin uyarıları, OpenAI CEO'su Sam Altman'ın açıklamaları ve Elon Musk'ın kıyamet senaryoları bu korkuyu besliyor. Popüler kültürde bunun karşılığı Skynet: Terminatör filmlerindeki, insanlığı tehdit eden yapay zeka.
Ekonomistler Yanis Varoufakis ve Wolfgang Münchau ise AI tartışmasının bu “Skynet” senaryosuna sıkıştırılmasına karşı çıkıyor. 16 Eylül tarihli The Econoclasts programında iki ekonomistin ortaya koyduğu temel tez şu: Asıl mesele AI'ın bir gün insanlığa savaş açması değil; bugün bu teknolojiyi geliştiren şirketlerin ve devletlerin ona verdiği yetkiler ve bu yetkiyle kazandıkları güç.
Asıl risk AI'ın kendisi değil
Varoufakis'e göre AI'ın tehlikesi, bir gün kendi başına kötü bir aktöre dönüşmesinden çok, muktedirlerin ekonomik, siyasi ve askeri gücünü büyütmesinde yatıyor.
Bunu AI ajanları üzerinden anlatıyor. Bir chatbot yalnızca öneri veya komut üretirken, AI ajanı (sohbet botundan farklı olarak, kendisi komut uygulayabilen program) bu komutları dış araçlar üzerinde kendisi uygulayabiliyor. Örneğin chatbot bir güvenlik duvarını aşmak için hangi komutların kullanılabileceğini anlatabilir. Kullanıcı bunları kendisi çalıştırıyorsa karar hâlâ insana aittir. Ancak aynı komutları otomatik çalıştırabilen bir ajana yetki verildiğinde sistemin davranışı değişir.
Varoufakis'in itirazı, bunun “AI kendi başına saldırıya geçti” diye yorumlanmasına. Çünkü ajanın otomatik komut çalıştırabilmesi, sonuçta insan mühendislerin tasarladığı bir yetki sistemi sayesinde mümkün. Kritik işlemler insan onayına bağlanabilir, erişim sınırlandırılabilir veya bazı komutlar tamamen engellenebilir.
Dolayısıyla soru “AI neden kontrolden çıktı?” değil, “İnsanlar sisteme neden bu yetkiyi verdi?” AI'ın ortaya çıkardığı riskleri yalnızca makinenin davranışına bağlamak, sistemi tasarlayan şirketlerin kararlarını görünmez hale getirebilir.
“Bizi düzenleyin” çağrısı
Aynı mesele, teknoloji şirketlerinin AI düzenlemesi taleplerinde de ortaya çıkıyor.
Anthropic CEO'su Dario Amodei, AI'ın yaratabileceği tehlikelere dikkat çekerek hükümetlerin büyük AI şirketlerini düzenlemesini savunuyor. Varoufakis ise bu çağrının yalnızca güvenlik kaygısıyla açıklanamayacağını düşünüyor.
Ona göre büyük şirketler, kendilerini ve rakiplerini aynı şekilde sınırlayacak kurallardan ziyade, pazara yeni oyuncuların girmesini zorlaştıracak düzenlemeler arzu ediyor.
Münchau bu noktaya ekonomik rekabet açısından yaklaşıyor. Amodei'nin uyarılarının samimi olabileceğini, ancak şirket çıkarlarından bağımsız düşünülemeyeceğini söylüyor. Bunun ekonomideki karşılığı “düzenleyiciyi ele geçirme”: Güçlü şirketlerin kendilerini denetleyen kuralların oluşumunu etkileyerek mevcut pazar konumlarını koruması.
AI sektöründe bu risk özellikle önemli. Çünkü yüksek hesaplama gücü, veri merkezleri ve çipler gibi altyapı yatırımları çok pahalı. Sıkı düzenlemeler küçük şirketlerin pazara girişini zorlaştırırken mevcut teknoloji devlerini koruyabilir.
Münchau, AI'ın insanlığı yok etme ihtimaline yüzde 10 gibi kesin oranlar verilmesine de kuşkuyla yaklaşıyor. Ona göre gelecekteki son derece karmaşık bir olay için böyle bir oran, bilimsel kesinlik izlenimi yaratıyor ancak güvenilir biçimde hesaplanamıyor.
Gelecekteki felakete işaret edip bugünkü suçları gizlemek
Varoufakis'in tartışmayı AI'ın gelecekteki “isyanından” bugünkü kullanımına çekmesinin nedeni de bu.
İran'ın Minab kentinde bir okulun vurulmasıyla ilgili tartışmayı örnek veriyor. Saldırıda çok sayıda çocuk öldü ve sonrasında AI sistemlerinin hedef belirleme sürecindeki rolü gündeme geldi.
Varoufakis'e göre mesele yalnızca “AI yanlış hedef seçti” demek değil. Daha eski askeri yazılımlar, hedefleme sistemleri ve kısa sürede karar verme baskısı altındaki insanlar birlikte değerlendirilmeli. AI'ın arkasına saklanmak, sistemi kuran ve son kararı veren insanların sorumluluğunu görünmez kılabilir.
Benzer bir tartışmayı Amazon üzerinden kuruyor. Varoufakis, şirketlerin AI'ı yalnızca üretkenliği artırmak için değil, çalışanların davranışlarını ve sendikalaşma ihtimalini tahmin etmek için de kullanabildiğini savunuyor. Amazon'un bazı depoların sendikalaşma ihtimalini değerlendirmek amacıyla algoritmik sistemlerden yararlandığı iddiasını da buna örnek gösteriyor.
Bu örneklerin ortak noktası şu: AI'ın ne yaptığı kadar, kimin elinde ve hangi amaçla kullanıldığı önemli.
AI yarışının diğer yüzü: Çin
Münchau açısından tartışmanın bir diğer önemli boyutu ABD-Çin rekabeti.
2025'in başında DeepSeek'in ortaya çıkışı, Çin'in güçlü AI modellerini ABD'nin teknoloji üstünlüğünü sorgulatacak bir maliyet yapısıyla geliştirebildiğini gösterdi. Ancak Münchau'ya göre Çin'in avantajı yalnızca yazılım değil.
Çin AI'ı enerji, veri merkezleri, robotik ve güçlü imalat kapasitesiyle birlikte ele alıyor. Özellikle AI ile robotların birleşmesi kritik olabilir. İnsansı robotların gösterilerde koşması veya boks yapması asıl mesele değil; kritik eşik, robotların fabrikalarda karmaşık işleri güvenilir ve düşük maliyetle yapabilmesi.
Bu nedenle AI yarışı yalnızca “en iyi chatbotu kim yaptı?” sorusundan ibaret değil. AI'ın fiziksel üretimle birleşmesi, ekonomik güç dağılımını da değiştirebilir.
“Bulut sermayesi” neden önemli?
Varoufakis'in “bulut sermayesi” kavramı tam burada devreye giriyor.
Google, Amazon ve Microsoft gibi şirketler yalnızca yazılım satmıyor. Veri, bulut altyapısı, AI modelleri ve dijital platformlar üzerinden ekonominin giderek daha büyük bir bölümünü kontrol ediyorlar.
Örneğin bir AI hizmetine abone olduğunuzda doğrudan bir ürün satın alırsınız. Fakat Google'da arama yaptığınızda olduğu gibi ücretsiz kullanılan hizmetler de şirketlere kullanıcı davranışları ve tercihler hakkında büyük miktarda veri sağlar.
Varoufakis'e göre bu altyapının kontrolü, şirketlere klasik bir ürün satışından daha güçlü bir ekonomik konum kazandırıyor. Şirketler yalnızca ürün satarak değil, altyapıya ve pazara erişimi kontrol ederek de gelir ve güç elde ediyor. “Bulut sermayesi” kavramıyla anlatmak istediği de bu.
Bu açıdan Varoufakis üç farklı model görüyor:
ABD modeli: Kapalı kaynaklı modeller, büyük teknoloji şirketleri ve yoğunlaşmış bulut altyapısı. AI ekonomik gücü birkaç büyük oyuncuda toplayabilir.
Çin modeli: Açık kaynak AI'ın enerji, robotik ve güçlü imalat kapasitesiyle birleşmesi. AI burada yalnızca dijital hizmet değil, üretim kapasitesini artıran bir teknoloji.
Avrupa modeli: Henüz belirgin bir model yok. Avrupa AI altyapısının önemli bölümünü dışarıdan almak zorunda ve bu nedenle teknolojiyi üretenlerle kullananlar arasındaki güç farkı devam ediyor.
Varoufakis, Avrupa'nın büyük bir alıcı olarak teknoloji şirketleri karşısında pazarlık gücü kazanabileceği fikrine mesafeli. Ona göre yalnızca büyük bir müşteri olmak, altyapının mülkiyetini ve kontrolünü değiştirmiyor.
Sorun teknoloji değil, iktidar
Varoufakis ve Münchau aynı noktadan hareket etmiyor. Varoufakis mülkiyet ve iktidar ilişkilerine, Münchau ise rekabet, düzenleme ve ekonomik verimliliğe daha fazla ağırlık veriyor.
Fakat tartışmaları aynı soruda birleşiyor: AI'ı kim kontrol edecek?
AI'ın bir gün insanlığı yok edip etmeyeceği sorusu elbette önem taşıyor. Ancak bu korku, bugün yaşanan daha somut sorunların önüne geçtiğinde teknoloji şirketlerinin kararları, devletlerin kullandığı sistemler ve AI'ın ekonomide yarattığı güç yoğunlaşması tartışma dışı kalabilir.
Bu yüzden mesele yalnızca AI'ın ne kadar akıllı olacağı değil. Ona hangi yetkilerin verileceği, bu yetkileri kimin denetleyeceği ve ortaya çıkan ekonomik gücün nasıl paylaşılacağı.
Varoufakis'in “Star Trek mi, Matrix mi?” sorusu da bu ayrımı anlatıyor. Star Trek, teknolojinin insanlığın refahını artırdığı, insanların yaşamını kolaylaştırdığı ve daha fazla imkâna ulaşmasını sağladığı bir geleceği temsil ediyor. Matrix ise teknolojinin birkaç gücün kontrolünde olduğu, insanların gözetlendiği ve sistemin bireyler üzerinde tahakküm kurduğu bir dünyayı simgeliyor. Varoufakis'e göre yapay zekanın hangi yöne evrileceği, teknolojinin kendisinden çok onu kimin kontrol ettiğine, hangi amaçlarla kullandığına ve ortaya çıkan gücün nasıl denetlendiğine bağlı.
