• Tsunami ile birlikte okyanusun kıyıdan nasıl geri çekildiğini hatırlıyor musunuz? İnsanlar, birdenbire ortaya çıkan, kilometrelerce uzanan el değmemiş kumsala hayranlıkla bakmak için sahile koşmuştu. Oysa açık denizde devasa bir su duvarı yükseliyor, birazdan gelip hepsini yutmaya hazırlanıyordu. Farkında değildiler. Biz de tam o andayız. Aptallık duvarı üzerimize çökmek üzere.
  • Oligarklar savaşın cephe hatlarını yüksek sesle, gururla ilan ediyor: Mesele biz ve onlar. Kiklop’un serpilip gelişmesi için insanlığın ölmesi gerekebileceğini gözlerini bile kırpmadan söylüyorlar.
  • Başlangıçta, “en ağır biçimde düzenleyin, hiçbir merhamet göstermeyin” demiştim. Ama bu yapay zeka şirketleri hakkında asıl söylemek istediğim şu: En ağır biçimde ortadan kaldırın. Hiçbir merhamet göstermeyin.

 

Yapay zeka, kapitalizmin nihai durağıdır -2-

Arundhati Roy - Çeviri: Yeni Özgür Politika

Kıyametin de, beraberinde getirdiği sefaletin de türlü çeşitleri var ve insanlar şimdi bunların hepsiyle baş etmek zorunda. Bir dehşet senaryosu, insanlığın yeryüzünden silinmesi. Bir başkası, bizden daha zeki bir türün egemenliği altına girmemiz. (Bunun sonuçlarını anlamak için aynı gezegeni paylaştığımız diğer türlere neler yaptığımıza bakmanız yeterli. O zaman yok oluş bile kulağa gayet cazip gelmeye başlayabilir.)

Bir de teknoloji dünyasının dışındaki insanların duyduğu endişeler var: Yapay zeka sektörünün karbon ayak izi karşısında dehşete düşen iklim aktivistleri; kitlesel işsizliğin ve geleceksizliğin kapıda olduğunu gören öğrencilerle emekçiler; benim gibi sanatçılar, müzisyenler, yazarlar… Hepimiz, bedenlerimizin içindeki atan kalbi söküp alan, toplumsal denetimin çelik tellerini bir araya getirerek tek bir sıkılmış mekanik yumruğa dönüştüren o merkezkaçlı girdabı hissedebiliyoruz.

Peki, ne yapmamız bekleniyor? Düzenleme talep etmek mi? Francis Ford Coppola’nın Kıyamet filmini (ırkçı klişeleriyle birlikte) güncel olayları anlatan bir belgesel kadar masum gösterebilen bir sektöre nasıl diz çöktüreceksiniz?

Kiklop, Albay Kurtz’dur: Savaşın zulmüyle aklını yitirmiş, yaşını başını almış eski bir deniz piyadesi. Karanlığın Yüreği’nde kendi akıl dışı, kana bulanmış, uyuşturucuyla sersemlemiş imparatorluğunu ve egemenliği altındaki yerli halkı yöneten Kurtz. (Joseph Conrad’ın Afrika’sından Coppola’nın Vietnam’ına taşınan o karanlık dünya.) Bir zamanlar silah arkadaşı olan bu adamın isyanını bastırmak üzere gönderilen genç subaya, ABD ordusunun üst kademelerinden verilen emir açıktır: “En ağır biçimde, hiçbir merhamet göstermeden etkisiz hâle getirin.”

Aptallık duvarı üzerimize çökmek üzere

Peki, bizim sloganımız ne olmalı? “En ağır biçimde düzenleyin, hiçbir merhamet göstermeyin” mi? Belki. Gerçi bunun tam olarak ne anlama geldiğini, hele nasıl hayata geçirileceğini, doğrusu ben de bilmiyorum.

2004’teki tsunamiden hemen önceki anı hatırlatıyor bu bana. Tayland’da, Endonezya’da okyanusun kıyıdan nasıl geri çekildiğini hatırlıyor musunuz? İnsanlar, birdenbire ortaya çıkan, kilometrelerce uzanan el değmemiş kumsala hayranlıkla bakmak için sahile koşmuştu. Oysa açık denizde devasa bir su duvarı yükseliyor, birazdan gelip hepsini yutmaya hazırlanıyordu. Onlar bunun farkında değildi. İşte biz de tam o andayız. Koca bir aptallık duvarı üzerimize çökmek üzere.

Parıl parıl parlayan kumların üzerindeki o iştah açıcı kırıntı izi, bizi denizin içine doğru, gitgide daha derinlere çekiyor. Önümüze büyülü hazineler, mücevher gibi deniz kabukları, ömür boyu sürecek bir balayı vadeden gizli şatolar çıkarıyor. Tabii tercih ettiğiniz buysa, balayı yerine bir paraayı da vaat edebilirler. Alın bu kabukları elinize, size neler sunabileceklerine hayran kalın.

Çirkin “tüketici uygulamaları”

Bunların çirkin, teknik adı “tüketici uygulamaları”. Anneniz de olabilirler, sevgiliniz de, terapistiniz de, doktorunuz da. Bir dakikada, sizin seçtiğiniz üslupta romanlar yazabilir, sonra bunları istediğiniz dile çevirebilirler. Filmlerinizi kurgulayabilir, müziğinizi besteleyebilir, araştırmanızı yapabilir, hukuki belgelerinizi hazırlayabilirler. Tıp alanında yapabilecekleri mucizeden farksız. (Yoksulların koleradan, sıtmadan, veremden ya da düpedüz açlıktan ve yoksulluktan ölmeye devam etmesini engellemeyecekler, orası ayrı.) Telefonunuz aracılığıyla size anında adalet, eğitim ve demokrasi sunmayı da vaat ediyorlar. Eğer öteki tarafa meylediyorsanız Nazi selamınızı daha da kusursuzlaştırabilir, elinize zihinsel bir motorlu testere tutuşturabilirler. Sevmemek için ne sebep var? Buna nasıl karşı koyabilirsiniz ki? Hem neden karşı koyasınız?

Yapay zeka ve otoriterlik üzerine bunca laf edilirken, en sevdiğimiz, faşizme karşı mücadele eden YouTuber’ların ve yılmak bilmez aktivistlerin bazılarının (en azından Hindistan’da) topluca on milyonlarca aboneye ulaşmalarına rağmen yapay zekanın ateşli savunucuları olduğu doğru değil mi? Ya da Modi hükümetine karşı, kurak toprağa yağmur gibi inen Gen Z Hamamböceği Ayaklanması’nın en şahane, en arsız yapay zeka videolarıyla sahneye çıktığı?

Doğru. Ama tehdit değerlendirmesi işin gerçek bir tehlikeye vardığını gösterdiğinde, o pencere bir anda suratımıza kapatılabilir. Ben bunları yazarken, Delhi’de Hamamböceği protestolarının “ikinci sezonu” diye anılan süreçte, yaşadığım mahallede internet kesilmiş durumda. Keşmir ve Manipur gibi eyaletlerdeki başka protestolar sırasında da Hindistan hükümeti aylarca süren internet kesintileri emretti.

***

Hayal edemeyeceğimiz bir sömürgecilik

Kiklop, henüz emekleme çağındaki Makine Tanrı’yı kansız kollarında havaya kaldırmış, hepimizi önünde secde etmeye çağırıyor. Ona güvenin, her şeyinizi ona teslim edin, karşılığında size göz kamaştırıcı bir gösteri sunacak.

Sömürgecilik, kapıyı her zaman pırıl pırıl hediyelerle çalar. Ama yapay zeka, pek azımızın hayal edebileceği türden bir sömürgecilik. Kapitalizmin varacağı son durak.

Kiklop, başkalarının üstü kapalı geçmeye çalıştığı şeyi açık açık söylemekten hiç çekinmez.

İşte bir kez daha karşımızda Palantir’in yönetim kurulu başkanı Peter Thiel: “Başlangıçtaki kuruluş vizyonumuz, teknolojiyi kullanarak bütün dünyayı değiştirmek, dünyanın para sistemini altüst etmekti… Seçim kazanamazdık, çünkü sayıca çok küçük bir azınlıktık. Ama belki de insanları durmadan ikna etmeye çalışmak, bize asla katılmayacak insanlara yalvarıp yakarmak zorunda kalmadan, dünyayı tek taraflı olarak değiştirebilirdiniz.”

Bir de İsrailli teknoloji şirketi Cato Networks’ün CEO’su Shlomo Kramer var. Bakın o ne diyor: “Birinci Anayasa Değişikliği’ni korumak için artık onu sınırlamanın zamanı geldi… Bütün platformları, tüm sosyal medya platformlarını denetim altına almalıyız. İnternette kendini ifade eden her insanı sahicilik bakımından sıralamalı, sonra da bu sıralamaya göre söylediklerini denetimimiz altına almalıyız.”

Bu hak iddiası, bu servet, bu güç, bu küstahlık onlara Tanrı tarafından verilmedi. Hepsini bizim elimizden aldılar.

Ruhunuzun dijitalleştirilmesi…

Makine Tanrı’sını eğitmek için Kiklop’un, insan uygarlığının bugüne dek ortaya koyduğu her şeyi maden ocağı gibi kazıp çıkarması, söküp alması ve istiflemesi gerekiyor. Binlerce yıl boyunca milyonlarca insanın ortak emeğiyle birikmiş başarılarımızı, edebiyattan sanata, müzikten matematiğe, satrançtan akademik araştırmalara kadar her şeyi, topluca şirketlerin mülkiyetine aktarmak istiyor. Bu bilgiyi kasasına koyacak; onu denetlemenin, arındırmanın, siyasallaştırmanın yollarını bulacak ve kimin bu bilgiye erişebileceğine, kimin erişemeyeceğine karar verecek. Peki, hangi bedel karşılığında?

Buna insanlığın bütün çabasının, hatta uygarlığın tarihinin özelleştirilmesi ve şirketleştirilmesi diyelim. Sizden istenen tek şey, ruhunuzun dijitalleştirilmesine, veriye dönüştürülmesine izin vermek. Geriye sizden kalan, insan çamuru ve posası olacak. Endüstriyel atık.

Sam Altman’ı bir kez daha dinleyelim: “Zekanın elektrik ya da su gibi bir kamu hizmetine dönüştüğü, insanların da onu bizden sayaç üzerinden satın aldığı bir gelecek görüyoruz.” Ama satmaya kalktıkları şey gerçekten onların mı?

Kitaplarımızı çalıyorlar

Kitapları Anthropic’in büyük dil modellerini eğitmek için iznim olmadan kullandığı yüz binlerce yazardan biriyim ben. Toplu davanın sonucunda, her bir kitabım için birkaç bin dolar uzlaşma bedeli teklif eden bir bildirim aldım. Bunlar, bir ömür yaşayarak ve yıllarımı yazarak ortaya çıkardığım kitaplar. Bildirimde, şirketin bu kitapları korsan PDF’lere ev sahipliği yapan iki internet sitesinden indirdiği yazıyor, ama hemen ardından şu ifade geliyor: “Anthropic yanlış bir şey yaptığını reddediyor.”

Bana bir talep numarasıyla bir PIN kodu veriyorlar. Sanki ben farkında bile değilken bedenimin organları sökülüp alınmış gibi. Artık makine benim eserlerimle eğitildiğine göre, korkarım çok yakında, onlarca yıl boyunca emek vererek kendime özgü kıldığım bir dilde, kendi sesimle yazdığımda, yazdıklarımın bana ait gibi gelmediği söylenecek. Aslında yapay zekanın ürünü olduğu söylenecek.

Hayatımın geri kalanında ne yapacağım? Kendi yazma biçimimin etrafından dolaşmaya mı çalışacağım? Yeni bir dil mi bulacağım? Buna ne diyelim? Yürek madenciliği mi? Beyin madenciliği mi? Hayat madenciliği mi?

Kiklop’un hayallerini ayakta tutmak

Karen Hao, keskinliği hançer ağzı gibi bir kitap olan Empire of AI’da, Kiklop’un hayallerini ayakta tutmak için yoksul ülkelerdeki işçilerin açlık sınırındaki ücretlerle çalıştırılıp “veri toplayıcılarına” dönüştürülmesini ve toprağın, doğal kaynakların hoyratça yağmalanmasını anlatıyor. Şirketlerinin ve 100 milyar dolarlık süper bilgisayarlarının devasa enerji iştahını karşılayacak kadar su ve elektrik bulunması pek mümkün görünmediğinden, Kiklop özel nükleer santraller kurulması ve güvenlik protokollerinin gevşetilmesi için yoğun lobi faaliyeti yürütüyor. Bir yandan da yıpranmayan, tükenmeyen bir enerji kaynağı geliştirmek amacıyla füzyon enerjisine milyarlarca dolar akıtılıyor; böylece veri merkezleri uzaya ya da Ay’a taşınabilecek.

Bu sırada, sevgili, eski püskü dünyamızda, Hindistan hükümeti enerji oburu veri merkezlerinin daha fazlasına kucak açmak için harekete geçmiş durumda. Yalnızca Visakhapatnam’da altı tane; bunların arasında Google’ın 15 milyar dolarlık bir veri merkezi kompleksi de var. Neredeyse hiçbir çevresel denetimden geçmeden izin alıyorlar; sanki söz konusu olan yalnızca birkaç bina, birkaç depo. Hindistan ile ABD arasında eski bir gelenek bu: Çöplerinizi, zehirli sanayilerinizi, zehirli kadehinizi bize verin. Biz başımızın üstünde taşırız. ABD’de olduğu gibi Hindistan’da da aktivistler, yapılması planlanan bu “depoların” çevresinde yaşayan on binlerce insanın suyunun ve havasının zehirlenmesini önlemek için bedenlerini siper ediyor.

İnsanları birbirine düşürüyorlar

ABD’de veri merkezlerine karşı çıkan aktivistler, bu devasa tesisleri inşa etmek üzere iş bulan inşaat işçileriyle karşı karşıya getiriliyor. Yerel topluluklar adına mücadele eden bu aktivistler, yabancı güçlerden para alan hainler, teröristler ya da solcu aşırılık yanlıları diye damgalanıyor; vatansever Amerikan şirketlerinde çalışan, dürüst ve çalışkan Amerikalıların ekmeğini çalmakla suçlanıyorlar. İnsanları böyle birbirine düşürmek, o kadar eski bir taktik ki öğle sıcağında beklemiş bir ceset gibi kokuyor. Hindistan’ın güneyindeki memleketim Kerala’da bunun nasıl işlediğini görmek, her şeyi “sol” ya da “sağ” ayrımının kutuplaştırıcı merceğinden değerlendirmenin her zaman işe yaramadığını bana öğretti.

İşte mekan ve zaman bakımından bugünden çok uzakta geçen, ama hâlâ bugüne söyleyecek sözü olan küçük bir hikaye.

Kerala’nın 1950’lerin sonlarında iktidara gelen, demokratik yolla seçilmiş ilk Komünist hükümetinin yaptığı ilk işlerden biri, eyaletin kuzeyinde, Calicut kentinin yukarısında, Chaliyar Nehri kıyısında bir şirketi büyük bir rayon fabrikası kurmaya davet etmekti. Sanayici, fabrikanın 3.000 kişiye iş sağlayacağı sözünü verdi; karşılığında hükümetten hammadde, elektrik ve su için sübvansiyon istedi. Yakındaki ormanlardan bambu, ton başına bir rupiye fabrikaya verilirken, çoğu yerli halktan olan bambu işçileri tek bir bambu gövdesini bir rupiye satın almak zorundaydı.

Fabrika üretime başladığında, bir günde Calicut kentinin tamamının tükettiğinden daha fazla su çekiyor, ardından zehirli atıklarını doğrudan nehre geri boşaltıyordu. Nehrin aşağı çığırında kentin suyu kirlenmişti. Balıklar öldü. Binlerce balıkçı geçim kaynaklarını yitirdi. Kullanılabilir bambunun tamamı tüketilince okaliptüs ağacına yöneldiler. Sık ve yaşlı ormanlardan dönümlerce alan bütünüyle kesilip temizlendi; yerlerine tek tür okaliptüsten oluşan plantasyonlar kuruldu. Binlerce orman sakini, bambu işçisi ve sepet örücüsü geçim kaynaklarını kaybetti. Ama fabrikadaki 3.000 işçi sendikalaştı ve refaha kavuştu.

Ta ki zamanla fabrikanın zehirli dumanları işçiler arasında kanser vakalarına ve solunum yolu hastalıklarına yol açmaya başlayana kadar. İşçiler tazminat talebiyle greve çıktı. Sanayici, özel bir kanser hastanesi yaptırdı. Militan fabrika işçileri ücret artışı ve başka haklar talep ederek oturma eylemleri yaptı, işyerini kapatarak üretimi durdurdu. Kendileri için küçük ama adım adım kazanımlar elde ettiler ve yeniden işe döndüler.

Birkaç yıl sonra okaliptüs plantasyonu da ortadan kayboldu. Fabrika kapandı. İyi sendikalı işlere sahip işçiler, fabrikanın yeniden açılması talebiyle açlık grevine başladı. Fabrika bir daha hiç açılmadı.

Mezarlarını kazan işçiler

Dünyanın dört bir yanındaki “veri toplayıcısı” işgücü de benzer bir ikilemle, neredeyse varoluşsal bir sınavla karşı karşıya.

Devasa nüfusuyla Hindistan, Kiklop’un doymak bilmez iştahı için bir veri ziyafeti. En yoksulların da en yoksulu, uzak köylerde ve küçük kasabalarda yaşayan insanlar, madenciliği yapılabilecek akla gelebilecek her tür bilgiyi sağlamak üzere seferber ediliyor. İnşaat alanlarında ve fabrika zeminlerinde çalışan işçilerin başlarına kamera takmaları isteniyor; böylece yapay zeka onların hareketlerini sömürüp robotları eğitebiliyor. O robotlar da yakında bu işçilerin yerini alacak. İşçiler kendi mezarlarını kazdıklarını biliyorlar ama reddedemiyorlar; çünkü yerlerini almaya hazır binlerce insan bekliyor. İşlerini kaybettiklerinde dünya, yeryüzünün sınırlı kaynaklarını tüketen ama topluma katkıda bulunmayan kişiler için faşistlerin kullandığı sınıflandırmayla “fazlalık insanlar” diye anılan milyonlarca insanı ne yapacak? Faşistlerin bu konuda öteden beri kendilerine özgü soykırımcı fikirleri var.

Evrensel Temel Gelir mi?

Kiklop ya da Gil Durán’ın aynı adlı kitabında kullandığı ifadeyle Nerd Reich, zaman zaman başka bir yolun da cazibesine kapıldı. Evrensel Temel Gelir (ETG) fikriyle arada bir flört ediyor, sonra vazgeçiyor. Başkalarının parasıyla. Kendi parasıyla değil. Ne kadar havalı, ne kadar antikapitalist, öyle değil mi? Belki de birkaç yıl boyunca ayda bir ödenen temel gelirle geçinmeyi denemeli. Belki de “En ağır biçimde düzenleyin, hiçbir merhamet göstermeyin” programının ilk adımı bu olmalı.

Şu noktayı kayda geçirelim: Servet daha adil dağıtılsaydı, dünyadaki herkes bugün, tam şu anda, Evrensel Temel Gelir alabilirdi. Bunun için gezegeni yok etmeniz gerekmiyor. Bir de şu var: Temel geliri kim dağıtacak? Kimin bu geliri almaya hakkı olduğuna, kimin olmadığına kim karar verecek? Sadece soruyorum. Belki de Yoldaş Shlomo Kramer’in fikrini biraz daha geliştirip insanları ırklarına, kastlarına, dinlerine, cinsiyetlerine, siyasi görüşlerine ve itaatkarlık puanlarına göre en üstten en alta sıralayabiliriz?

Kiklop ile devlet işbirliği

Belki Hindistan hükümeti de yardım edebilir. Ülkedeki seçmen kütüklerini yakın zamanda baştan sona gözden geçirmek üzere yürüttüğü Özel Kapsamlı Revizyon çalışmasında 130 milyon kişi listelerden silindi. Nüfusun neredeyse onda biri. Az buz değil. İnsanları ayıklamanın medeni bir yolu. Bu kişiler Evrensel Temel Gelir almaya hak kazanamayacak; hatta hiçbir hakka sahip olamayacaklar. Assam gibi eyaletlerde, bu insanların bir kısmı kendileri gibi insanları barındırmak üzere inşa edilen devasa gözaltı merkezlerinin yapımında inşaat işçisi olarak çalıştırılıyor. Devlet, kimin kendi halkı olduğunu seçiyor. Kiklop ise devleti denetliyor. Ne güzel düzen.

Bir de iyi niyetli demokratik sosyalist seçenek var. Bernie Sanders, en azından Kuzey Amerika halkının, yapay zeka şirketlerinin doğrudan sahibi olmasını istiyor. En büyük yapay zeka şirketlerinin hisselerine bir defaya mahsus yüzde 50 vergi konulmasını, böylece bağımsız denetim altında bir egemen varlık fonu oluşturulmasını öneriyor. Bu fonun yaklaşık 7 trilyon dolar değerinde olacağı, her yıl yüz milyarlarca doların doğrudan ABD vatandaşlarına ve sağlık, barınma, eğitim programlarına aktarılabileceği söyleniyor. (Yine, trilyonlar zaten mevcut. Eksik olan siyasi irade. Peki, ne değişecek?) Ama bu demokratik sosyalist seçenekte bile Güney’den (Hindistan’dan, Afrika’dan, Güney Amerika’dan) veri çekilip alınmaya devam edecek; kârlar ise Kuzey’de kalacak.

Elbette şirketler verinin bedelini ödemeli. Ama iş bu noktaya mı geldi artık? Kıyametten hisse almak, elimizde kalan tek seçenek mi?

***

Hiçbir merhamet göstermeyin

Yapay zekanın insanlar için neler yapıp neler yapamayacağı üzerine bunca tartışma yürütülürken, insanlara ne yaptığı hakkında çok az konuşuluyor. Araştırmalar, yapay zeka ile insanlarda bilişsel gerileme arasında bir ilişki olabileceği konusunda uyarılarda bulundu. Yapay zeka yükseldikçe insan zekasının da aynı oranda düşüşe geçmesi bekleniyor. Belki kullanmadığımız beyinlerimiz körelecek, kafalarımız küçülecek, parmaklarımız kıvrılıp dalgalanan istem dokunaçlarına dönüşecek.

Hayatını başka türlü bir dünyada geçirmiş olanlarımız, neleri yitirdiğimizi biliyoruz. Peki, yetişkinliğe adım atmak üzere olan kuşağa ne olacak? Kendine ait bir dili, düşünceleri, acıları olacak mı? Çabalama hakkı olacak mı? Düşme, başarısız olma, kusurlu kalma hakkı? Kendi matematik problemini çözmenin ya da kendi sanatını, edebiyatını, müziğini yaratmanın o dayanılmaz acısını ve coşkulu hazzını yaşayabilecek mi, ne kadar kusurlu olursa olsun?

Yapay zekanın zaferi, insan olma hâline karşı işlenmiş bir suç olacak. Beyinlerimizi formaldehit içinde kavanozlayacak. Bildiğimiz dünyayı yok edecek. Bu teknolojiyi teşvik eden ve ondan kâr sağlayan adamlar bunun farkında; çoktan başka bir âleme kaçış hazırlıklarını yapmışlar.

Oligarklar savaşın cephe hatlarını yüksek sesle, gururla ilan ediyor: Mesele biz ve onlar. Kiklop’un serpilip gelişmesi için insanlığın ölmesi gerekebileceğini gözlerini bile kırpmadan söylüyorlar. Ona karşı ayaklanan genç kuşak bunun farkında.

Biliyorum, yazının başlarında “en ağır biçimde düzenleyin, hiçbir merhamet göstermeyin” demiştim. Ama bu yapay zeka şirketleri hakkında asıl söylemek istediğim şu: En ağır biçimde ortadan kaldırın. Hiçbir merhamet göstermeyin.

Bu yazının bir bölümü, 19 Ekim’de New York’ta düzenlenen The People’s AI Assembly’de bir konuşma olarak sunuldu.

Kaynak: Equator

Kaynak link:  https://www.equator.org/articles/arundhati-roy-artificial-intelligence