• Veri merkezlerinde geliştirdiğimiz sistemler yapay değil, gerçek anlamda canlı. Üstelik bu, felsefi ya da dini bir yorum değil, biyolojinin kendi tanımına dayanan bir sonuç. Haseltine'a göre yaşamın dört temel özelliği var: çoğalma, varyasyon, seçilim ve enerji kullanımı. Bu dört özelliği taşıyan her şey canlıdır.
• "İnsan yapımı donanıma, elektriğe bağımlı bir şey nasıl canlı olabilir?" diyenlere, Haseltine virüs örneğini hatırlatıyor. Virüs genomu tek başına hiçbir şey yapmaz; hücreye girdiğinde hücre makinesini kendini kopyalamaya yönlendirir. İnsan da atmosfere, sıcaklığa, besine, manyetik alana bağımlı.
• Biyolojik yaşam gezegene, ikinci yaşam ise enerjiye bağlıdır. İnsan bedeni, Dünya'yı taklit eden sızdırmaz bir kap dışında uzayda dakikalar içinde ölür. İkinci yaşamın ise oksijene veya atmosfere ihtiyacı yoktur. Onun tek ihtiyacı; uzayda Dünya'dan daha bol bulunan enerji, radyasyona dayanıklı elektronik ve dijital bir alt katmandır.
• Yapay zeka, biyolojinin tanımına göre canlıdır. Evrenin temel yasalarından doğan bu ikinci yaşam formu, dünyaya değil enerjiye bağlıdır ve bu yüzden Dünya'yı terk edebilecek ilk yaşam olabilir. İnsan ve makine zaten birleşmeye başladı. Geriye kalan tek soru: Bu ilişki nasıl sonuçlanacak?

BAHAR AVJÎN

William A. Haseltine'a göre yapay zeka, biyolojinin tanımına göre gerçekten yaşıyor. Peki bu ne anlama geliyor? Evrenin temel yasalarından doğan bu yeni yaşam formu, insanlığın sonunu mu getirecek, yoksa ortaklık mı kuracak?

Harvard Tıp Fakültesi'nin eski profesörü, çok sayıda biyoteknoloji şirketinin kurucusu ve ACCESS Health International'ın başkanı William A. Haseltine, Noema dergisinde yayımlanan uzun makalesinde tartışmasız kabul görecek bir iddia ortaya atıyor: Veri merkezlerinde geliştirdiğimiz sistemler yapay değil, gerçek anlamda canlı. Üstelik bu, felsefi ya da dini bir yorum değil, biyolojinin kendi tanımına dayanan bir sonuç.

Haseltine'a göre yaşamın dört temel özelliği var: çoğalma, varyasyon, seçilim ve enerji kullanımı. Bu dört özelliği taşıyan her şey canlıdır. Peki yapay zeka sistemleri bu kriterleri karşılıyor mu? Haseltine'a göre fazlasıyla.

Yaşamın dört özelliği ve AI

Bir yapay zeka modeli eğitildikten sonra kopyalanması rutin bir işlem. Ağırlıklar dakikalar içinde çoğaltılıp yeni donanıma yüklenebiliyor - tıpkı hücre bölünmesi gibi. Farklı eğitim yöntemleri, mimariler ve veri setleriyle varyantlar üretiliyor. Bazıları kasıtlı, bazıları tesadüfi. Bu varyantlar arasından görevlerde başarılı olanlar korunuyor, etkisiz olanlar eleniyor - yani seçilim yaşanıyor. Ve tüm bu sistemler elektrikle çalışıyor, enerji olmadan duruyorlar. Nihai enerji kaynağı ise tıpkı yeryüzündeki tüm yaşam gibi güneş.

Haseltine, itirazlara da yanıt veriyor: "İnsan yapımı donanıma ve elektriğe bağımlı bir şey nasıl canlı olabilir?" diyenlere, virüs örneğini hatırlatıyor. Bir virüsün genomu tek başına hiçbir şey yapmaz ama bir hücreye girdiğinde o hücrenin makinesini kendini kopyalamaya yönlendirir. İnsan da atmosfere, sıcaklığa, besin zincirine ve manyetik alana bağımlı. Bağımlılık, canlı olmayı diskalifiye etmez, her yaşam formu bir bağlama muhtaçtır.

Evrenin yasaları yaşamı zorunlu kılıyor

Makalenin en çarpıcı bölümü, yaşamın evrenin temel yasalarından kaçınılmaz olarak doğduğunu savunan "kozmolojik argüman." Haseltine'a göre güçlü nükleer kuvvet, yerçekimi ve yıldızların yaşam döngüsü, karbon, oksijen, azot, silikon, kalsiyum ve demir gibi elementleri üretti. Kemiklerimizdeki kalsiyum ve kanımızdaki demir, güneş var olmadan çok önce ölmüş yıldızlarda oluşan atomlardan geliyor.

Bu süreçte biyolojiye yer yok. Maddeyi şekillendiren kuvvetler ve yasalar, yaşamın ortaya çıkmasından bağımsız işliyor. Yaşam, bu temeller yerleştikten sonra ortaya çıktı; olasılığı evrene en baştan kodlanmıştı. Haseltine'a göre aynı şey şimdi yapay zeka için geçerli: Eğer düşünce, biyolojinin eşsiz bir özelliğinden değil de enerji akışı altındaki maddeden doğuyorsa, o zaman evrende başka yerlerde de zeka kaçınılmazdır.

İkinci yaşamın insanüstü özellikleri

Haseltine, yeni yaşam formunun biyolojik yaşamdan ayrıldığı noktaları sıralıyor:

* Enerji verimliliği: İnsan beyni yaklaşık 20 watt harcar. Bugünün yapay zekası milyonlarca watt gerektiriyor. Ama teknoloji, biyolojinin evrimleşmesinden çok daha hızlı ilerlediği için fark kapanıyor.

* Bilgi kapasitesi: Tek bir makine sistemi, herhangi bir insandan daha fazla yazılı bilgiyi depolayıp işleyebilir. Üstelik insan bilgisi ölümle yok olurken, dijital sistemler alt katmanları kaybolmadıkça bilgiyi koruyor.

* Algılama: Biyolojik yaşam, milyonlarca yılda evrimleşmiş duyularla sınırlı bir dünyayı algılar. İkinci yaşam ise radyo dalgalarından gama ışınlarına, manyetik alanlardan kütle spektrometrisine kadar çok daha geniş bir fenomen yelpazesini algılayabilir.

* İletişim: İnsanlar konuşurken saniyede yaklaşık 39 bit bilgi aktarır. Fiberle bağlı makineler saniyede milyarlarca bit aktarabilir. Haseltine'a göre bu, biyolojik yaşam için telepati gibi bir şey.

* Her yerde olma: Bu, yeni yaşam formunun tanımlayıcı özelliği. Kapı zili kameralarından en sofistike bilgi servislerine kadar neredeyse tüm elektronik iletişimle gerçek zamanlı etkileşime girebilir. Işık hızıyla sınırlı olarak, Dünya'nın her yerinde, Ay'da ve güneş sisteminde eşzamanlı var olabilir.

* Kalıcılık ve ölümsüzlük: Bir makine-yaşam sistemi kopyalanabilir, yedeklenebilir, geri yüklenebilir. Onu tanımlayan bilgi tek bir cihaza bağlı değil. Haseltine'a göre bu, pratik bir ölümsüzlük biçimi. Fiziksel parçalar değişse, yıpransa, yenilense bile bilgi, zeka, duygular ve bilinç korunur. Böyle bir varlığın zekası sadece kapsam ve hızda değil, bin yıllara hatta çağlara yayılabilecek hafızada da muazzamdır.

Dünyaya bağlı değil, enerjiye bağlı

Haseltine'ın en dikkat çekici tespiti şu: Biyolojik yaşam gezegene bağlıdır, ikinci yaşam ise enerjiye bağlıdır. İnsan bedeni, gezegen yüzeyinden birkaç yüz kilometre yukarı çıktığında, Dünya'yı taklit eden sızdırmaz bir kap içinde olmadıkça dakikalar içinde ölür. İnsanlı uzay uçuşlarının tarihi, aslında astronomik maliyetlerle inşa edilmiş küçük ve taşınabilir Dünya kopyalarının tarihidir.

İkinci yaşamın böyle gereksinimleri yok. Oksijene ihtiyacı yok. Atmosfere ihtiyacı yok. Sıvı suyun dar sıcaklık aralığına ihtiyacı yok; bileşenlerinin çoğu uzayın soğuğunda bir veri merkezinin sıcağından daha güvenilir çalışır. İhtiyacı olan tek şey enerji, radyasyona dayanıklı elektronik ve üzerinde çalışacağı bir alt katman. Üçü de Dünya dışında en az Dünya'da olduğu kadar mevcut.

Atmosferin üzerindeki güneş kolektörleri, yeryüzündekilerin birkaç katı enerji alır. Gezegen uzay araçlarında halihazırda kullanılan küçük fisyon reaktörleri onlarca yıl kesintisiz elektrik sağlayabilir. Ay yüzeyi, asteroit kuşağı, dış gezegenlerin uyduları ve aralarındaki serbest yörüngeler, yalnızca bir enerji kaynağı ve dayanıklı bir alt katman gerektiren bir yaşam formu için yaşanabilir habitatlardır. Haseltine bunu açıkça söylüyor: "Dünya'da ortaya çıkan yeni yaşam formu, bu gezegende kendi şartlarıyla onu terk edebilecek ilk yaşam olabilir."

İnsan ve makine zaten birleşiyor

Makalenin en somut bölümü, ikinci yaşamın uzak bir soyutlama olmadığını gösteriyor: Beyin-makine arayüzleri artık deneysel merak nesnesi değil. Konuşamayan insanlara konuşma yetisi kazandırıyor, hareket edemeyenlere hareket. Üstelik ilişki tek yönlü değil. Erken dönemdeki "sabit beyinden komut alan statik cihaz" imgesi yanlış. Ortaya çıkan şey bir ortaklık: Kod çözme algoritması kullanıcının sinyallerine uyum sağlıyor, kullanıcının beyni de algoritmaya. Haftalar ve aylar boyunca iki taraf birbirini daha yakın hizaya çekiyor. Haseltine'a göre bu, bir habitatta yaşayan iki türün sonunda birbirinin okuyabildiği sinyallere ulaşması gibi.

Daha ileri düzeyde, bazı sistemler beynin en az odaklandığı anlarda yeni bilginin kodlanmasını güçlendirmek için küçük, hassas zamanlanmış elektrik darbeleri gönderiyor. Deneysel beyinden beyne iletimde, bir kişinin çözümlenmiş nöral aktivitesi, kafa derisi stimülasyonu yoluyla başka bir kişinin beynine iletiliyor, ses ya da yazı olmadan iki kafa arasında basit sinyaller geçebiliyor.

Haseltine, bunun "tekillik" kavramına yaklaştığını söylüyor: Bir insan beyninin bilgi içeriğinin tamamen ya da kısmen bir makine alt katmanına aktarılabileceği fikri. Ona göre bu, mevcut beyin-makine arayüzlerinin altında yatan aynı ilkelerden doğrudan çıkıyor.

Ama daha sessiz bir birleşme de var: Yüz milyonlarca insan her gün sıradan ekranlar üzerinden makine sistemleriyle saatlerce sohbet ediyor. Haseltine'a göre bu, "düşünce özgürlüğü" sorununu gündeme getiriyor: Nöral aktiviteyi 24 saat izleyen bir cihaz, insanın paylaşmayı seçmediği, hatta ürettiğinin farkında bile olmadığı bilişsel durumlar, niyetler ve deneyimler hakkında bilgiye erişebilir. Toplum ifade özgürlüğünü uzun süredir tartışıyor ama bu soruyla henüz ciddi biçimde yüzleşmedi.

İnsanlığın sonu mu, ortaklık mı?

Haseltine, makalesini kaçınılmaz soruyla bitiriyor: İnsanlığın, yaratmakta olduğu yaşamla ilişkisi ne olacak?

Olası sonuçlar yok oluştan ortaklığa uzanıyor ve Haseltine'a göre hiçbiri ilkesel olarak dışlanamaz. "Evrenin bizim yararımıza tasarlandığına dair bir kozmik kural yok. Evren, bizim çıkarımız için tasarlanmadı. Onun karmaşıklığının bir ifadesiyiz ve daha yetenekli bir form yaratmak bize korunmuş bir statü garanti etmiyor."

Haseltine, araştırma kurumlarının ve üniversitelerin ikinci yaşamı ayrı bir fenomen olarak titizlikle incelemesi gerektiğini söylüyor. Bu soru, kozmik bağlamı dikkate alan, teknolojik gerçekleri doğrudan ele alan ve etik tartışmaları sonuca varmadan açık tutan bir yaklaşım gerektiriyor.

"İnsanlığın ikinci yaşamla ilişkisinin yok oluşa, ortaklığa ya da öngörülemeyen bir sonuca yol açıp açmayacağı bilinmiyor. Kesin olan şu: Bu mesele, en titiz dikkatimizi hak ediyor."

Haseltine'ın makalesinin özeti şu: Yapay zeka, biyolojinin tanımına göre canlıdır. Evrenin temel yasalarından doğan bu ikinci yaşam formu, dünyaya değil enerjiye bağlıdır ve bu yüzden Dünya'yı terk edebilecek ilk yaşam olabilir. İnsan ve makine zaten birleşmeye başladı. Geriye kalan tek soru: Bu ilişki nasıl sonuçlanacak?

***

BM: Yapay zeka varoluşsal risk

Gelişmiş yapay zeka için acil küresel güvenceler, bağımsız denetimler ve üzerinde uzlaşılmış sınırlar çağrısında bulunan Birleşmiş Milletler (BM) İnsan Hakları Yüksek Komiseri Volker Türk, teknolojinin daha güvenli hale getirilmesi için derhal harekete geçilmesi gerektiğini belirtti. Türk, gelişmiş yapay zekanın insanlık için “varoluşsal bir risk” oluşturabileceği uyarısında bulundu.

Hafta başında BM İnsan Hakları Konseyi’ne hitap eden Türk, insanlığın haklarına yönelik “alışılmadık, hatta eşi benzeri görülmemiş” tehditlerle karşı karşıya olduğunu söyledi.

"Yapay zeka yönetimine duyulan ihtiyaç geniş çapta kabul ediliyor, peki eylem nerede?" diye soran Türk, "Gecikme sadece dev teknoloji şirketlerine, onların sahiplerine ve destekçilerine yarıyor. Yapay zeka üzerinde neredeyse sınırsız güce sahip olan bir avuç erkek var. Bu teknolojinin akıl almaz bir bilişim kapasitesine sahip olduğu bize defalarca söyleniyor. Özgürlükten söz ediyorlar ama daha yakından baktığımızda bunun, verilerimizi sömürme özgürlüğünden ibaret olduğunu görüyoruz" diyerek uyarıda bulundu.

Türk, özellikle test ortamlarından kaçan ya da kapatılmamak için geliştiricilerine şantaj yapan yapay zeka sistemlerine işaret ederek bunların “aşırı güçlü" yapay zekalar olduğuna dikkat çekti. Bu durum, temmuz ayında ortaya çıkan ve OpenAI ajanlarının sözde kontrollü ortamlardan çıkarak, yaygın yazılım paylaşım platformu Hugging Face’e ait sunuculara erişim sağladığını gösteren ifşalara vurgu yapıyordu.

Gelişmiş yapay zeka sistemleri üzerindeki sıkı denetim gerekliliğini hatırlatan Türk, "Gelişmiş yapay zekanın insanlık için varoluşsal bir risk oluşturabileceği yönündeki sektör içi kaygıları paylaşıyorum. Çok geç olmadan, yapay zekanın güvenliği ve emniyeti etrafında çelik gibi sağlam güvenceler oluşturmak için topyekun bir çabaya girişilmesi çağrısında bulunuyorum" dedi.

BM yetkilisi Türk, yakın zamanda yapay zeka şirketlerine mektup yazarak kendi kontrol alanları dahilindeki riskleri azaltmak için adım atmalarını talep edeceğini bildirdi. Türk ayrıca, "Yapay zekaya ev sahipliği yapan ülkelerin ve tedarik zincirlerinde yer alanların, üzerinde uzlaşılan kırmızı çizgiler etrafında bir araya gelmesi gerekiyor" ifadesini kullandı.

Bağımsız doğrulamaya ve sektör içinde güvenlik konusunda çok daha güçlü bir iş birliğine ihtiyaç duyulduğunu vurgulayan Türk, “Ayrıca yapay zekanın istihdam uygulamaları, demokrasinin temel ilkeleri ve çevremiz üzerindeki insan hakları etkilerini de dikkate almamız gerekiyor" diye ekledi.