- Ukrayna savunma sanayisinden üst düzey bir ismin açıklamasına göre, iki yıl önce cephede yapılan bir testte tamamen otonom insansız hava araçları insan denetimi olmadan hedefleri vurdu ve Rus askerleri öldü. Bu iddia doğrulanırsa savaş tarihinde yeni ve tehlikeli bir eşiğin aşıldığı anlamına geliyor.
Ukrayna savaşında insansız hava araçları uzun süredir cephe hattının en belirleyici unsurlarından biri haline geldi.
Bugüne kadar bu araçların büyük bölümü insan operatörler tarafından yönlendiriliyor ya da en azından saldırı kararının bir aşamasında insan onayı gerektiriyordu. New Scientist’ten Matthew Sparkes’ın haberine göre, Ukrayna savunma sanayisinden üst düzey bir isim, ilk kez tamamen otonom insansız hava araçlarının insan denetimi olmadan askerleri öldürdüğünü açıkladı.
Dron üreticisi Alexander Kokhanovskyy, Ukrayna Büyükelçiliği’nin düzenlediği bir basın etkinliğinde yaptığı açıklamada, iki yıl önce Ukrayna cephesinde yapay zeka kontrollü 10 “Terminator” dron ile bir test gerçekleştirildiğini söyledi. Kokhanovskyy’ye göre test sırasında Rus askerleri öldürüldü. “Denedik” diyen Kokhanovskyy, bunun bir test olduğunu ve sistemin daha geniş ölçekte uygulanmadığını belirtti.
İnsan denetimi olmadan hedef aradı
Açıklamaya göre testte kullanılan quadcopter tipi drone’lar cephe hattına doğru uçacak şekilde programlandı. Araçlar yaklaşık 10 dakika içinde 3 ila 5 kilometrelik bir mesafe kat ettikten sonra “terminator modu”na geçti. Bu modda yapay zeka modeli belirlenen alan içinde hedefleri arıyor ve tespit ettiği hedefleri önlemeye ya da imha etmeye yöneliyordu.
Kokhanovskyy, bu aşamada dronlarla hiçbir bağlantı kalmadığını, görüntü aktarımı yapılmadığını ve operatörün ne gördüğünü bilemediğini söyledi. Onun ifadesiyle, dron belirlenen alanda gördüğü her şeyi hedef olarak değerlendiriyordu. Bu nedenle test, insanın saldırı kararından tamamen çıkarıldığı bir uygulama olarak öne çıkıyor.
Testten sonra bölgeye insan tarafından kontrol edilen dronlar gönderildi ve sonuçlar manuel olarak kontrol edildi. Kokhanovskyy, kurbanlar arasında “birkaç asker ve bir kamyon” bulunduğunu söyledi. Otonom dronların saldırı anına dair kayıt bulunmuyor; ancak bölgede yapılan kontrol sonucunda ölümlerin bu sistemler tarafından gerçekleştirildiği sonucuna varıldı.
Bakhmut ve Chasiv Yar yakınlarında test edildi
Kokhanovskyy, test sırasında bizzat bölgede bulunmadığını, uygulamanın adı açıklanmayan bir askeri birlik tarafından Bakhmut ve Chasiv Yar kentleri yakınlarında yapıldığını söyledi. Testin, Ukrayna’nın karşı saldırı süreci içinde gerçekleştirildiği belirtildi.
Ukrayna Savunma Bakanlığı, New Scientist’in testin ayrıntılarına ve tamamen otonom silahların mevcut hukuki durumuna ilişkin sorularına yanıt vermedi. Ukrayna savunma şirketlerinden kaynaklara göre hükümet, şu anda hedeflerin son aşamada yapay zeka tarafından tamamen bağımsız biçimde vurulmasını yasaklıyor. Ancak yapay zeka, bu aşamaya kadar birçok sistemde hedef bulma, takip etme ve yönlendirme gibi işlevlerde kullanılıyor.
Kokhanovskyy’ye göre Ukrayna hükümeti yapay zekanın artan askeri kapasitesinin farkında ve savunma şirketleriyle mevcut kuralların gevşetilip gevşetilmemesi konusunda görüşmeler yürütüyor.
Savaşta yapay zeka eşiği
Dünya ordularında yapay zeka kullanımı artık yaygın. Büyük miktardaki istihbarat verisinin analiz edilmesi, hedeflerin belirlenmesi, bazı silah sistemlerinin yönlendirilmesi ve operatörlerin iş yükünün azaltılması bu kullanım alanları arasında. Ancak bugüne kadar savaşta ölüm kararının bütünüyle yapay zekaya bırakıldığına ilişkin kesin kanıt çok sınırlıydı.
2023’te Ukrayna’da yapay zeka destekli saldırı dronlarının insan yardımı olmadan tank gibi araçları bulup vurduğu yönünde haberler çıkmıştı. Ancak bu örneklerde doğrudan insan kaybı doğrulanmamıştı. Kokhanovskyy’nin açıklaması ise bir yapay zeka sisteminin insan denetimi olmadan savaş alanında ölüme yol açtığına dair en açık iddialardan biri olarak değerlendiriliyor.
Birleşmiş Milletler’in 2021 tarihli bir raporunda da Türkiye yapımı Kargu-2 tipi bir quadcopter’in Libya’da insanlara karşı otonom saldırıda kullanılmış olabileceği öne sürülmüştü. Ancak raporda iddianın kaynağına ve insanların yaralanıp yaralanmadığına ya da öldürülüp öldürülmediğine ilişkin kesin ayrıntı verilmemişti.
Uluslararası yasak yok, etik tartışma büyüyor
Tamamen otonom ölümcül silah sistemlerine yönelik resmi ve bağlayıcı bir uluslararası yasak henüz bulunmuyor. Ancak BM Genel Sekreteri António Guterres, geçen yıl yaptığı açıklamada “dünyamızda ölümcül otonom silah sistemlerine yer olmadığını” söyleyerek yasak çağrısında bulunmuştu.
BM’ye göre bu tür silahlar, savaşta insan muhakemesini devre dışı bırakarak uluslararası insancıl hukuk ve insan hakları hukuku açısından ciddi riskler yaratabilir. Otonom sistemlerin hata yapması, kendi tarafındaki askerleri ya da araçları vurması veya sivilleri hedef alması olasılığı da en temel kaygılar arasında yer alıyor.
Oxford Üniversitesi’nden Mariarosaria Taddeo, yapay zekayla öldürmenin askerin onurunu elinden aldığını, saldırganın sorumluluğunu belirsizleştirdiğini ve yasaklanması gerektiğini belirtiyor. Taddeo’ya göre mesele yalnızca teknik değil, aynı zamanda ahlaki bir sorun. İnsanların öldürülmesine dair kararın insansız bir sisteme bırakılması, savaşın sınırlarını daha da tehlikeli hale getiriyor.
‘İnsan döngüde kalmalı’ tartışması
Ukrayna 3. Ordu Kolordusu’na bağlı 21. Ayrı İnsansız Sistemler Alayı’ndan Binbaşı Danylo Polozhukhno, söz konusu testten haberdar olmadığını ve bu teste dahil olmadığını belirtti. Polozhukhno, kendi birliklerinde yarı otonom kontrol sistemleri kullandıklarını ancak karar döngüsünde her zaman bir insan bulunduğunu söyledi.
Ona göre mevcut dron sistemleri hedefleri otomatik olarak tespit edip takip edebiliyor, ayrıca saldırının son metrelerinde kendi kendini yönlendirebiliyor. Bu özellikler operatörlerin işini kolaylaştırıyor. Ancak Polozhukhno, hedefi bağımsız olarak seçip operatör müdahalesi olmadan saldıran tamamen otonom sistemler kullanmadıklarını ifade etti.
Polozhukhno ayrıca Ukrayna’nın uluslararası insancıl hukuka bağlı olduğunu ve sivil kayıpları önlemek için karar süreçlerinde dikkatli davrandığını söyledi.
Askeri avantaj mı, kontrol kaybı mı?
Exeter Üniversitesi’nden Anthony King, insanın karar döngüsünden çıkarıldığı tamamen otonom saldırıların teknolojik olarak mümkün olduğunu ancak birçok kişinin düşündüğü kadar belirleyici bir askeri araç olmayabileceğini söylüyor. King’e göre hükümetler, askeri avantaj sağlayacağına inanırsa bu tür sistemlere izin verebilir. Ancak Ukrayna savaşında Rusya ve Ukrayna tarafından kullanılan milyonlarca dronun çok azı, eğer varsa, tamamen otonom biçimde çalıştı.
King, bu aşamada insanın karar sürecinde tutulmasının yalnızca etik açıdan değil, askeri etkinlik açısından da daha doğru olduğunu belirtiyor. Çünkü insan operatörler hedefin niteliğini, çevresel koşulları ve sivil riskleri değerlendirme kapasitesine sahip.
Yeni sistemler yolda
Kokhanovskyy, iki yıl önceki “Terminator” projesinin Ukrayna’daki mevcut kurallar nedeniyle ilerletilmediğini söyledi. Şu anda Aero Center adlı dron şirketinin CEO’su olan Kokhanovskyy, şirketin Rus Shahed kamikaze dronlarını havada önlemek için otonom önleyici sistemler geliştirdiğini belirtiyor.
ALITA adı verilen sistemin 16 fırlatma rampası ve 64 drondan oluşması planlanıyor. Sistemin ekim ayında hazır olması bekleniyor. Açıklamaya göre sistem, gelen dronları tespit edip otomatik olarak havalanabilecek ve saatte 450 kilometre hızla hedefe ilerleyebilecek.
Ancak Ukrayna’nın mevcut kuralları, son hedefleme ve imha aşamasının tamamen otonom yapılmasına izin vermiyor. Bu nedenle hedeflerin son aşamada insanlar tarafından doğrulanması gerekiyor. Buna rağmen 64 dronluk bir bataryanın yalnızca iki insan operatörle kullanılabilecek olması, yapay zekanın savaşta insan sayısını nasıl azalttığını gösteriyor.
Savaşın geleceği için tehlikeli işaret
Ukrayna cephesinden gelen bu açıklama, savaş teknolojilerinde yeni bir dönemin kapıda olduğunu gösteriyor. Yapay zeka artık yalnızca hedef tanıma, veri analizi ya da navigasyon aracı olarak değil, ölümcül karar süreçlerinin merkezine yerleşme potansiyeli taşıyor.
Bu gelişme, savaşta sorumluluğun kime ait olacağı sorusunu daha da acil hale getiriyor. Hedefi seçen algoritma mı, sistemi geliştiren şirket mi, emri veren komutan mı, yoksa sistemi kullanan devlet mi sorumlu olacak? Tamamen otonom silahlar yaygınlaştıkça bu sorular daha karmaşık hale gelecek.