Türkiye’de üretilen Kargu-2 isimli silahlı insansız hava aracı (SİHA) bu ayın başında dünya basınının gündemindeydi.
Mart ayında yayımlanan bir Birleşmiş Milletler (BM) raporuna atıf yapılan “Katil robotlar aramızda” başlıklı haberlerde Kargu-2’nin yapay zeka ile maksatlarını vuran birinci SİHA olduğu, bunun geçen yıl Libya’da yaşandığı aktarıldı.
Peki BM raporunda neler yazıyordu? Kargu-2’nin özellikleri neler? Otonom sistemler neden etik tartışmalara yol açıyor?
Kargu-2 hakkında merak edilen sorulara karşılık aradık.
Kargu-2 nedir?
Kargu-2, Savunma Teknolojileri Mühendislik ve Ticaret AŞ (STM) tarafından geliştirilen, küçük boyutlu bir insansız kamikaze hava aracı. STM bunu “Vurucu İHA” (VİHA) olarak tanımlıyor. BM ise Kargu’yu “ölümcül otonom silah sistemi” (LAWS) olarak niteliyor.
STM 1991’de Türk Silahlı Kuvvetleri ve Savunma Sanayii Müsteşarlığı tarafından kurulan bir şirket. 2016 prestijiyle ise yüzde 34’ü Savunma Sanayii Başkanlığı’na, yüzde 34’ü özel bir şirket olan Savronik’e, yüzde 31,9’u ise Türk Silahlı Kuvvetleri’ni Güçlendirme Vakfı’nın sahibi olduğu Havelsan’a ilişkin.
Kargu ise STM’nin internet sitesinde şöyle tanıtılıyor:
“Kargu asimetrik harp yahut anti-terör alanlarında kullanılmak üzere tek er tarafından taşınabilen, otonom yahut uzaktan kumanda ile çalışabilen, döner kanatlı ulusal vurucu İHA tahlilidir.
“Kargu platform üzerinde gömülü ve gerçek vakitli özgün manzara sürece ve derin öğrenme algoritmalarıyla sabit yahut hareketli hede?ere karşı aktif olarak kullanılabilmektedir.”
STM Kargu’yu YouTube hesabında ise şu görüntüyle tanıtıyor:
70x70x40 cm. boyutlarındaki aracın yükü ise 7 kilo.
Kargu’nun gerçek vakitli obje tespit, teşhis, takip ve sınıflandırma özelliği bulunuyor.
Farklı cinsten mühimmatlar taşıyabilen Kargu, gayesinin yakınına kadar gidip patlıyor.
STM bunu “tali ziyanları en az olacak formda otonom hassas vuruş” olarak anlatıyor.
25 dakika havada kalabilen İHA 5 kilometre menzile sahip. 2,8 kilometreye kadar yükselebilen Kargu’nun azamî suratı ise saatte 72 km.
A Haber Eylül 2018’de Kargu’nun Türk Silahlı Kuvvetleri’ne (TSK) teslim edildiğini duyurmuştu.
Anadolu Ajansı’nın haberine nazaran bu araçlar Ankara’daki OSTİM Teknopark’ta üretiliyor. Ajans 2020’de yayınladığı haberde STM’nin 500 adet Kargu’yu TSK’ye teslim etmeye hazırlandığını yazmıştı.
Haberde 1-1,5 yıl içinde Kargu-2’lerin sürü halinde de denetim edebileceği aktarılmıştı. STM’nin YouTube hesabında yayınladığı görüntüde da bu özellik gösteriliyor.
Bu teknolojiye değinen bir BM Silahsızlanma Araştırmaları Enstitüsü raporunda, sürü halinde işleyen otonom sistemlerin öngörülebilirliğinin azaldığı vurgulanmıştı.
Kargu-2’nin şu anki özellikleri, fiyatı ve alıcı ülkeler hakkında Kargu’nun üreticisi STM’ye sorular sormak istedik ama iş yoğunlukları nedeniyle cevap veremeyeceklerini öğrendik.
BBC Türkçe‘ye konuşan savunma alanındaki prestijli mecmualardan IHS Jane’s Defence Weekly’nin Orta Doğu ve Afrika Editörü Jeremy Binnie, Kargu-2’nin muhtemelen araçlar ve beşerler ortasında ayrım yapabildiğini ancak farklı araç çeşitlerini birbirinden ayırmak üzere yeteneklerinin olup olmadığının bilinmediğini söyledi.
Otonom sistemler neden eleştiriliyor?
Otonom sistemler birden fazla nedenden dolayı eleştiriliyor.
Birincisi teknik nedenlerden kaynaklanıyor. İmaj sürece teknolojisi hâlâ mükemmellikten uzak olduğu için otonom bir SİHA, bir ağaç siluetini bir beşerle karıştırabiliyor. Bu da aygıtın yanlış karar vermesine yol açabiliyor.
Bu aletlerin geliştirilmesi ve kullanımı hakkında etik ve hukuksal tenkitler de var.
BBC Türkçe‘ye konuşan bilim ve teknoloji felsefecisi, New York’taki The News School’dan Doç. Dr. Peter Asaro, “İnsanların bir yapay zekalı robot tarafından öldürülmesine müsaade vermenin ne kadar etik olduğu, yanlış şahısların vefatına yol açması durumunda bundan kimin sorumlu tutulacağı ve bu hususta memleketler arası hukukun nasıl değişmesi gerektiği büyük birer tartışma konusu” diyor.
Uluslararası Robot Silah Denetimi Komitesi Lider Yardımcısı ve Katil Robotları Durdurun Kampanyası Sözcüsü de olan Asaro “Bu sistemlerin teröristler tarafından hacklenmesi yahut otoriter diktatörler tarafından kendi halklarına karşı kullanılması” ihtimalinin de tasa verici olduğunu söylüyor.
Asaro günümüzde bir savaşta bir küme askerin bir köydeki sivilleri öldürmesi durumunda savaş kabahatleri mahkemesi kurulacağını lakin bu bir otonom yazılımın yanlışı sonucu gerçekleşirse bunun bir kaza olarak değerlendirileceğini, muhtemelen kimsenin ceza almayacağını anlatıyor:
“Savaşlarda bu çeşit kazalardan çoklukla taraflar sorumlu tutulmuyor. Sorumlular ‘otonom SİHA’nın sivilleri öldüreceğini bilmiyordum’ demesi durumunda yargılanamaz, bu bir savaş kazası olarak kayıtlara geçer.
“Otonom sistemlerin askeri ve sivil hedefli kullanımlarında sorumluluk burada farklılaşıyor: Örneğin otonom bir araç yayaları ezse şirket büyük bir tazminat ödeyebilir ama otonom bir SİHA ezkaza sivilleri öldürürse üreticiye dava açılmıyor.”
Jane’s Defence Weekly Editörü Binnie, “katil robotların” bilinenden daha uzun müddettir ortamızda olduğunu söylüyor:
“Üzerlerindeki radarlarını kullanarak kendi gayelerine karar veren gemi torpidoları bir müddettir kullanımda.
“Bu torpidolar ateşlendikten sonra onu ateşleyen kişinin hiçbir yönlendirme imkanı kalmıyor.
“Bunların kusurlu kararlarının örneklerini daha evvel gördük: 2006’da Hizbullah bir İsrail savaş gemisini amaç aldı ancak bir kargo gemisini batırdı.
“Yeni kuşak torpidolar ise gemileri ayırt etmeyi başarıyor. Bu yüzden yüksek teknoloji otonominin bu alanda işe yaradığını söyleyebiliriz.”
BM’nin raporunda Kargu ile ilgili neler yazıyor?
BM kararıyla kurulan Libya Uzmanları Paneli, Libya’daki gelişmelere dair 8 Mart’ta Güvenlik Kurulu Başkanlığı’na 548 sayfalık bir rapor sundu.
Uzmanlar raporda 27 Mart 2020’de Libya Ulusal Mutabakat Hükümeti Başbakanı Fayez Sarrac’ın “Barış Fırtınası Operasyonu’nu” başlatmasının akabinde geri çekilmek zorunda kalan Halife Hafter güçlerine Kargu-2 ile taarruzlar düzenlendiğini söyledi:
“İnsansız hava araçları yahut STM Kargu-2 üzere öldürücü otonom silah sistemleri ve öteki kamikaze drone’ları kullanılarak lojistik konvoyları ve geri çekilmekte olan Hafter güçlerinin peşine düşüldü.
“Öldürücü otonom silah sistemleri, operatör ile data temasına muhtaçlık duymadan akın düzenleyecek formda programlanmıştı: Bu gerçek bir ‘ateşle, unut ve bul’ özelliğiydi.
“Hafter’in istihbarat ve nezaret için kullandığı az sayıdaki insansız hava aracı ise Koral elektronik savaş sistemleri tarafından elektronik sinyaller aracılığıyla etkisiz hale getirildi.”
Libya’da Hafter güçlerine Birleşik Arap Emirlikleri tarafından verilen Pantsir S-1 hava savunma sistemlerinin imha edilmesi geçen yıl ses getirmişti.
BM raporunda, bu hücumda ölümcül otonom silah sistemlerinin de kullanıldığını ve bunun son derece tesirli olduğunu söz edildi.
Doç. Dr. Asaro, BM raporunda bu silahların çekilmekte olan askerlere karşı kullanılmasının yarattığı etik meselelere da dikkat çekti:
“Bunların bir kısmı yaralı askerler olabilir ve Cenevre Sözleşmesi’ne nazaran bu askerlerin gaye alınması yasaktır.
“Dahası, bu askerler beyaz bayrak sallayarak teslim olmaya çalışıyor da olabilirdi. Otonom bir sistemin bunu algılayıp algılamayacağını bilmiyoruz.
“Daha evvel Azerbaycan’ın İsrail tarafından geliştirilen bir VİHA ile emsal hücumlar yaptığını biliyoruz. Bu aracın otonom olmayan bir versiyonu da var ve atakta hangisinin kullanıldığını tespit etmek mümkün değildi. Üstelik saldırılanlar da bir okul otobüsüne bindirilmiş bir küme yedek askerdi. Bu atağın neden yapıldığını anlayamamıştık.”
Jane’s Defence Weekly’den Jeremy Binnie de daha evvel otonom özelliği olan Polonya imali WB Warmate’in Libya’da görüntülendiğini, bu olayın otonom bir hava aracının bir savaşta kullanıldığı birinci olay olmadığını söylüyor.
Raporun 30 sayılı ekinde de Libya’da kullanıldıktan sonra kalıntısı bulunan bir Kargu-2’nin fotoğraflarına yer verildi.
Sirte ile Mısrata ortasında bulunan Ebu Kureyn kasabasında 25 Mayıs’ta bulunan Kargu-2’nin Ocak 2020’de piyasaya sürüldüğü ve sadece Türk Silahlı Kuvvetleri’nin envanterinde yer aldığı belirtildi.
Raporun 30 numaralı ekinde “Türkiye’nin Libya’ya bu sistemi göndermesi 1970 sayılı kararının 9. paragrafını (silah ambargosunu düzenleyen paragraf) ihlali manasına gelmektedir” sözleri yer aldı.
Raporda Türkiye’nin 23 Ekim 2019 ile 30 Kasım 2020 tarihleri ortasında 26 başka ihlal gerçekleştirdiği aktarıldı.
Libya’daki Ulusal Mutabakat Hükümeti’nin 2 Haziran ile 3 Kasım 2019 tarihleri ortasında Cumhurbaşkanlığı Savunma Sanayii Başkanlığı’na ilişkin SSTEK Savunma Sanayi Teknolojileri AŞ’ye üç başka seferde toplam 409,3 milyon euroluk para transferi buyruğu verdiği de belirtildi ve bunların evrakları yer aldı.
Öte yandan Ürdün, Birleşik Arap Emirlikleri, Mısır, Suriye ve Rusya’nın da Halife Hafter lehine tekraren silah ambargosunu deldiği aktarıldı.
Panel, raporda işlenen mevzularla ilgili Ürdün, Türkiye ve Birleşik Arap Emirlikleri’ne sorular sorduklarını ancak cevap yahut ayrıntılı bilgi alamadıklarını açıkladı.
Otonom Silahsızlanma Araştırmaları Enstitüsü’nün teklifleri neler?
Öldürücü otonom silah sistemleri, yapay zekanın gelişmeye başlamasıyla birlikte insan hakları, etik ve teknoloji alanında çalışan pek çok uzmanın ihtarlarına yol açtı.
Bu konuda Avrupa Birliği ve Birleşmiş Milletler’e çok sayıda davet yapıldı.
Birleşmiş Milletler Silahsızlanma Araştırmaları Enstitüsü (UNIDIR) de Mayıs 2021’de otonom askeri sistemlerin meseleleri hakkında kapsamlı bir rapor yayımladı.
Raporda tüm otonom sistemlerin etraflarından topladıkları bilgilere nazaran karar verdiği hatırlatıldı:
“Gerçek dünyada veri hiçbir vakit kusursuz değildir. Daha da kıymetlisi karmaşık ve öngörülemez biçimlerde kusursuzluktan uzaktır. Veri meseleleriyle karşılaşan otonom sistemler bu nedenle karmaşık ve öngörülemez kusurlara yol açabilir.
“Bu yüzden otonom sistemlerin veri problemleri nedeniyle yanılgılı işlemesi, hem kaçınılmaz hem de beklenmedik olabilir.
“Bu sistemler her vakit problemli ve öngörülemez bilgilerle karşı karşıya kalacak.”
Raporu hazırlayan Arthur Holland Michel, bu aygıtların geliştirildiği laboratuvar şartlarında bilgilerin denetim altında olduğunu ama bir savaş ortamında bölgeden toplanacak bilgileri test etmenin mümkün olmadığını belirtiyor.
Michel, bir otonom silah sisteminin yanlış kişiyi öldürmesi durumunda bunun sorumluluğunun kimde olduğunun tartışmalı olduğunu, sistemin meselelerinin ne ölçüde bilindiği üzere soruların gerçek cevaplarını bulmanın sıkıntı olabileceğini söylüyor.
Michel bu rapor için söyleşi yaptığı tüm uzmanların, otonom silahları kullanan tarafların istenmeyen ziyanları tedbire konusunda gerekli adımları atmadığının ortaya çıkması durumunda, kelam konusu tarafların sorumlu tutulacağını söylediğini aktarıyor.
Michel’e nazaran tüm otonom silah kullanıcılarının, bu sistemlerde ne üzere sıkıntıların oluşabileceğini bilip, buna hazırlık yapıp, gerekli tahlilleri de uygulayabilecek kapasitede olması gerekiyor.
Bazı devletlerin güvenilirliği daha düşük otonom silahları kullanmasıyla birlikte başka devletlerin de alandaki avantajlarını kaybetmemek için benzeri bir yola gidebileceğini belirten Michel, bunun güvenlik alanında “dibe yanlışsız bir yarış” manasına geleceği ikazında bulunuyor.
Michel’in BM için hazırladığı raporda bu problemler karşısında altı tahlil önerisi yer alıyor:
1. Otonom silahların büsbütün yahut kısmen yasaklanması
Bu cins silahların yasaklanmasına yönelik davetler bir müddettir mevcut olsa da devletler bu tarafta bir adım atmakta isteksiz. Öte yandan büyük bir kısmı otomatik olan silah sistemleriyle otonom sistemler ortasındaki çizginin nerede olduğu konusunda da fikir birliği bulunmuyor. Birtakım uzmanlar ise bu tıp sistemlerin insanlara karşı kullanımının yasaklanmasının daha kolay bir teklif olacağı görüşünde.
2. Direkt insan kontrolü
Otonom sistemlerin başında daima olarak bir insan bulunması ve riskli durumlarda müdahale etmesine yönelik bir milletlerarası yasa da uzmanların teklifleri ortasında yer alıyor.
Öte yandan beklenmedik kusurlar karşısında insanların da her vakit yanlışsız kararları verebileceğinin bir garantisi bulunmuyor. Bir yanılgı durumunda aygıtın başındaki operatörün mü, yoksa operasyona karar veren daha üst seviye bir yetkilinin mi sorumlu tutulacağı da bir başka tartışma konusu.
3. Sorumluluğun belirlenmesi
Uluslararası toplum, bu sistemlerin istenmeyen ziyanlar vermesi durumunda her vakit bir insanın sorumlu tutulması gerektiğinde hemfikir.
Mevcut yasal çerçeveler yanılgı, özensizlik ve şuurlu taksir üzere mevzularda tarafları sorumlu tutuyor. Ancak rastgele bir istenmeyen ziyan durumunda bunun öngörülebilir olup olmadığını belirlemek son derece güç.
Bu yüzden kimi uzmanlar bu cins ayrıntılara girmeksizin, devletlerin her şartta istenmeyen ziyanlardan dolayı sorumlu tutulmasını talep ediyor. Bu görüşteki uzmanlar, sorumlu tutulan devletlerin bu çeşit yanılgıların önüne geçme yahut kullanımda daha dikkatli olma konusunda daha fazla motivasyona sahip olacağını öne sürüyor.
4. Mecburî denetim
Bir otonom silah sisteminin ne kadar emniyetli olduğu konusunda yasa yapıcıların karar almasını kolaylaştırmanın bir yolu olarak mecburî kontrol uygulaması öneriliyor.
Bu teklife nazaran bir küme bağımsız uzmanın geliştirilen otonom silahı denetleyerek bunların yanılgı hissesini, güvenilirliğini ve muhtemel bilgi sıkıntılarını ortaya koyması gerekiyor.
Bunun akabinde da üreticinin bu tekliflerden yola çıkarak sistemindeki eksiklikleri tamamlaması bekleniyor.
5. Tekrarlayan denetim
Otonom silah sistemlerinin beklenmedik yanılgılar yapması kaçınılmaz olduğu için kimi uzmanlar tespit edilen her yanlıştan sonra bütün sistemlerin baştan sona denetlenerek birebir yanılgının öbür sistemlerde de oluşmasının önüne geçilmesine yönelik bir yasal düzenleme gerekiyor.
Fakat birtakım sistemlerde çok sık kusur tespit edilmesi durumunda bunun uygulanmasının zorlaşacağı da raporda vurgulanıyor.
6. Standartlar ve bilgi paylaşımı
Çok sayıda uzman, bu bahislerde devletlerin bir standart geliştirmesi ve bilgi paylaşması gerektiğini savunuyor.
Öte yandan askeri bilgilerin pek çok ülkede saklı olması nedeniyle devletleri buna ikna etmenin sıkıntı olabileceği belirtiliyor.
SİHA’ların ordular için ehemmiyeti artarken yasak gelebilir mi?
Son yıllarda Libya ve Kafkasya’da yaşanan savaşlarda Türkiye’nin ürettiği SİHA’ların alandaki gidişatı değiştirmesi, dünya genelinde bu silahlara yönelik ilgiyi de artırdı.
Türkiye, Çin, ABD ve İsrail bu silahların ihracatından kıymetli bir gelir elde ediyor.
Peki bu tabloda BM’de bu silahların kullanımına dair bir kısıtlama çıkmasını beklemek gerçekçi mi?
Doç. Dr. Asaro gerçekçi olduğu görüşünde:
“Otonom SİHA’lar şimdi çok yeni ve hiçbir ordu şimdi bunlara bağımlı değil. Bu sayede ülkelerin bir muahede imzalaması daha beklenen.
“Bunların satışından para kazanan ülkeler karşı çıksa da buna benzeri bir örneği Nükleer Silahların Yayılmasını Tedbire Mutabakatı’nda gördük:
“Nükleer silahı olan ülkeler imzalamasa da 100’den fazla ülke bu muahedeye taraf oldu ve böylelikle memleketler arası kamuoyunun bu silahların kullanımını yanlışsız bulmadığı bildirisi verildi.
Kimyasal yahut biyolojik silahların yasaklanması da misal bir çabanın sonucu gerçekleşti.
“Otonom silahlar konusunda da ABD, Rusya ve Çin üzere büyük ülkelerin stratejik istikrar açısından böylesi bir muahedeyi destekleyeceğini düşünüyorum. Soğuk Savaş periyodundaki nükleer silah yarışının bir benzerinin yaşanmasının önüne lakin bu türlü geçebilirler.”
Asaro BM’de 30’dan fazla ülkenin, ölümcül otonom silah sistemlerinin başlarında son kararı veren birer insan bulunmasına ve bu sistemlerin bireyleri değil sadece tank ve savaş uçakları üzere araçları maksat alabilmesine yönelik bir teşebbüsü desteklediğini söylüyor.
Bu ülkelerin birçoklarının Bağlantısızlar Hareketi’nden olduğunu aktaran Asaro, Avrupa’dan da Belçika ve Avusturya’nın desteklediğini belirtiyor.
Jane’s Defence Weekly’den Jeremy Binnie de bu istikamette davetlerin olduğunu ama pek çok ülkede orduların daha fazla otomasyon kullanmak istemesi nedeniyle böylesi bir kontrata yönelik direnç olduğunu söylüyor:
“Bu sistemlerin başında ne kadar insan kontrolü olması gerektiği konusunda herkesin kabul edebileceği bir tarif bulmak sıkıntı olabilir.
