16 Şubat 2023'te Lahey'de düzenlenen orduda yapay zeka konulu RAIM konferansındaki logo. Resim: Hollanda Dışişleri Bakanlığı / Kanun CC BY-SA 2.0
Evet, endişelenmenin zamanı geldi, çok endişeli. Ukrayna ve Gazze'deki savaşların gösterdiği gibi, “öldürücü robotlara” eşdeğer ilk insansız hava araçları savaş alanına ulaştı ve yıkıcı silahlar olduklarını kanıtladı.
Duyuru
Michael T. Klare onlardan. Dünya barışı ve güvenliği çalışmaları profesörü ve Silahların Kontrolü Derneği üyesi.
Ama en azından büyük ölçüde insan kontrolü altında kalıyorlar. Bir an için bu insansız hava araçlarının (veya karadaki ve denizdeki eşdeğerlerinin) bizi kontrol ettiği, tam tersinin olmadığı bir savaş dünyası hayal edin.
Savaşın geleceği
O zaman yıkıcı derecede farklı bir gezegende olurduk; bugün neredeyse hayal bile edilemeyecek bir şey. Ne yazık ki, büyük güçlerin yapay zeka (AI) ve robotik silahlar üzerinde çalışmaya başladığı göz önüne alındığında, bu hiç de inandırıcı değil.
Şimdi sizi bu gizemli dünyaya götüreyim ve savaşın geleceğinin hepimiz için ne anlama gelebileceğini hayal etmeye çalışayım.
ABD ordusu ve diğer gelişmiş ulusların orduları, yapay zeka ile gelişmiş robot teknolojilerini birleştirerek, halihazırda kendi kendini kontrol edebilen bir dizi “otonom” silah sistemi geliştirmek için çalışıyor: bunu yapmakla görevli insan subaylardan bağımsız olarak ölümcül güç sağlama kapasitesine sahip savaş dronları. . onlara emir vermek geçerli olabilir.
Eleştirmenlerin “öldürücü robotlar” olarak adlandırdığı bu makineler arasında otonom operasyonlar gerçekleştirebilen çeşitli insansız hava araçları, tanklar, gemiler ve denizaltılar yer alıyor. Örneğin ABD Hava Kuvvetleri, yüksek riskli görevlerde insanlı uçaklarla birlikte çalışmayı amaçlayan bir insansız hava aracı (İHA) olan “İşbirlikçi Savaş Uçağı”nı geliştiriyor.
Tartışmalar
Ordu ayrıca bir dizi otonom insansız kara aracını (UGV'ler) test ederken, Donanma hem insansız yüzey gemilerini (USV'ler) hem de insansız su altı gemilerini (UUV'ler veya drone denizaltıları) test ediyor.
Çin, Rusya, Avustralya ve İsrail de geleceğin savaş alanlarına yönelik bu tür silahlar üzerinde çalışıyor.
Bu ölüm makinelerinin yakında ortaya çıkması dünya çapında endişe ve tartışmalara yol açtı; bazı ülkeler halihazırda bunları tamamen yasaklamaya çalışırken, ABD de dahil olmak üzere diğerleri bunların yalnızca insan gözetimi altında kullanılmasına izin vermeyi planlıyor.
Hatta Cenevre'de bir grup devlet, sivil nüfus için özellikle zararlı olduğu düşünülen nükleer olmayan mühimmatları ortadan kaldırmayı amaçlayan 1980 tarihli Birleşmiş Milletler anlaşmasını (Belirli Konvansiyonel Silahlar Sözleşmesi) öne sürerek tamamen otonom silahların konuşlandırılmasını ve kullanımını yasaklamaya bile çalıştı. sınırlandırılmalı veya yasaklanmalıdır.
Kontrol dışı
New York'ta, Birleşmiş Milletler Genel Kurulu ilk olarak otonom silahları geçen Ekim ayında tartıştı ve konunun önümüzdeki sonbaharda tam olarak gözden geçirilmesini planlıyor.
Bu tür cihazların savaş alanında kullanımına ilişkin tartışma büyük ölçüde, bunların insan denetimi olmadan insan hayatına son verip vermeyeceği sorusu etrafında dönüyor. Pek çok dini ve sivil toplum kuruluşu, bu tür sistemlerin savaş alanındaki savaşçılar ile siviller arasında ayrım yapamayacağını ve bu nedenle, uluslararası insancıl hukukun gerektirdiği gibi, savaşçı olmayanları ölüm veya yaralanmadan korumak için yasaklanması gerektiğini savunuyor.
Ancak ABD'li yetkililer, bu tür silahların yasal sınırlar dahilinde düzgün çalışacak şekilde tasarlanabileceğini savunuyor.
Bununla birlikte, her iki taraf da bunların savaşta kullanımının potansiyel olarak en endişe verici yönüne değinmedi: Er ya da geç birbirleriyle insan müdahalesi olmadan iletişim kurabilmeleri ve “zeki” oldukları için, önceden belirlenmemiş taktikler geliştirebilmeleri olasılığı. bir düşmanı veya tamamen farklı bir şeyi yenmek.
Grup düşüncesi ve savaş alanındaki sonuçları
Bilgisayar bilimcilerinin “ortaya çıkan davranış” olarak adlandırdığı bu bilgisayar kontrollü grup düşüncesi, Cenevre, Washington veya Birleşmiş Milletler'deki yetkililerin henüz hesaba katmadığı bir dizi tehlikeyi beraberinde getiriyor.
Şimdilik, ABD ordusu tarafından geliştirilen otonom silahların çoğu, mevcut savaş uçaklarının insanlı muadilleriyle birlikte çalışmak üzere tasarlanmış insansız (veya bazen söylendiği gibi “insansız”) versiyonları olacak.
Birbirleriyle bir dereceye kadar iletişim kurabilecek olsalar da, konuşlandırılmaları insan komutanlar tarafından belirlenecek ve izlenecek “ağ bağlantılı” bir savaş ekibinin parçası olacaklar. Örneğin, işbirlikçi savaş uçağının, tartışmalı hava sahasında yüksek riskli görevler yürüten F-35 insanlı hayalet savaş uçağı için “sadık bir kanat adamı” olarak hizmet etmesi amaçlanıyor.
Ordu ve Deniz Kuvvetleri otonom silahlar geliştirmede benzer bir yol izledi.
Robotların “sürülerinin” büyüsü
Ancak bazı ABD'li stratejistler, otonom silahların gelecekteki savaş alanlarında konuşlandırılmasına yönelik alternatif bir yaklaşımı savundu; bu silahlar, insanlar tarafından yönetilen ekiplerdeki asistan meslektaşlar olarak değil, kendi kendini kontrol eden robot sürülerinin eşit üyeleri olarak konuşlandırılacak.
Bu tür oluşumlar, hepsi birbiriyle iletişim kurabilen, değişen savaş alanı koşulları hakkında veri paylaşabilen ve grubun zihni gerekli gördüğünde savaş taktiklerini ortaklaşa değiştirebilen düzinelerce, hatta yüzlerce yapay zeka kontrollü İHA, USV veya UGV'den oluşacaktır. .
Konseptin ilk savunucularından biri olan Paul Scharre, Center for a New American için hazırladığı bir raporda, “Yeni robotik teknolojiler, yarının ordularının, günümüzün ağa bağlı ordularından daha büyük kütle, koordinasyon, zeka ve hızla sürü halinde savaşmasına olanak tanıyacak” öngörüsünde bulundu. . 2014'ten beri Güvenlik (CNAS).
O zamanlar şöyle yazmıştı: “İşbirliğine dayalı ve ağ bağlantılı otonom sistemler, gerçek sürü davranışına sahip olacak: tutarlı, akıllı bir bütünle sonuçlanan bölünmüş öğeler arasında işbirlikçi davranış.”
Sürü kavramı hayvanların davranışlarını kopyalamayı amaçlamaktadır.
Scharre'nin kehanet niteliğindeki raporunda açıkça belirttiği gibi, sürü kavramının tam olarak hayata geçirilmesi, otonom savaş sistemlerinin birbirleriyle iletişim kurmasına ve tercih edilen saldırı yöntemlerine “oy vermesine” olanak tanıyan gelişmiş algoritmaların geliştirilmesini gerektirecektir.
Bunun için de doğada “sürü davranışı” sergileyen karıncaları, arıları, kurtları ve diğer canlıları taklit edebilecek yazılımlar geliştirmek gerekecektir. Scharre'nin dediği gibi:
Bu çabanın kilit isimlerinden biri, Paul Scharre'nin CNAS'taki eski meslektaşı ve sürü savaşının ilk tutkunlarından biri olan Robert Work'tü. Work, 2014'ten 2017'ye kadar savunma bakan yardımcısı olarak görev yaptı ve bu pozisyon, ona, özellikle insansız ve otonom sistemler olmak üzere yüksek teknolojili silahların geliştirilmesine giderek daha büyük miktarlarda para yönlendirmesine olanak sağladı.
Mozaikten kopyalayıcıya
Bu çabanın büyük bir kısmı, Pentagon'un kurum içi yüksek teknoloji araştırma organizasyonu olan Savunma İleri Araştırma Projeleri Ajansı'na (DARPA) devredildi.
DARPA, bu tür işbirlikçi sürü operasyonları için yapay zeka geliştirmenin bir parçası olarak, insanlı ve insansız savaş sistemlerinin faaliyetlerini koordine etmek için gereken algoritmaları ve diğer teknolojileri geliştirmek için bir dizi projeden oluşan “Mozaik” programını başlattı. Rusya ve/veya Çin ile savaşlar yapılması gerekiyor.
DARPA'nın Stratejik Teknoloji Ofisi direktör yardımcısı Dan Patt şöyle açıklıyor: “Mozaik konseptinin büyük esnekliğinin savaşa uygulanmasıyla, düşük maliyetli, daha az karmaşık sistemler, istenen etkileri elde etmek için çeşitli yollarla birbirine bağlanabilir ve iç içe geçirilebilir. Her senaryo için özel olarak tasarlanmış sonuçlar elde edin.
Bir mozaiğin bireysel parçaları hassastır [entbehrlich]ama birlikte paha biçilmez bir değere sahipler çünkü bütüne katkıda bulunuyorlar.”
Savaşçı Yapay Zeka Sürüsü: Katil Robotlar İletişim Kurmaya Başladığında Ne Olur?
Çin'i yapay zekayla mağlup edin
Tek sayfada okuyun
Evet, endişelenmenin zamanı geldi, çok endişeli. Ukrayna ve Gazze'deki savaşların gösterdiği gibi, “öldürücü robotlara” eşdeğer ilk insansız hava araçları savaş alanına ulaştı ve yıkıcı silahlar olduklarını kanıtladı.
Duyuru
Michael T. Klare onlardan. Dünya barışı ve güvenliği çalışmaları profesörü ve Silahların Kontrolü Derneği üyesi.
Ama en azından büyük ölçüde insan kontrolü altında kalıyorlar. Bir an için bu insansız hava araçlarının (veya karadaki ve denizdeki eşdeğerlerinin) bizi kontrol ettiği, tam tersinin olmadığı bir savaş dünyası hayal edin.
Savaşın geleceği
O zaman yıkıcı derecede farklı bir gezegende olurduk; bugün neredeyse hayal bile edilemeyecek bir şey. Ne yazık ki, büyük güçlerin yapay zeka (AI) ve robotik silahlar üzerinde çalışmaya başladığı göz önüne alındığında, bu hiç de inandırıcı değil.
Şimdi sizi bu gizemli dünyaya götüreyim ve savaşın geleceğinin hepimiz için ne anlama gelebileceğini hayal etmeye çalışayım.
ABD ordusu ve diğer gelişmiş ulusların orduları, yapay zeka ile gelişmiş robot teknolojilerini birleştirerek, halihazırda kendi kendini kontrol edebilen bir dizi “otonom” silah sistemi geliştirmek için çalışıyor: bunu yapmakla görevli insan subaylardan bağımsız olarak ölümcül güç sağlama kapasitesine sahip savaş dronları. . onlara emir vermek geçerli olabilir.
Eleştirmenlerin “öldürücü robotlar” olarak adlandırdığı bu makineler arasında otonom operasyonlar gerçekleştirebilen çeşitli insansız hava araçları, tanklar, gemiler ve denizaltılar yer alıyor. Örneğin ABD Hava Kuvvetleri, yüksek riskli görevlerde insanlı uçaklarla birlikte çalışmayı amaçlayan bir insansız hava aracı (İHA) olan “İşbirlikçi Savaş Uçağı”nı geliştiriyor.
Tartışmalar
Ordu ayrıca bir dizi otonom insansız kara aracını (UGV'ler) test ederken, Donanma hem insansız yüzey gemilerini (USV'ler) hem de insansız su altı gemilerini (UUV'ler veya drone denizaltıları) test ediyor.
Çin, Rusya, Avustralya ve İsrail de geleceğin savaş alanlarına yönelik bu tür silahlar üzerinde çalışıyor.
Bu ölüm makinelerinin yakında ortaya çıkması dünya çapında endişe ve tartışmalara yol açtı; bazı ülkeler halihazırda bunları tamamen yasaklamaya çalışırken, ABD de dahil olmak üzere diğerleri bunların yalnızca insan gözetimi altında kullanılmasına izin vermeyi planlıyor.
Hatta Cenevre'de bir grup devlet, sivil nüfus için özellikle zararlı olduğu düşünülen nükleer olmayan mühimmatları ortadan kaldırmayı amaçlayan 1980 tarihli Birleşmiş Milletler anlaşmasını (Belirli Konvansiyonel Silahlar Sözleşmesi) öne sürerek tamamen otonom silahların konuşlandırılmasını ve kullanımını yasaklamaya bile çalıştı. sınırlandırılmalı veya yasaklanmalıdır.
Kontrol dışı
New York'ta, Birleşmiş Milletler Genel Kurulu ilk olarak otonom silahları geçen Ekim ayında tartıştı ve konunun önümüzdeki sonbaharda tam olarak gözden geçirilmesini planlıyor.
Bu tür cihazların savaş alanında kullanımına ilişkin tartışma büyük ölçüde, bunların insan denetimi olmadan insan hayatına son verip vermeyeceği sorusu etrafında dönüyor. Pek çok dini ve sivil toplum kuruluşu, bu tür sistemlerin savaş alanındaki savaşçılar ile siviller arasında ayrım yapamayacağını ve bu nedenle, uluslararası insancıl hukukun gerektirdiği gibi, savaşçı olmayanları ölüm veya yaralanmadan korumak için yasaklanması gerektiğini savunuyor.
Ancak ABD'li yetkililer, bu tür silahların yasal sınırlar dahilinde düzgün çalışacak şekilde tasarlanabileceğini savunuyor.
Bununla birlikte, her iki taraf da bunların savaşta kullanımının potansiyel olarak en endişe verici yönüne değinmedi: Er ya da geç birbirleriyle insan müdahalesi olmadan iletişim kurabilmeleri ve “zeki” oldukları için, önceden belirlenmemiş taktikler geliştirebilmeleri olasılığı. bir düşmanı veya tamamen farklı bir şeyi yenmek.
Grup düşüncesi ve savaş alanındaki sonuçları
Bilgisayar bilimcilerinin “ortaya çıkan davranış” olarak adlandırdığı bu bilgisayar kontrollü grup düşüncesi, Cenevre, Washington veya Birleşmiş Milletler'deki yetkililerin henüz hesaba katmadığı bir dizi tehlikeyi beraberinde getiriyor.
Şimdilik, ABD ordusu tarafından geliştirilen otonom silahların çoğu, mevcut savaş uçaklarının insanlı muadilleriyle birlikte çalışmak üzere tasarlanmış insansız (veya bazen söylendiği gibi “insansız”) versiyonları olacak.
Birbirleriyle bir dereceye kadar iletişim kurabilecek olsalar da, konuşlandırılmaları insan komutanlar tarafından belirlenecek ve izlenecek “ağ bağlantılı” bir savaş ekibinin parçası olacaklar. Örneğin, işbirlikçi savaş uçağının, tartışmalı hava sahasında yüksek riskli görevler yürüten F-35 insanlı hayalet savaş uçağı için “sadık bir kanat adamı” olarak hizmet etmesi amaçlanıyor.
Ordu ve Deniz Kuvvetleri otonom silahlar geliştirmede benzer bir yol izledi.
Robotların “sürülerinin” büyüsü
Ancak bazı ABD'li stratejistler, otonom silahların gelecekteki savaş alanlarında konuşlandırılmasına yönelik alternatif bir yaklaşımı savundu; bu silahlar, insanlar tarafından yönetilen ekiplerdeki asistan meslektaşlar olarak değil, kendi kendini kontrol eden robot sürülerinin eşit üyeleri olarak konuşlandırılacak.
Bu tür oluşumlar, hepsi birbiriyle iletişim kurabilen, değişen savaş alanı koşulları hakkında veri paylaşabilen ve grubun zihni gerekli gördüğünde savaş taktiklerini ortaklaşa değiştirebilen düzinelerce, hatta yüzlerce yapay zeka kontrollü İHA, USV veya UGV'den oluşacaktır. .
Konseptin ilk savunucularından biri olan Paul Scharre, Center for a New American için hazırladığı bir raporda, “Yeni robotik teknolojiler, yarının ordularının, günümüzün ağa bağlı ordularından daha büyük kütle, koordinasyon, zeka ve hızla sürü halinde savaşmasına olanak tanıyacak” öngörüsünde bulundu. . 2014'ten beri Güvenlik (CNAS).
O zamanlar şöyle yazmıştı: “İşbirliğine dayalı ve ağ bağlantılı otonom sistemler, gerçek sürü davranışına sahip olacak: tutarlı, akıllı bir bütünle sonuçlanan bölünmüş öğeler arasında işbirlikçi davranış.”
Sürü kavramı hayvanların davranışlarını kopyalamayı amaçlamaktadır.
Scharre'nin kehanet niteliğindeki raporunda açıkça belirttiği gibi, sürü kavramının tam olarak hayata geçirilmesi, otonom savaş sistemlerinin birbirleriyle iletişim kurmasına ve tercih edilen saldırı yöntemlerine “oy vermesine” olanak tanıyan gelişmiş algoritmaların geliştirilmesini gerektirecektir.
Bunun için de doğada “sürü davranışı” sergileyen karıncaları, arıları, kurtları ve diğer canlıları taklit edebilecek yazılımlar geliştirmek gerekecektir. Scharre'nin dediği gibi:
Ancak 2014 yılında bu makine davranışını mümkün kılan teknoloji henüz başlangıç aşamasındaydı. Bu kritik eksikliği gidermek için ABD Savunma Bakanlığı, Google ve Microsoft gibi özel şirketlerden ilgili teknolojileri satın alarak yapay zeka ve robot bilimi alanındaki araştırmaları teşvik etti.
Bu çabanın kilit isimlerinden biri, Paul Scharre'nin CNAS'taki eski meslektaşı ve sürü savaşının ilk tutkunlarından biri olan Robert Work'tü. Work, 2014'ten 2017'ye kadar savunma bakan yardımcısı olarak görev yaptı ve bu pozisyon, ona, özellikle insansız ve otonom sistemler olmak üzere yüksek teknolojili silahların geliştirilmesine giderek daha büyük miktarlarda para yönlendirmesine olanak sağladı.
Mozaikten kopyalayıcıya
Bu çabanın büyük bir kısmı, Pentagon'un kurum içi yüksek teknoloji araştırma organizasyonu olan Savunma İleri Araştırma Projeleri Ajansı'na (DARPA) devredildi.
DARPA, bu tür işbirlikçi sürü operasyonları için yapay zeka geliştirmenin bir parçası olarak, insanlı ve insansız savaş sistemlerinin faaliyetlerini koordine etmek için gereken algoritmaları ve diğer teknolojileri geliştirmek için bir dizi projeden oluşan “Mozaik” programını başlattı. Rusya ve/veya Çin ile savaşlar yapılması gerekiyor.
DARPA'nın Stratejik Teknoloji Ofisi direktör yardımcısı Dan Patt şöyle açıklıyor: “Mozaik konseptinin büyük esnekliğinin savaşa uygulanmasıyla, düşük maliyetli, daha az karmaşık sistemler, istenen etkileri elde etmek için çeşitli yollarla birbirine bağlanabilir ve iç içe geçirilebilir. Her senaryo için özel olarak tasarlanmış sonuçlar elde edin.
Bir mozaiğin bireysel parçaları hassastır [entbehrlich]ama birlikte paha biçilmez bir değere sahipler çünkü bütüne katkıda bulunuyorlar.”