Resim: metamorworks, Shutterstock.com
Birçok yapay zeka aracı yaşam kalitesinde iyileşmelere yol açar. Ancak askeri uygulamalarda kontrolün kaybedilmesi de dahil olmak üzere gizlenen büyük tehlikeler vardır. Bir uyarı. (Bölüm 1)
Bu yıl 300 yaşında olacak olan Immanuel Kant, 1795 yılında, günümüzün giderek askerileşen çatışma gerçekliğiyle çelişen “Ebedi Barış Üzerine” adlı eserinde uluslararası barış politikasına ilişkin temel fikirleri formüle etti. Öte yandan Kant, bilinçli bir barış inşası adına insanlığın savaşçı durumunu aşmayı umuyordu:
Duyuru
O zaman “aklın, en yüksek ahlaki yasama gücünün tahtından itibaren, savaşı hukuki bir süreç olarak kesinlikle kınadığı, ancak halklar arasında bir anlaşma olmadan kurulamayan veya sağlanamayan barış durumunu acil bir görev haline getirdiği” gösterilecektir. şunlar olabilir: – bu nedenle, barış anlaşmasından (pactum pacis) farklı olan, barış anlaşması (foedus pacificum) olarak adlandırılabilecek özel bir tür anlaşma olmalıdır; çünkü bu yalnızca bir savaştır, ancak diğeri tüm savaşlardır. Her zaman sonu aradık.”
Peki uluslararası düzeyde örgütlenmiş ve kurumsallaşmış bir barış sürecine yönelik bu meşru ihtiyaç, mevcut küresel kalkınma durumunda ve yapay zekanın internette daha da dinamik gelişmesinin etkisi altında ne anlama geliyor?
Algoritmalar, internet ve yapay zeka Kant için bilinmeyen ve hayal bile edilemeyecek olgulardı. Bu nedenle barış politikasına giden ana yol hâlâ barış anlaşmalarından ve barış ittifaklarından mı geçiyor? Birleşmiş Milletler'in bireysel ülkelerde yapay zeka gelişimi üzerinde ne gibi bir etkisi olmalıdır?
Dünya çapındaki büyük küresel çatışmaların ana hatlarını çizme
Halihazırda pek çok bölge ve eyalet birbirleriyle askeri yollarla ciddi çatışmalar yaşıyor ya da savaşın eşiğinde. Çatışmalara yönelik diplomatik ve sivil çözümlerin yerini giderek askeri müdahaleler alıyor. Bu …. için geçerlidir:
Bahsedilen tüm kriz durumlarında nükleer güçler yer alıyor ve Kuzey Kore ve Rusya Federasyonu örneğinde nükleer silah kullanımıyla açıkça tehdit bile ediliyor.
Aynı zamanda kendimizi BM'nin kasıtlı olarak zayıflatılmasıyla karakterize edilen bir BM durumunun içinde buluyoruz.
BM'nin yapısı, özellikle de BM Güvenlik Konseyi'nin beş daimi üyesinin veto yetkisi ve BM Genel Kurulu'nun göreli iktidarsızlığı, BM'nin mevcut çatışmalarda kurumsal olarak iktidarsız olduğu anlamına geliyor.
Ancak bu arada genel durumu daha da kötüleştiren ve ne BM'nin, ne AB'nin, ne de ulusal siyasetin hazırlıklı olduğu bir sorun var: Yapay zekanın bilgisayar sistemleriyle bağlantılı olarak geliştirilmesi ve kullanılması, modern silah.
Büyük küresel çatışmaların sonuçları: dizginsiz silahlanma yarışı
Büyük sanayi ülkeleri ve askeri güçler arasındaki işbirliği yerine çatışmaya dayalı bir politika, dizginsiz bir silahlanma yarışını körükleyecektir. Bu aynı zamanda siber ve otonom silahlar gibi yazılım tabanlı sistemler için de geçerlidir.
Büyük ülkeler bir karşılaştırma yoluna girerse, hiç kimse teknolojik açıdan önemli olan siber uzay ve yapay zeka (AI) alanlarında rakiplerin gerisinde kalma riskiyle karşı karşıya kalmayacaktır.
Bu alanlarda yazılım geliştirme tamamen kontrolsüz ve gizli olabiliyor. Her iki ülke de düşmanın halihazırda hangi yeteneklere sahip olduğunu ve kısa sürede nelerin başarılabileceğini bilemez.
Bu nedenle her partinin ayak uydurmak için her türlü çabayı göstermesi gerekiyor. Yapay zekada bir silahlanma yarışı, beklenenden çok daha hızlı bir şekilde kontrol edilmesi neredeyse imkansız olan son derece tehlikeli askeri ürünlerin yaratılmasına yol açabilir.
ayrıca oku
Daha fazla göster
daha az göster
Silahlanma yarışının ardından silah sistemlerinde yapay zekanın uluslararası düzeyde koordineli ve sorumlu bir şekilde kontrol edilmesi ihtimalinin halihazırda onaylanmış veya onaylanmak üzere olduğu olasılığını artırıyor.
Yaygın silah sistemleri için silah kontrolü ve doğrulaması mümkündür. Uçaklar, gemiler, tanklar ve nükleer silahlar sayılabilir. Ancak siber silahlar ve yapay zeka tabanlı silahlar yazılımla ilgilidir.
Yazılım sistemleri, silahların kontrolünü ve anlaşma doğrulamasını zorlaştıran belirli özelliklere sahiptir. Bir devletin, silah kontrolü anlaşmalarını incelerken düşman bir devletin çalışanlarının yazılımına erişmesine izin vermesi pek olası değildir.
Yapay zeka silahları paha biçilmezdir
Rakibin bu yazılımın bir kopyasını ele geçirme riski çok yüksek olacaktır. Ayrıca, olası işlevselliğin test edilmesi zaman alıcı olabilir ve yıllar alabilir; bu süre zarfında yazılımın daha da geliştirilmesi gerekecektir.
Yazılım tabanlı silahlar konusunda gelecekte başımıza neler geleceği tamamen hesaplanamaz.
Yazılımla ilgili silahsızlanma anlaşmalarının mümkün olması muhtemel değildir. Yazılımla kısa sürede istediğiniz sayıda kopya üretebilir ve bunları istediğiniz kadar kullanabilirsiniz. Otonom silahlara yönelik yazılım bir kez geliştirildiğinde sonsuza kadar kalacaktır.
Silah sistemlerinde yapay zeka
“Yapay zeka” alanındaki büyük ilerlemeler askeri teknolojide de buna paralel ilerlemelere yol açmıştır. Özellikle bağımsız hareket eden robotlar veya drone’lar askeri amaçlarla da kullanılabilmektedir.
İyi nesne sınıflandırması ile otomatik görüntü tanımaya dayalı olarak düşman hedefleri otomatik olarak belirlenebilir ve saldırıya uğrayabilir.
Silah sistemlerinde özerkliğe ilişkin geniş bir uygulama yelpazesi bulunmaktadır. Pek çok silah türüne giderek daha fazla özerklik verilebilir. Bu robotlar, araçlar, uçan nesneler ve hatta gemiler veya denizaltılar için geçerlidir.
Savunma teknolojisi: İnsanların yerini nerede ve nasıl yapay zeka alacak?
Bu tür sistemlerde insanın yerini yapay zeka bileşenleri alabiliyor. Otonom sürüş gibi bu da kademeli olarak yapılabilir.
Modern arabalarımız zaten tamamen otonom sürüşe yol açan birçok otonom fonksiyon içeriyor, ancak yasal nedenlerden dolayı bir insanın yine de herhangi bir zamanda müdahale edebilmesi gerekiyor. Karayolu trafiğinde otonom araçların karıştığı kazalara henüz tolerans gösterilmemiştir.
Savaş durumlarında bu farklı olabilir; ikincil hasarın kabul edilme olasılığı daha yüksektir. Bu durumda daha az gelişmiş otonom fonksiyonlar da kullanılabilir. Bu da bu tür sistemlerin savaş zamanında kullanılma riskini artırıyor.
Savaş: AI hedeflere karar verir
Modern savaş sadece silahlarla ilgili değil, aynı zamanda yapay zekanın keşifte giderek daha fazla kullanılması, düşmanın ve kendi kuvvetlerinin durumsal görüntülerinin belirlenmesi ve eylemlerin planlanmasıyla da ilgilidir. Ukrayna'daki savaşta da yapay zeka tabanlı yazılımlar bu amaçlarla kullanılıyor.
Hedeflerin seçimine ilişkin kararlar da giderek artan oranda makineler tarafından verilmektedir. İsrail, Gazze savaşında saldırı hedeflerini belirlemek için yapay zeka sistemlerini kullanıyor. Bu sistemler, Hamas üyelerinin kesin konumlarını, istihbarat bilgileriyle mümkün olandan çok daha fazla hedef sağlıyor.
Gelecekteki silah sistemlerinde “öldürme zinciri” olarak adlandırılan saldırı zinciri zamanla muhtemelen birkaç saniyeye indirilecek. Bu saldırı zinciri, gözlem, hedef belirleme, planlama ve karar verme aşamasından bir eylemin gerçekleştirilmesine kadar olan süreci açıklar.
Savaşta yapay zeka: İnsanlar artık müdahale edemiyor
Yapay zekanın tüm bu aşamalarda kullanılabilmesi, tüm karar verme sürecini insanların neredeyse müdahale edemeyeceği kadar kısaltabiliyor. Her ne kadar silahın ölümcül kullanımına ilişkin nihai kararın insana (“döngüdeki adam”) ait olduğu siyasette defalarca vurgulansa da, bazı durumlarda bu prensip şimdiden sorgulanmaya başlandı.
Bir makinenin, bir askerin hayatının tehlikede olduğunu fark ettiği durumlarda, bir insanla çatışmanın çok uzun süreceği durumlarda silah kullanıp kullanmayacağına bağımsız olarak karar verebilmelidir. Lahl ve Varwick de benzer şekilde şunu savunuyor:
Sembolik yapay zeka kullanıldığında bile, makine kararları genellikle karar ağacındaki if-then-else dalları şeklinde alınmaz ve bunların anlaşılması nispeten kolay olabilir.
Bunun yerine kararlar belirsiz, belirsiz ve keyfi formüller kullanılarak hesaplanan yüzlerce özelliğe dayanmaktadır. Burada basit bir kontrol mümkün olmayacaktır.
Prof. Dr. Karl Hans Bläsius, yapay zeka konusunda uzmanlaşmış bilgisayar bilimcisi.
Prof. Dr. Klaus Moegling, siyaset bilimci ve sosyolog.
Önerilen editoryal içerik
Onayınız doğrultusunda harici bir kitap önerisi (Amazon Bağlı Kuruluşları) buraya yüklenecektir.
Kitap önerilerini her zaman yükle
Kitap önerisini şimdi indirin
Birçok yapay zeka aracı yaşam kalitesinde iyileşmelere yol açar. Ancak askeri uygulamalarda kontrolün kaybedilmesi de dahil olmak üzere gizlenen büyük tehlikeler vardır. Bir uyarı. (Bölüm 1)
Bu yıl 300 yaşında olacak olan Immanuel Kant, 1795 yılında, günümüzün giderek askerileşen çatışma gerçekliğiyle çelişen “Ebedi Barış Üzerine” adlı eserinde uluslararası barış politikasına ilişkin temel fikirleri formüle etti. Öte yandan Kant, bilinçli bir barış inşası adına insanlığın savaşçı durumunu aşmayı umuyordu:
Duyuru
Kant, cumhuriyetçi devletlerin savaştan çok barışa yöneleceği görüşündeydi ve tüm savaşların sona erdirilmesinin ön koşulu olarak uluslararası pasifist ittifak çağrısında bulundu.
O zaman “aklın, en yüksek ahlaki yasama gücünün tahtından itibaren, savaşı hukuki bir süreç olarak kesinlikle kınadığı, ancak halklar arasında bir anlaşma olmadan kurulamayan veya sağlanamayan barış durumunu acil bir görev haline getirdiği” gösterilecektir. şunlar olabilir: – bu nedenle, barış anlaşmasından (pactum pacis) farklı olan, barış anlaşması (foedus pacificum) olarak adlandırılabilecek özel bir tür anlaşma olmalıdır; çünkü bu yalnızca bir savaştır, ancak diğeri tüm savaşlardır. Her zaman sonu aradık.”
Peki uluslararası düzeyde örgütlenmiş ve kurumsallaşmış bir barış sürecine yönelik bu meşru ihtiyaç, mevcut küresel kalkınma durumunda ve yapay zekanın internette daha da dinamik gelişmesinin etkisi altında ne anlama geliyor?
Algoritmalar, internet ve yapay zeka Kant için bilinmeyen ve hayal bile edilemeyecek olgulardı. Bu nedenle barış politikasına giden ana yol hâlâ barış anlaşmalarından ve barış ittifaklarından mı geçiyor? Birleşmiş Milletler'in bireysel ülkelerde yapay zeka gelişimi üzerinde ne gibi bir etkisi olmalıdır?
Dünya çapındaki büyük küresel çatışmaların ana hatlarını çizme
Halihazırda pek çok bölge ve eyalet birbirleriyle askeri yollarla ciddi çatışmalar yaşıyor ya da savaşın eşiğinde. Çatışmalara yönelik diplomatik ve sivil çözümlerin yerini giderek askeri müdahaleler alıyor. Bu …. için geçerlidir:
- İran'ın desteklediği İsrail ile Hamas arasındaki savaşta Orta Doğu;
- Rusya Federasyonu ile Ukrayna arasındaki veya Batı kampı ile ABD arasındaki savaş;
- Çin Halk Cumhuriyeti ile Tayvan/ABD destekli arasındaki tehdit edici durum ve;
- Kuzey Kore ile Güney Kore arasındaki çatışmada diplomatik faaliyetlerin reddedilmesi ve nükleer tehdit.
Bahsedilen tüm kriz durumlarında nükleer güçler yer alıyor ve Kuzey Kore ve Rusya Federasyonu örneğinde nükleer silah kullanımıyla açıkça tehdit bile ediliyor.
Aynı zamanda kendimizi BM'nin kasıtlı olarak zayıflatılmasıyla karakterize edilen bir BM durumunun içinde buluyoruz.
BM'nin yapısı, özellikle de BM Güvenlik Konseyi'nin beş daimi üyesinin veto yetkisi ve BM Genel Kurulu'nun göreli iktidarsızlığı, BM'nin mevcut çatışmalarda kurumsal olarak iktidarsız olduğu anlamına geliyor.
Ancak bu arada genel durumu daha da kötüleştiren ve ne BM'nin, ne AB'nin, ne de ulusal siyasetin hazırlıklı olduğu bir sorun var: Yapay zekanın bilgisayar sistemleriyle bağlantılı olarak geliştirilmesi ve kullanılması, modern silah.
Büyük küresel çatışmaların sonuçları: dizginsiz silahlanma yarışı
Büyük sanayi ülkeleri ve askeri güçler arasındaki işbirliği yerine çatışmaya dayalı bir politika, dizginsiz bir silahlanma yarışını körükleyecektir. Bu aynı zamanda siber ve otonom silahlar gibi yazılım tabanlı sistemler için de geçerlidir.
Büyük ülkeler bir karşılaştırma yoluna girerse, hiç kimse teknolojik açıdan önemli olan siber uzay ve yapay zeka (AI) alanlarında rakiplerin gerisinde kalma riskiyle karşı karşıya kalmayacaktır.
Bu alanlarda yazılım geliştirme tamamen kontrolsüz ve gizli olabiliyor. Her iki ülke de düşmanın halihazırda hangi yeteneklere sahip olduğunu ve kısa sürede nelerin başarılabileceğini bilemez.
Bu nedenle her partinin ayak uydurmak için her türlü çabayı göstermesi gerekiyor. Yapay zekada bir silahlanma yarışı, beklenenden çok daha hızlı bir şekilde kontrol edilmesi neredeyse imkansız olan son derece tehlikeli askeri ürünlerin yaratılmasına yol açabilir.
ayrıca oku
Daha fazla göster
daha az göster
Silahlanma yarışının ardından silah sistemlerinde yapay zekanın uluslararası düzeyde koordineli ve sorumlu bir şekilde kontrol edilmesi ihtimalinin halihazırda onaylanmış veya onaylanmak üzere olduğu olasılığını artırıyor.
Yaygın silah sistemleri için silah kontrolü ve doğrulaması mümkündür. Uçaklar, gemiler, tanklar ve nükleer silahlar sayılabilir. Ancak siber silahlar ve yapay zeka tabanlı silahlar yazılımla ilgilidir.
Yazılım sistemleri, silahların kontrolünü ve anlaşma doğrulamasını zorlaştıran belirli özelliklere sahiptir. Bir devletin, silah kontrolü anlaşmalarını incelerken düşman bir devletin çalışanlarının yazılımına erişmesine izin vermesi pek olası değildir.
Yapay zeka silahları paha biçilmezdir
Rakibin bu yazılımın bir kopyasını ele geçirme riski çok yüksek olacaktır. Ayrıca, olası işlevselliğin test edilmesi zaman alıcı olabilir ve yıllar alabilir; bu süre zarfında yazılımın daha da geliştirilmesi gerekecektir.
Yazılım tabanlı silahlar konusunda gelecekte başımıza neler geleceği tamamen hesaplanamaz.
Yazılımla ilgili silahsızlanma anlaşmalarının mümkün olması muhtemel değildir. Yazılımla kısa sürede istediğiniz sayıda kopya üretebilir ve bunları istediğiniz kadar kullanabilirsiniz. Otonom silahlara yönelik yazılım bir kez geliştirildiğinde sonsuza kadar kalacaktır.
Silah sistemlerinde yapay zeka
“Yapay zeka” alanındaki büyük ilerlemeler askeri teknolojide de buna paralel ilerlemelere yol açmıştır. Özellikle bağımsız hareket eden robotlar veya drone’lar askeri amaçlarla da kullanılabilmektedir.
İyi nesne sınıflandırması ile otomatik görüntü tanımaya dayalı olarak düşman hedefleri otomatik olarak belirlenebilir ve saldırıya uğrayabilir.
Silah sistemlerinde özerkliğe ilişkin geniş bir uygulama yelpazesi bulunmaktadır. Pek çok silah türüne giderek daha fazla özerklik verilebilir. Bu robotlar, araçlar, uçan nesneler ve hatta gemiler veya denizaltılar için geçerlidir.
Savunma teknolojisi: İnsanların yerini nerede ve nasıl yapay zeka alacak?
Bu tür sistemlerde insanın yerini yapay zeka bileşenleri alabiliyor. Otonom sürüş gibi bu da kademeli olarak yapılabilir.
Modern arabalarımız zaten tamamen otonom sürüşe yol açan birçok otonom fonksiyon içeriyor, ancak yasal nedenlerden dolayı bir insanın yine de herhangi bir zamanda müdahale edebilmesi gerekiyor. Karayolu trafiğinde otonom araçların karıştığı kazalara henüz tolerans gösterilmemiştir.
Savaş durumlarında bu farklı olabilir; ikincil hasarın kabul edilme olasılığı daha yüksektir. Bu durumda daha az gelişmiş otonom fonksiyonlar da kullanılabilir. Bu da bu tür sistemlerin savaş zamanında kullanılma riskini artırıyor.
Savaş: AI hedeflere karar verir
Modern savaş sadece silahlarla ilgili değil, aynı zamanda yapay zekanın keşifte giderek daha fazla kullanılması, düşmanın ve kendi kuvvetlerinin durumsal görüntülerinin belirlenmesi ve eylemlerin planlanmasıyla da ilgilidir. Ukrayna'daki savaşta da yapay zeka tabanlı yazılımlar bu amaçlarla kullanılıyor.
Hedeflerin seçimine ilişkin kararlar da giderek artan oranda makineler tarafından verilmektedir. İsrail, Gazze savaşında saldırı hedeflerini belirlemek için yapay zeka sistemlerini kullanıyor. Bu sistemler, Hamas üyelerinin kesin konumlarını, istihbarat bilgileriyle mümkün olandan çok daha fazla hedef sağlıyor.
Gelecekteki silah sistemlerinde “öldürme zinciri” olarak adlandırılan saldırı zinciri zamanla muhtemelen birkaç saniyeye indirilecek. Bu saldırı zinciri, gözlem, hedef belirleme, planlama ve karar verme aşamasından bir eylemin gerçekleştirilmesine kadar olan süreci açıklar.
Savaşta yapay zeka: İnsanlar artık müdahale edemiyor
Yapay zekanın tüm bu aşamalarda kullanılabilmesi, tüm karar verme sürecini insanların neredeyse müdahale edemeyeceği kadar kısaltabiliyor. Her ne kadar silahın ölümcül kullanımına ilişkin nihai kararın insana (“döngüdeki adam”) ait olduğu siyasette defalarca vurgulansa da, bazı durumlarda bu prensip şimdiden sorgulanmaya başlandı.
Bir makinenin, bir askerin hayatının tehlikede olduğunu fark ettiği durumlarda, bir insanla çatışmanın çok uzun süreceği durumlarda silah kullanıp kullanmayacağına bağımsız olarak karar verebilmelidir. Lahl ve Varwick de benzer şekilde şunu savunuyor:
Karar verme zincirinde belirli durumları yeterli kesinlikte değerlendirme becerisine sahip kişileri (“Anlamlı İnsan Kontrolü”) tutma ihtiyacı çoğu durumda mümkün olmayacaktır. Sinir ağlarını kullanırken makinelerin kararları zaten anlaşılmaz.
Sembolik yapay zeka kullanıldığında bile, makine kararları genellikle karar ağacındaki if-then-else dalları şeklinde alınmaz ve bunların anlaşılması nispeten kolay olabilir.
Bunun yerine kararlar belirsiz, belirsiz ve keyfi formüller kullanılarak hesaplanan yüzlerce özelliğe dayanmaktadır. Burada basit bir kontrol mümkün olmayacaktır.
Prof. Dr. Karl Hans Bläsius, yapay zeka konusunda uzmanlaşmış bilgisayar bilimcisi.
Prof. Dr. Klaus Moegling, siyaset bilimci ve sosyolog.
Önerilen editoryal içerik
Onayınız doğrultusunda harici bir kitap önerisi (Amazon Bağlı Kuruluşları) buraya yüklenecektir.
Kitap önerilerini her zaman yükle
Kitap önerisini şimdi indirin