Ölümcül Otonom Silahlar İçin BM’de Ne Kararlaştırıldı?
BM’nin Cenevre’deki otonom silah görüşmelerinde kabul edilen ortak tutum metni, insan müdahalesi olmadan hedef seçip saldırabilen silahlarda insan denetimini gerekli görüyor ancak bağlayıcı bir yasak getirmiyor. İnsan Hakları İzleme Örgütüne göre ABD ve Rusya’nın itirazları sonucunda silahların güvenilirliği ve öngörülebilirliğine ilişkin ifadeler metinden çıkarıldı.
Cenevre’de Birleşmiş Milletler İnsan Hakları Konseyinin 63. oturumu kapsamında yürütülen görüşmeler, insan müdahalesi olmadan hedef seçip saldırabilen otonom silahların düzenlenmesine yönelik ortak bir metin üzerinde uzlaşmayla sonuçlandı. 128 ülkenin taraf olduğu Belirli Konvansiyonel Silahlar Sözleşmesi (CCW) kapsamındaki toplantı, 5 Eylül sabahı sona erdi kadar. Ancak kabul edilen belge, bu silahları yasaklayan bağlayıcı bir anlaşma değil. Ülkelerin kasım ayında başlayıp başlamayacağına karar vereceği anlaşma müzakereleri için bir zemin oluşturuyor.
Kamuoyunda ‘katil robotlar’ olarak anılan bu sistemleri ayırt eden özellik, ateş açma sürecindeki insan rolünün azalması. Uluslararası Kızılhaç Komitesinin (ICRC) yaptığı tanımlamaya göre, bir insan tarafından etkinleştirilen silah, sensörlerden gelen verileri önceden belirlenmiş bir hedef profiliyle eşleştirerek saldırıyı kendisi başlatabiliyor. Kullanıcı, vurulacak somut hedefi veya saldırının tam zamanını ve yerini bilmiyor olabilir. Bu nedenle tartışmanın merkezinde, hedef seçme ve güç kullanma kararlarının kimde olduğu bulunuyor. Uzaktan kumanda edilen bir dronda belirli hedefe saldırma kararını operatör verirken, otonom bir sistem etkinleştirildikten sonra hedef seçimi ve saldırı, insanın her bir işlemi ayrıca onaylamasına bağlı olmayabiliyor.
Cenevre’de İmzalanan Metin Ne Getiriyor, Neyi Açık Bırakıyor?
İnsan Hakları İzleme Örgütü (HRW) Kriz, Çatışma ve Silahlar Bölümü Direktör Yardımcısı Verity Coyle, kabul edilen metinde üç olumlu unsur bulunduğunu belirtiyor: Otonom silahların özelliklerinin tarif edilmesi, hukuka uygunluk için insan muhakemesi ve denetiminin gerekli olduğunun kabulü ve hukuka uygun kullanılamayacak sistemlere ilişkin sınırlamalar. Coyle’a göre bu unsurlar, belgenin zayıflatılmasına rağmen müzakereleri başlatmaya yeterli.
63. oturumdaki görüşmeleri izleyen ‘Stop Killer Robots’ adlı sivil toplum platformu da sorumluluğun makinelere devredilemeyeceği ilkesinin korunmasını olumlu değerlendiriyor. Bununla birlikte koalisyon, insanları hedef alan otonom silahlara açık bir yasak getirilmesinin hâlâ ele alınması gereken konular arasında olduğunu vurguluyor. Örgütün 8 Eylül tarihli değerlendirmesine göre nihai rapor o tarihte henüz yayımlanmamıştı. Dolayısıyla belgenin ayrıntılarına ilişkin değerlendirmeler, süreci izleyen kuruluşların aktarımlarına dayanıyor.
İnsan Denetimi Olmayan Otonom Silahlardaki Teknik Riskler
Peki, insan denetimi uygulamada ne gerektiriyor? ICRC’nin önerdiği çerçeve, hedef türünün, kullanım süresinin ve coğrafi alanın sınırlandırılmasını; insanın gerektiğinde müdahale ederek sistemi durdurabilmesini içeriyor. Kurum, etkileri yeterince öngörülemeyen sistemlerin ve insanlara karşı güç kullanmak üzere tasarlanan ya da kullanılan otonom silahların yasaklanmasını istiyor. Diğer sistemler içinse sivilleri koruyacak sıkı kullanım koşulları öneriyor.
Ölümcül otonom silahlardaki teknik riskler üzerine çalışan araştırmacılar Heramb Podar ve Alycia Colijn’in 2025’te yayımladığı rapor, denetimin neden yalnızca kullanım öncesi testlere bırakılamayacağını açıklıyor. Araştırmacılara göre kapsamlı biçimde sınanan sistemler bile gerçek koşullarda beklenmedik ve zararlı davranışlar gösterebilir. Yapay zekânın bir sonuca nasıl ulaştığının anlaşılmaması, sınıflandırma hataları ve amaçlanan görevin dışına çıkan davranışlar, hem sivillerin güvenliğini hem de çatışmaların kontrol altında tutulmasını tehlikeye atabilir.
ABD ve Rusya Bağlayıcı Bir Anlaşmaya Yapılmasına Karşı
HRW Direktör Yardımcısı Coyle’un eleştirileri de bu noktada yoğunlaşıyor. HRW’ye göre ABD ve Rusya’nın değişiklik talepleri sonucunda tasarım ve geliştirmeye yapılan atıflar çıkarıldı; uluslararası hukukun bütününe yönelik çerçeve, silahlı çatışmalarda geçerli uluslararası insancıl hukukla sınırlandırıldı. Etik değerlendirmelerin yanı sıra sistemlerin öngörülebilirliği, güvenilirliği, kararlarının açıklanabilirliği ve işleyişinin izlenebilirliğine ilişkin ifadeler de metinden çıkarıldı. Coyle, nihai belgenin uzmanlar grubunda sağlanan ilerlemenin tamamını yansıtmadığını söylüyor.
Devletler arasındaki ayrışma, mevcut hukukun yeterli olup olmadığı sorusunda belirginleşiyor. Reuters’ın diplomatik kaynaklara dayandırdığı haberine göre Washington, uluslararası insancıl hukukun zaten gerekli çerçeveyi sunduğunu savunarak bağlayıcı anlaşma yerine rehber ilkeleri tercih ediyor. Rusya, Hindistan ve Türkiye de bu yaklaşımı destekliyor. Brezilya, İrlanda ve bazı Afrika ülkeleri ise anlamlı insan denetimini güvenceye alacak bağlayıcı kurallar istiyor. Mevcut hukukun bu silahlara uygulanması konusunda uzlaşma bulunuyor; anlaşmazlık, buna özel yeni yükümlülükler eklenmesinde düğümleniyor. CCW’de uzlaşma aranması, çoğunluğun desteğinin tek başına yeterli olmaması anlamına geliyor. Bu nedenle bağlayıcı düzenlemeye karşı çıkan ülkelerin tutumu, sürecin ilerleyişinde belirleyici oluyor.
BM Yüksek Komiseri Volker Türk’ten Ölümcül Otonom Silahları Yasaklama Çağrısı
BM İnsan Hakları Yüksek Komiseri Volker Türk, 7 Eylül’de İnsan Hakları Konseyinde yaptığı konuşmada bu tartışmaya daha geniş bir yapay zekâ güvenliği uyarısıyla katıldı. İleri yapay zekânın insanlık için varoluşsal risk oluşturabileceği kaygısını paylaştığını söyleyen Türk, güvenlik konusunda sağlam güvenceler ve devletler arasında ortak kırmızı çizgiler istedi. Silahlara ilişkin çağrısı ise açıktı: “İnsan müdahalesi olmadan can alabilen silahların acilen yasaklanması çağrılarına katılıyorum.”
Türk, Rusya’nın kullandığı tamamen otonom dronların Ukrayna’da üç kişinin ölümüne yol açtığı yönündeki haberlerden dehşete düştüğünü belirtti; Ukrayna’nın da benzer silahları sahada denediğine ilişkin haberlere dikkat çekti. New York Times gazetesinin araştırmasında, Zaporijya’daki saldırıda dronun belirli bir benzin istasyonuna yönlendirildiği, ancak vuracağı somut hedefi insan müdahalesi olmadan seçtiği öne sürülüyor. Reuters, Ukrayna’da insan müdahalesi olmadan hedef seçip saldıran dronların kullanıldığı iddiasını bağımsız olarak doğrulayamadığını belirtiyor.
BM Genel Sekreteri António Guterres ile ICRC Başkanı Mirjana Spoljaric de 25 Ağustos’taki ortak çağrılarında, makinelerin insanları otonom biçimde hedef almasını ahlaki bir kırmızı çizgi olarak tanımladı. İki isim, teknolojik kapasite ile düzenlemeler arasındaki açığın büyüdüğünü, sivillerin zarar görme riskinin arttığını ve ihlallerden kimin sorumlu olduğunun belirlenmesinin zorlaşabileceğini vurguladı. Devletlerden, açık yasaklar ve sınırlamalar içeren bağlayıcı bir düzenleme için derhâl müzakereye başlamalarını istedi.
Kasımda Müzakerelere Geçilecek mi?
HRW’nin derlediği verilere göre müzakerelere geçilmesini destekleyen ülke sayısı 76’ya ulaştı. Bunların 70’i CCW’ye taraf ve sözleşme üyelerinin çoğunluğunu oluşturuyor. Kasım ayında düzenlenecek Gözden Geçirme Konferansı, bu desteğin müzakere yetkisine dönüşüp dönüşmeyeceğini gösterecek.
Stop Killer Robots, CCW kapsamında yine ilerleme sağlanamazsa istekli ülkelerin sonuç üretebilecek başka bir uluslararası platformda müzakereleri başlatmasını talep ediyor. Koalisyonun değerlendirmesine göre kalan anlaşmazlıklar, görüşmelerin başlamasını geciktiren gerekçeler olarak kullanılmak yerine müzakere masasında çözülmeli. Cenevre’deki uzlaşmanın ardından beklenen somut adım, üzerinde çalışılan ilkelerin hukuken bağlayıcı kurallara dönüştürülmesi için sürecin açılması. (P)
