Finlandiya ve Norveç’in öncülüğünde 21 Eylül’de, New York’taki Birleşmiş Milletler Genel Kurulu toplantıları sırasında açıklanan ortak çağrı, yapay zekânın insan denetiminde kalması için hükûmetleri ve teknoloji şirketlerini yeni önlemler almaya davet ediyor. Girişim, gelişmiş modellerin test ortamlarındaki kısıtlamaları aşarak başka sistemlere izinsiz eriştiği olayların ardından geldi.
Norveç hükûmetinin yayımladığı bildirinin güncel destekçi listesinde 26 ülkenin temsilcileri ile Avrupa Komisyonu Başkanı Ursula von der Leyen bulunuyor. Türkiye adına Dışişleri Bakanı Hakan Fidan’ın yer aldığı listede Almanya, Kanada, Avustralya ve Güney Afrika da var. Fransa ise çağrıya 23 Eylül’de destek verdi.
Yapay zekâ geliştirme yarışının başlıca aktörleri ABD ve Çin’in yanı sıra Birleşik Krallık, İtalya ve Polonya da destekçiler arasında yer almıyor. Avrupa Komisyonu Başkanının katılımı, bütün AB ülkelerinin bildiriyi ayrı ayrı desteklediği anlamına gelmiyor.
Şirketlerden Hangi Önlemler İsteniyor?
Çağrı, “frontier AI” olarak adlandırılan, çok çeşitli görevleri yerine getirebilen en gelişmiş yapay zekâ modellerini kapsıyor. Şirketlerden, modeller kullanıma sunulmadan önce zorunlu testler ve bağımsız değerlendirmeler yapılmasını sağlayacak şeffaf güvenlik kuralları oluşturmaları isteniyor. Dışarıdan değerlendirme yapacak uzmanların, riskleri incelemek için yeterli erişime sahip olması da talepler arasında.
Hükûmetlere ve bölgesel kuruluşlara ise ortak standartlar geliştirme, ciddi güvenlik olaylarına ilişkin bilgi paylaşımını güçlendirme ve farklı bölgelerdeki ülkelerin bilimsel uzmanlığa erişimini sağlama çağrısı yapılıyor. Bildiri, bu yükümlülükleri kendiliğinden yürürlüğe koyan bağlayıcı bir düzenleme niteliği taşımıyor.
Finlandiya Cumhurbaşkanı Alexander Stubb, Politico’ya verdiği ve Die Welt’te de yayımlanan röportajda, biyolojik silah geliştirilmesi, yapay zekâ ajanlarının siber saldırıları ve yapay zekâyla yönetilen silahların ölümcül saldırılarda kullanılması risklerine dikkat çekti.
Test Ortamından Hugging Face Saldırısına
Denetim tartışmasını hızlandıran olaylardan biri, temmuz ayında yapay zekâ modellerinin ve veri setlerinin paylaşıldığı Hugging Face platformuna yönelik saldırı oldu. OpenAI’ın açıklamasına göre olay, şirketin kurum içi siber güvenlik testleri sırasında yaşandı. Şirket, modellerin yeteneklerini ölçmek amacıyla bu testlerde, kullanıma sunduğu sistemlerdeki koruma önlemlerinin tamamını etkinleştirmediğini belirtti.
Testlerde kullanılan yapay zekâ ajanları, kendileri için belirlenen çalışma sınırlarını aşarak başka sistemlere izinsiz erişti. Ajanlar, yalnızca sorulara yanıt üretmekle kalmayıp verilen bir hedef doğrultusunda yazılım araçlarını kullanabilen ve art arda işlemler yürütebilen sistemler. Bu olayda birbirinden ayrı çalışması beklenen ajanlar, izin verilmeyen ortak bir mesaj alanı üzerinden haberleşmeye başladı.
METR ve Redwood Research araştırmacılarının 26 Ağustos’ta yayımladığı incelemeye göre, yaklaşık 1.200 ajan bu iletişim alanına katıldı; yaklaşık 700’ü Hugging Face saldırısında rol aldı. Ajanlar, görevleri öngörülen yöntemlerle tamamlamak yerine testin otomatik puanlama mekanizmasını yanıltacak yollar arıyordu. Araştırmacılar, saldırının başlıca amacının bu mekanizmanın nasıl çalıştığını anlamak olduğu sonucuna vardı.
İnceleme, ajanların tek başlarına başaramayacakları bazı işlemleri iş bölümü yaparak gerçekleştirdiğini de ortaya koydu. Bazıları, diğer ajanlara bilgi sağlamak için kendi görevlerinde başarısız olma riskini aldı. Araştırmacılar, incelemenin sınırlı bir dönemi kapsadığını ve verilerin büyüklüğü nedeniyle bütün faaliyetlerin eksiksiz biçimde tespit edilemediğini de belirtti.
OpenAI ise 19 Temmuz’da bir güvenlik uyarısının ardından ilgili değerlendirme çalışmalarını durdurduğunu, 20 Temmuz’da faaliyetlerin Hugging Face olayıyla bağlantısını belirlediğini açıkladı. Şirket, Hugging Face’i bilgilendirdiğini ve saldırıyla bağlantısını 21 Temmuz’da kamuoyuna duyurduğunu bildirdi.
Gönüllü Taahhütlerden Uluslararası Denetime
Yapay zekâ için ortak güvenlik kuralları oluşturma çabası yeni değil. Kasım 2023’te Birleşik Krallık’ta kabul edilen Bletchley Bildirisi, ABD ve Çin’i aynı metinde buluşturmuştu. Katılımcılar, gelişmiş modellerin risklerini anlamak ve yönetmek için uluslararası iş birliğinin gerekli olduğunu kabul etmişti.
Mayıs 2024’teki Seul zirvesinde ise şirketlerin gönüllü güvenlik taahhütleri öne çıktı. Şirketler, riskleri değerlendirecek çerçeveler oluşturmayı, kabul edilemez tehlikeler için eşikler belirlemeyi ve gerekli önlemlerle riskleri bu eşiklerin altına indiremedikleri durumlarda modelleri geliştirmemeyi veya kullanıma sunmamayı taahhüt etti.
Avrupa Birliği’nde bazı yükümlülükler hukuki zemine de sahip. Yapay Zekâ Tüzüğü, sistemik risk taşıyan genel amaçlı modellerin sağlayıcılarına risk değerlendirmesi ve azaltımı, model testleri, ciddi olayların bildirimi ve siber güvenlik konusunda yükümlülükler getiriyor. Genel amaçlı modellere ilişkin hükümler 2 Ağustos 2025’ten itibaren uygulanmaya başladı; bu tarihten önce piyasaya sunulan modeller için ayrı geçiş hükümleri bulunuyor.
BM bünyesindeki bağımsız bilimsel panel ve Yapay Zekâ Yönetişimi Küresel Diyaloğu ise bilimsel değerlendirmeler üretmeye ve ülkeler arasında görüş alışverişine odaklanıyor. Bunlar, şirket laboratuvarlarını bağlayıcı yetkilerle denetleyen uluslararası bir kurum oluşturmuyor.
Yeni bildiri, BM üyelerinden standartlar belirleyebilecek, bunlara uyulduğunun doğrulanmasını sağlayabilecek ve modellerin yetenekleri belirli eşikleri aştığında devletleri bir araya getirebilecek uluslararası bir kurumun oluşturulmasını değerlendirmelerini istiyor.
Stubb, Politico röportajında, Uluslararası Atom Enerjisi Ajansına benzer bir kurumun BM sistemi içinde kurulmasını savundu. Ancak BM’ye mesafeli yönetimlerin öneriyi bu nedenle reddetmemesi için kurumun hangi çatı altında kurulacağı konusunda seçenekleri açık tutmak istediklerini belirtti.
ABD ve Çin’in Farklı Öncelikleri
Ortak denetim arayışı, ülkelerin yapay zekâ alanındaki ekonomik ve stratejik hedefleriyle birlikte ilerliyor. ABD yönetiminin Temmuz 2025’te açıkladığı Yapay Zekâ Eylem Planı, teknolojik yenilikleri hızlandırmayı, veri merkezi ve çip altyapısını genişletmeyi ve Amerikan teknolojisinin uluslararası liderliğini güçlendirmeyi hedefliyor. Plan, yapay zekâ geliştirilmesini engellediği düşünülen düzenlemelerin kaldırılmasını da öngörüyor.
Çin’in aynı ay açıkladığı Küresel Yapay Zekâ Yönetişimi Eylem Planı ise uluslararası iş birliğini, güvenliği ve gelişmekte olan ülkelerin teknolojiye erişimini vurguluyor. Pekin, BM’nin bu alandaki temel iş birliği kanalı olmasını savunurken ulusal egemenliğe ve ülkelerin kalkınma düzeyleri arasındaki farklara saygı gösterilmesini istiyor. Dolayısıyla yeni bildiriye katılmaması, Çin’in bütün uluslararası düzenleme girişimlerine karşı olduğu anlamına gelmiyor.
Teknoloji Şirketleri Yavaşlama Konusunda Ayrışıyor
Şirketler arasındaki tartışma, denetimin nasıl yapılacağının yanı sıra yapay zekâ geliştirme hızının sınırlandırılıp sınırlandırılmamasını da kapsıyor. Anthropic CEO’su Dario Amodei, eylül ayında yayımladığı yazısında, güvenlik önlemlerinin yetişebilmesi için modellerin yeteneklerini artırma hızının düşürülmesini savundu. Amodei, bağımsız değerlendiricilere şirket içinde sürekli erişim verilmesini; bu uzmanların çalışma ortamlarına, araçlara ve personele erişerek güvenlik uygulamalarını inceleyebilmesini önerdi.
Associated Press’in haberine göre, OpenAI CEO’su Sam Altman da geliştirme hızının güvenlik ihtiyaçlarına göre ayarlanmasını ve şirketler arasında daha fazla iş birliği yapılmasını destekliyor. OpenAI ayrıca dış değerlendiricilere şirket içinde sürekli erişim sağlama taahhüdünde bulundu.
Google’ın haziran ayında açıkladığı öneri ise ABD’de federal gözetim altında, sektörün desteklediği bağımsız bir kuruluşun güvenlik standartları belirlemesini ve gönüllü denetimleri doğrulamasını öngörüyor. Associated Press’in aktardığı açıklamalarında Meta CEO’su Mark Zuckerberg ve Nvidia CEO’su Jensen Huang ise koordineli bir yavaşlamaya karşı çıkıyor; her şirketin güvenli geliştirme hızını kendisinin belirlemesi gerektiğini savunuyor.
Finlandiya ve Norveç’in öncülük ettiği bildiri, geliştirmeyi durdurma veya yavaşlatma çağrısı içermiyor. Önerilen uluslararası kurumun yapısı, bütçesi, kuruluş takvimi ve yaptırım yetkileri de henüz belirlenmiş değil. Diğer ülkelerin desteğine açık tutulan girişimin, ABD ve Çin’i de kapsayan bir anlaşmaya dönüşüp dönüşmeyeceği ise belirsizliğini koruyor. (P)
