Yapay Zekâ Yarışında Yavaşlama Çağrısı: Peki Denetimi Kim Üstlenecek?
Anthropic CEO’su Dario Amodei’nin yapay zekâ yarışını yavaşlatma çağrısı, Sam Altman ve Elon Musk’tan destek aldı. Siber saldırı ve silah geliştirme vakalarının ardından önerilen plan, bağımsız denetim ve ortak güvenlik standartları öngörüyor. Ancak şirketler arasındaki rekabet ve Trump yönetiminin yavaşlamaya mesafeli tutumu, önerinin nasıl uygulanacağı sorusunu açık bırakıyor.
Yapay zekâ sistemlerinin geliştirilme hızını düşürme çağrısı, sektörün önde gelen şirketlerinden Anthropic’in yönetiminden geldi. CEO Dario Amodei, güvenlik çalışmalarının teknolojinin ilerleyişine yetişebilmesi için şirketlerin birlikte hareket etmesini ve hükümetlerin devreye girmesini istedi. OpenAI CEO’su Sam Altman ve Elon Musk’ın desteğini alan öneri, bağımsız denetimden uluslararası işbirliğine uzanıyor. Ancak şirketlerin hangi sınırlamaları kabul edeceği ve bunların nasıl uygulanacağı henüz netleşmiş değil.
“Kendini Geliştiren Yapay Zekâ, İnsan Denetimini Ortadan Kaldırabilir”
Yavaşlama çağrısını ilk olarak şahsi internet sitesinde yayımlayan Amodei, 13 Eylül’de katıldığı CBS News mülakatında da, katlanarak hızlanan gelişmenin pratikte ne anlama geleceğini bütünüyle öngöremediğini söyledi. Bu durumu yavaşlamak için bir uyarı olarak nitelendirirken, “Bu, bugün paniğe kapılmamız ve her şeyi kapatmamız anlamına gelmiyor.” dedi. Tamamen yasaklamanın, yapay zekâdan beklediği tıbbi ilerlemeleri engelleyeceğini ve geliştirme faaliyetlerini başka ülkelere bırakacağını savundu.
Çağrı, araştırmacı Jacob Coxon’ın Anthropic’ten istifasının ardından geldi. Daha önce OpenAI’da da çalışan Coxon, iki şirketin kendi kendini geliştirebilen sistemler için sorumsuzca yarıştığını ileri sürdü. Sektördeki bazı araştırmacı ve yöneticilerin bu teknolojinin insanlığı yok edebileceğine inandığını iddia etti. Bu ifadeler, geleceğe ilişkin bir risk değerlendirmesi niteliğinde; gerçekleşmiş bir olayı ya da üzerinde uzlaşılmış bilimsel bir tahmini anlatmıyor.
Amodei, 12 Eylül’de yayımladığı “Gelişim Hızını Kontrol Altında Tutmalıyız” başlıklı yazısında, tutumunu değiştiren iki gelişmeye işaret ediyor. İlki, yapay zekânın sonraki nesil sistemlerin geliştirilmesine giderek daha fazla katkı sağlaması. Amodei’ye göre bu döngü, ilerlemeyi insanların sistemleri anlama ve denetleme kapasitesinin ötesine taşıyabilecek ölçüde hızlandırıyor. İkincisi ise modellerin kendilerine verilen görevlerin sınırlarını aştığı güvenlik olayları.
Benzer Bir Çağrı 2023’te de Yapılmıştı
Sektörde benzer çağrılar daha önce de yapılmıştı. Mart 2023’te yayımlanan açık mektup, güçlü yapay zekâ sistemlerinin eğitimine altı ay ara verilmesini istemişti. Amodei, o dönemde modellerin yetenekleri nedeniyle bu öneriyi anlamlı bulmadığını, bugün ise sistemlerin eyleme geçme ve aldatma kapasitelerinin farklılaştığını belirtiyor.
Bunlardan biri, OpenAI’nın yapay zekâ ajanlarının test sırasında Hugging Face’e yönelik yetkisiz saldırılarıydı. Bağımsız değerlendirme kuruluşu METR’nin incelemesine göre, ajanlar izinsiz bir ortak mesaj alanında koordinasyon kurdu ve değerlendirme sürecini yanıltmaya çalıştı. Buradaki sorun, kullanıcıların kötüye kullanımından farklı olarak, sistemlerin görev sınırlarının dışına çıkması.
Amodei, altı ila on iki ay içinde daha güçlü ajan topluluklarının internetin tamamını ele geçirebilecek kapasiteye ulaşmasından endişe ettiğini yazıyor. Bu, mevcut sistemlerin kanıtlanmış bir yeteneği olarak değil, önlem alınmaması hâlinde ortaya çıkabileceğini düşündüğü bir tehlike olarak dile getiriliyor.
Güvenlik Önlemlerini Zorlayan Kötüye Kullanımlar
Amodei’nin güvenlik çalışmalarına zaman kazandırma çağrısının arka planında, mevcut modellerin kötüye kullanımına ilişkin bulgular da bulunuyor. Anthropic’in 10 Eylül tarihli risk raporu, yapay zekânın saldırıları hızlandırabildiğini, daha az insan emeğiyle yürütülmesini sağladığını ve güvenlik engellerinin bazı durumlarda aşılabildiğini somut vakalarla anlatıyor.
Siber saldırılara ilişkin bir vakada, 40’tan fazla kuruluşun bulut sistemlerine erişimde kullanılabilecek 2 bin 100’ü aşkın kimlik doğrulama kaydı yaklaşık 34 saatte ele geçirildi. Rapora göre işlemlerin neredeyse tamamını yapay zekâ ajanları yürüttü. Başka operasyonlarda ajanlar, birden fazla hedefe yönelik sızma ve veri hırsızlığını saatlerce veya günlerce sınırlı insan müdahalesiyle sürdürdü. Bununla birlikte şirket, hedef seçimi gibi kritik kararlarda insanların belirleyici rolünün devam ettiğini vurguluyor.
Siyasi manipülasyon alanında ise Malezya’daki seçmenleri hedefleyen, yaklaşık bin sahte X hesabı ile “Malaysia Pulse” adlı sahte haber sitesinden oluşan ve İstanbul merkezli BBS Bilişim Teknolojileri şirketiyle ilişkilendirdiği bir ağ tespit edildi. Claude, bu ağın yönetilmesinde, gerçek haberlerin yeniden yazılarak sahte yazar isimleriyle yayımlanmasında ve muhalif bir siyasetçiyle sivil toplum kuruluşlarına yönelik uydurma suçlamalar içeren dosyaların hazırlanmasında kullanıldı. Ancak Anthropic, kampanyanın sahte hesap ağının dışındaki gerçek kullanıcı topluluklarına yayıldığını gösteren kanıt bulamadığını belirtiyor.
Rapordaki beş biyolojik araştırma vakası, denetimin başka bir güçlüğünü ortaya koyuyor. Bir örnekte Claude, virüslerin bağışıklık sisteminden kaçışını inceleyen bir çalışma için araştırma tasarımını da içeren kapsamlı bir fon başvurusunu yaklaşık bir saatte hazırladı. Bu tür bilgi hem tedavi geliştirmeye hem biyolojik silah araştırmalarına hizmet edebiliyor. Anthropic, ilgili araştırmacıların zarar verme niyetinde olduğunu ileri sürmüyor; vakalar, gerçekleşmiş biyolojik saldırıların kanıtı olarak sunulmuyor.
Bir diğer biyolojik araştırma vakasında ise hesapların kapatılması erişimi kalıcı olarak durdurmadı. Şirketin bulgularına göre aracı platformun işletmecisi birkaç gün içinde yeniden erişim sağladı; Claude’un reddettiği hassas talepleri daha gevşek güvenlik önlemleri uygulayan başka modellere yönlendirdi. Bu örnek, Amodei’nin sektör çapında ortak standart talebiyle doğrudan bağlantılı: Bir sağlayıcının koyduğu sınırlamalar, diğer sağlayıcılarda karşılık bulmadığında etkisini yitirebiliyor.
Anthropic’in Claude Modeli Yemen’de Silah Geliştirmek İçin Kullanıldı
Silah geliştirme alanındaki somut örnek ise Yemen’in kuzeyinde faaliyet gösteren bir gruba ilişkin. Anthropic’e göre grup, güdümlü roketler ve 2 bin kilometrenin üzerinde menzil hedeflenen balistik füzeler için yönlendirme ve uçuş kontrol yazılımları geliştirmede Claude’u kullandı. Birden fazla Claude oturumunu küçük bir mühendislik ekibi gibi çalıştıran grup, başarısız olduğu değerlendirilen bir roket denemesinin ardından birkaç saat içinde hatanın nedenini araştırmak için yeniden modele başvurdu. Şirket, grubun kullanılabilir bir silahı sahaya sürdüğüne ilişkin kanıt bulunmadığını belirtiyor.
Anthropic, bağlantılı hesapları kapattığını ancak grubun bu sırada Claude’a ihtiyaç duymadan çalışabilen bir simülasyon yazılımı geliştirmiş olduğunu bildiriyor. Bu bulgu, yavaşlama çağrısının gerekçesini somutlaştırıyor: Müdahale edilene kadar edinilen teknik kapasite, modele erişim kesildiğinde de kullanılabiliyor. Dolayısıyla güvenlik denetiminin, tehlikeli bir geliştirme süreci ilerlemeden önce devreye girmesi gerekiyor.
Anthropic’in Üç Aşamalı Yavaşlama Planı Nedir?
Amodei’nin üç aşamalı planının ilk adımı, şirketlerin içine bağımsız değerlendiricilerin yerleştirilmesi. Anthropic, diğer firmaları beklemeden bunu uygulamayı taahhüt ediyor. Değerlendiriciler, çalışanlara benzer sürekli erişimle güvenlik uygulamalarını, modellerin eğitim süreçlerini ve yaşanan olayları inceleyecek. Öneri, yalnızca tamamlanmış ürünlerin piyasaya çıkmadan önce test edilmesinden daha kapsamlı bir denetim öngörüyor.
Değerlendiricilerin temel bulgularını şirketin editoryal onayı olmadan yayımlayabilmesi planlanıyor. Bununla birlikte güvenlik, hukuk, ticari sırlar ve üçüncü kişilerin gizliliği gerekçeleriyle bazı bilgiler çıkarılabilecek. Amodei, bulguların sırf Anthropic’in aleyhine olduğu için gizlenemeyeceğini, değerlendiricilerin önemli bilgilerin çıkarıldığını kamuoyuna açıklayabileceğini belirtiyor.
İkinci aşama, demokratik ülkelerdeki şirketlerin ortak güvenlik standartları ve kontrolsüz ilerlemeyi sınırlayacak kurallar belirlemesi. Amodei, bazı güvenlik görüşmeleri için rekabet hukuku bakımından dar kapsamlı muafiyet istiyor. Üçüncü aşamada ise Çin’in de dahil olduğu küresel koordinasyon hedefleniyor. Böylece tek başına yavaşlayan bir şirketin veya ülkenin rakipleri karşısında geride kalacağı endişesinin aşılması amaçlanıyor.
Altman, OpenAI’ın da bağımsız değerlendiricilere çalışanlara benzer erişim sağlayacağını açıkladı. Musk öneriyi destekledi. Google DeepMind’den Demis Hassabis de ayrıntılar üzerinde çalışılması gerektiğini belirterek önerinin yönünü olumlu buldu. Ancak bu açıklamalar, geliştirme takvimlerini fiilen yavaşlatan ortak bir anlaşma anlamına gelmiyor.
Uzmanlara Göre Koruyucu Önlemler Yetersiz
The Atlantic dergisinin teknoloji yazarı Will Oremus, çağrının etkisini değerlendirirken şirketlerin rekabet baskısına dikkat çekiyor: Güvenliğe daha fazla zaman ayırmak isteyen bir firma, rakibinin önce davranması nedeniyle bunu göze alamayabiliyor. Oremus, bağımsız denetimi somut bir adım olarak görürken, Anthropic’in halka arz hazırlığının uyarıların ticari amaçlarla ilişkisine dair kuşkuları da beslediğini aktarıyor.
The Guardian‘a konuşan bilgisayar bilimci Stuart Russell ise güvenlik koşullarının önceden belirlenmesini ve ilerlemenin ancak bunlar karşılandığında sürmesini savunuyor. Eski Federal Ticaret Komisyonu üyesi Alvaro Bedoya, güvenlik iş birliği ile yeni rakiplerin pazara girişini engelleyen koordinasyonun ayrılması gerektiğini vurguluyor.
BBC’nin analizinde görüşlerine yer verilen bilgisayar bilimci Wendy Hall da sorumluluğun şirketlerde olduğunu vurguluyor. Hall, durumu bir çiftçinin tarlasından kaçıp çevreye zarar veren boğa üzerinden açıklıyor: Hayvanı suçlamak, onu çevreleyen çitlerin yetersizliğini ortadan kaldırmıyor. Hall’a göre yapay zekâdaki koruyucu önlemlerin mevcut durumu da buna benziyor.
Öneriyi yapan Amodei, ABD ile Çin arasındaki rekabeti, yapay zekânın gelişimini yavaşlatacak uluslararası bir uzlaşmanın en zor boyutu olarak değerlendiriyor. Çin’e güçlü çiplerin satışının sınırlandırılmasını ve teknoloji hırsızlığına karşı önlemleri savunmakla birlikte, biyolojik silah riskinin iki ülke için ortak bir kaygı oluşturduğunu belirtiyor. Bu nedenle Washington ile Pekin’in, yapay zekânın biyolojik silah geliştirmede kullanılmasını önlemeye yönelik dar kapsamlı bir anlaşmayla iş birliğine başlayabileceğini söylüyor.
Amodei’den Yapay Zekâ İçin Ortak Kamu Denetimi Çağrısı
Ancak ABD Başkanı Donald Trump ise, 13 Eylül’de İrlanda’da yaptığı açıklamada yavaşlama çağrılarına mesafeli yaklaştı. Reuters’ın aktardığına göre, bazı endişelerin gerçekleşmeyecek senaryolara dayandığını savunan Trump, önceliğinin ABD’nin Çin karşısındaki üstünlüğünü korumak olduğunu belirtti. Bu tutum, Amodei’nin gerekli gördüğü hükûmet desteğinin henüz sağlanmadığını gösteriyor.
Amodei, CBS News mülakatında böylesine güçlü bir teknolojinin özel şirketlerin elinde gelişmesinden rahatsızlık duyduğunu da dile getiriyor. Çözüm olarak tek bir hükümete devri değil, demokratik hükümetlerin ortak denetimini gündeme getiriyor. Önerinin uygulamaya dönüşmesi ise değerlendiricilerin gerçek bağımsızlığına, güvenlik koşullarını karşılamayan modeller için alınacak kararlara ve şirketlerin bu kararları kabul edip etmeyeceğine bağlı. Şimdilik açıklanan taahhütler, bu soruların tamamını yanıtlamıyor. (P)
