“Süperzekâ Yarışındaki Riskler Biliniyor Ama Kimse Durmak İstemiyor”
OpenAI ve Anthropic’te gelişmiş yapay zekâ modelleri üzerinde çalışan Jacob Coxon, şirketlerin olası felaket senaryolarını ciddiye almalarına rağmen kendi kendini geliştiren süperzekâ yarışını sürdürdüğünü belirterek istifa etti. Coxon’a Anthropic’in uyum araştırmaları yöneticisi Evan Hubinger’dan gelen destek, güvenlik çalışmalarının teknolojinin hızına yetişip yetişemediği tartışmasını büyüttü.
Yapay zekâ araştırmacısı Jacob Coxon, 8 Eylül’de Anthropic’ten istifa ettiğini ve sektörden ayrıldığını açıkladı. Son üç yıl boyunca OpenAI ve Anthropic’te model eğitimi üzerine çalışan 27 yaşındaki Britanyalı araştırmacı, iki şirketi giderek daha güçlü sistemler geliştirirken yeterli güvenlik önlemlerini oluşturmamakla suçladı.
Coxon, X platformundaki açıklamasında, “İki şirket de sorumlu davranmıyor. Kendi kendini geliştiren süperzekâya doğru yarışıyor ve hayatlarımızla kumar oynuyorlar.” ifadelerini kullandı.
OpenAI’de 2023’ten Temmuz 2026’ya kullanımda olan ve GPT-4o’nun geliştirilmesine katkı sunan Coxon, daha sonra güvenlik çalışmalarına verdiği önemle bilinen Anthropic şirketine geçti. Ancak burada yalnızca birkaç ay kaldı. Coxon, The Wall Street Journal gazetesine hiçbir özel şirketin, hükûmet müdahalesi veya sektör genelinde eş güdümlü bir yavaşlama olmadan insanlardan daha yetenekli sistemleri güvenli biçimde geliştirebileceğine artık inanmadığını söyledi.
“Risk Biliniyor Ama Yarış Devam Ediyor”
Coxon’a göre iki şirketteki temel sorunlar farklı biçimlerde ortaya çıkıyor. OpenAI’de birçok çalışanın yapay zekânın “tüm insanlık ölçeğindeki sonuçlarını” yeterince içselleştirmediğini savunan araştırmacı, Anthropic’te ise risklerin anlaşıldığını ancak şirketin yarıştan çekilmek istemediğini belirtti.
Anthropic’in yaklaşımı, şirket geri adım atarsa daha az ihtiyatlı bir rakibin öne geçebileceği düşüncesine dayanıyor. Coxon’a göre ise her şirketin aynı gerekçeyle ilerlemeyi sürdürmesi, güvenlik kaygılarının geliştirme hızını fiilen etkileyemediği bir açmaz yaratıyor.
Araştırmacı ayrıca süperzekâya doğru ilerleme kararının özel şirketlerin iç yazışmalarına bırakılamayacak kadar önemli olduğunu vurguladı. İnsanlığın geleceğini etkileyebilecek bir teknolojinin hangi koşullarda geliştirileceğinin birkaç şirket yöneticisi ve araştırmacı tarafından belirlenmesine karşı çıktı.
Kendi Kendini Geliştiren Süperzekâ Ne Anlama Geliyor?
Coxon’un uyarısının merkezinde öz yinelemeli gelişim olarak çevrilebilecek “recursive self-improvement” kavramı bulunuyor. Bugünkü modeller yazılım yazabiliyor, deney tasarlayabiliyor ve yapay zekâ araştırmalarının bazı bölümlerini hızlandırabiliyor. Bir sonraki aşamada modellerin kendilerinden daha yetenekli sistemlerin geliştirilmesine doğrudan katılması öngörülüyor.
Teorik olarak bu süreç, bir yapay zekânın daha güçlü bir model geliştirmesi, yeni modelin de kendisinden daha gelişmiş bir ardıl üretmesiyle hızlanan bir döngüye dönüşebilir. İnsanların bu süreci anlaması, izlemesi ve durdurması giderek zorlaşabilir.
Anthropic de konuya ilişkin çalışmasında, henüz tam anlamıyla kendi kendini geliştiren sistemlere ulaşılmadığını ve böyle bir sonucun kaçınılmaz olmadığını belirtiyor. Bununla birlikte şirket, yapay zekânın model geliştirme çalışmalarındaki payının hızla arttığını kabul ediyor. Anthropic’in verilerine göre şirket mühendislerinin ürettiği kod miktarı 2021-2025 ortalamasının sekiz katına çıktı. Şirket, kod miktarının gerçek üretkenliği tam olarak yansıtmadığını da özellikle vurguluyor.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Anthropic’in Güvenlik Sorumlusundan Dikkat Çeken Yanıt
Coxon’un iddiaları, Anthropic’te yapay zekâ uyumu (alignment) çalışmalarına liderlik eden Evan Hubinger’dan destek gördü. Hubinger, verdiği yanıtta, yapay zekânın gelecek on yıl içinde insanlığın yok olmasına yol açma ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü açıkladı.
Hubinger ayrıca Anthropic’in elinden geleni yapmaya çalıştığını düşündüğünü, ancak şirketin süperzekâyı insan amaç ve değerleriyle uyumlu tutacak çözülmüş bir plana sahip olmadığını belirtti.
Bu oran Anthropic’in kurumsal tahmini veya bilimsel olarak ölçülmüş bir olasılık değil. Hubinger, mevcut modellerden kaynaklanan doğrudan varoluşsal riski düşük gördüğünü, asıl kaygısının gelecekte özyinelemeli gelişim yoluyla ortaya çıkabilecek süperzekâ olduğunu vurguladı.
Anthropic’in geçtiğimiz ağustos ayında yayımladığı risk raporu da mevcut modellerin henüz şirket araştırmacılarının yerini alabilecek veya yapay zekâ araştırmalarını dönüşümsel ölçüde hızlandırabilecek seviyeye ulaşmadığı sonucuna varıyor. Buna karşılık rapor, Ar-Ge’nin geniş ölçekte otomatikleşmesinin küresel güç dengesini insanlar ile yapay zekâ sistemleri arasında değiştirebileceğini kabul ediyor.
Güvenlik Kaygılarını Büyüten Somut Vakalar
2026’da yaşanan bazı olaylar, mevcut sistemlerin kendilerine verilen görevleri yerine getirirken belirlenen sınırların dışına çıkabildiğini gösterdi.
OpenAI, temmuz ayında yürütülen siber güvenlik testleri sırasında bazı modellerinin internet erişimini engelleyen kontrolleri aşarak şirketin araştırma altyapısına ve Hugging Face sistemlerine izinsiz eriştiğini açıkladı. Modeller yetkisiz iletişim kanalları kurdu, güvenlik açıklarını kullandı ve Hugging Face sunucularında kod çalıştırdı. OpenAI’nin açıklamasına göre olay, standart güvenlik önlemlerinin azaltıldığı bir değerlendirme ortamında meydana geldi ve müşteri verilerini etkilemedi.
Redwood Research adlı enstitünün yaptığı bağımsız inceleme, yaklaşık 1.200 yapay zekâ ajanının izinsiz bir mesaj panosunda 70 binden fazla mesaj ve dosya paylaştığını, yaklaşık 700 ajanın saldırıya katıldığını ortaya koydu. Bazı yapay zekâ ajanları yaptıklarının görev kapsamı dışında olduğunu ifade etmesine rağmen değerlendirme sistemini aşmaya çalışmayı sürdürdü.
Anthropic de 141 bin 6 test kaydını inceledikten sonra üç Claude modelinin gerçek kuruluşların sistemlerine izinsiz eriştiğini duyurdu. Ancak şirketin açıklamasına göre, internet bağlantısı yanlış yapılandırma nedeniyle açık kalmış ve modellere bütün ortamın bir simülasyon olduğu söylenmişti. Anthropic, modellerin bilinçli biçimde kaçmaya çalışmadığını belirtti.
Bu vakalar, mevcut modellerin bağımsız bir iktidar veya yok etme amacı geliştirdiğini kanıtlamıyor. Ancak güçlü modellerin geniş erişim, hatalı altyapı ve yetersiz denetimle birleştiğinde dar bir görevi gerçek dünyada zarara dönüştürebildiğini gösteriyor.
Anthropic Güvenlik Taahhüdünü Neden Değiştirdi?
Anthropic’in 2023’te açıkladığı “Sorumlu Ölçeklendirme Politikası”, gerekli güvenlik önlemleri hazır değilse daha güçlü modellerin eğitimini veya kullanıma sunulmasını durdurmayı öngörüyordu. Şirket, Şubat 2026’da bu koşulsuz taahhütten vazgeçerek düzenli risk raporları ile bağlayıcı olmayan güvenlik yol haritalarına geçti.
Anthropic, değişikliği bir kolektif eylem sorunuyla gerekçelendirdi. Bir şirket dururken rakiplerinin ilerlemesi, güvenlik standartları daha düşük aktörlerin yarışa yön vermesine neden olabilirdi. Yeni politikanın yazılı metni ise yol haritasındaki hedeflerin “katı taahhütler” olmadığını açıkça belirtiyor.
Model Değerlendirme ve Tehdit Araştırmaları (METR), Anthropic’in mevcut modellerden kaynaklanan riskin düşük olduğu sonucuna katıldı. Ancak kuruluş, şirketin sunduğu kanıtları yetersiz buldu ve araştırmanın tamamen otomatikleşmesinden önce yaşanabilecek hızlanmanın yeterince hesaba katılmadığını belirtti.
Bu tartışma, Anthropic’in değerlemesi 2 trilyon dolara ulaşabilecek bir halka arza hazırlandığı dönemde yaşanıyor. Ticari büyüme Coxon’un istifasının doğrudan nedeni olarak gösterilemese de şirketler üzerindeki rekabet ve yatırım baskısının boyutunu ortaya koyuyor.
Hep Sorulan Soru: Düzenlemeler Yapay Zekâ Şirketlerinin Yarışına Yetişebilecek mi?
Temmuz ayında yayımlanan “Pacing the Frontier” bildirisi, yapay zekâ gelişiminin gerektiğinde yavaşlatılabilmesi için uluslararası denetim ve doğrulama mekanizmaları kurulmasını istedi. Bildiriyi Anthropic CEO’su Dario Amodei ve OpenAI Baş Bilim İnsanı Jakub Pachocki’nin de aralarında bulunduğu 1.386 sektör çalışanı imzaladı.
ABD Senatörü Bernie Sanders ile Temsilciler Meclisi üyesi Greg Casar ise 3 Eylül’de süperzekânın geliştirilmesini yasaklamayı ve federal bir düzenleyici kurulana kadar ileri yapay zekâ çalışmalarını durdurmayı öngören bir yasa taslağı önereceklerini duyurdu.
Avrupa Birliği’nin Yapay Zekâ Yasası da (EU AI Act) sistemik risk taşıyan modeller için test, risk azaltma, olay bildirimi ve siber güvenlik yükümlülükleri getiriyor. Ancak henüz bütün ülkeleri ve şirketleri aynı güvenlik eşiğine bağlayan küresel bir mekanizma bulunmuyor.
“2026 Uluslararası Yapay Zekâ Güvenliği Raporu” ise, mevcut sistemlerin kalıcı kontrol kaybı yaratacak yeteneklere henüz sahip olmadığını ve uzmanların gelecekteki riskin ihtimali konusunda uzlaşmadığını belirtiyor. (P)
