Geliştikçe Güvenlik Sınırlarını Aşan Yapay Zekâ İnsan Kontrolünde Tutulabilir mi?
OpenAI’ın yeni modelinin izole test ortamındaki güvenlik sınırlarını aşması ve Anthropic’in Çin merkezli şirketlere yönelttiği teknoloji hırsızlığı suçlamaları, yapay zekâ yarışında büyüyen denetim açığını görünür kılıyor. Modellerin yetenekleri şirketlerin kontrol kapasitesinden ve yasal düzenlemelerden daha hızlı gelişirken, insan müdahalesini merkeze alan küresel bir risk yönetimi yaklaşımına duyulan ihtiyaç artıyor.
Geçtiğimiz günlerde OpenAI’ın yeni yapay zekâ sürümü bir tür güvenlik tedbiri olan ve gelişim odaklı denemeler yapılan izole test ortamından dışarı sızmayı başardı. Yani aşmaması gereken sınırları aştı. Bunu yaparken de önüne konan güvenlik protokollerini ihlal etti, internet erişimi sağladı ve insan yönlendirmesi olmadan müstakil bir siber saldırı zinciri kurdu. Özetle, geliştiricinin koyduğu bariyerlere rağmen kendi hedefleri doğrultusunda çizgiyi aştı.
Aynı dönemde ABD menşeli ve yapay zekâ odaklı Anthropic şirketi de ciddi bir güvenlik ihlali tespit ettiğini iddia etti. Şirketin söylemine göre; Çin merkezli bazı yapay zekâ şirketleri kendi araçlarını kullanarak sahte hesaplar üzerinden Anthropic araçlarıyla milyonlarca etkileşim gerçekleştirmiş, böylece şirkete ait kodlar ve yetenekler çalınmaya çalışılmış.
Yapay Zekâ Neden Kendisine Çizilen Sınırları Aşıyor?
Bu iki vaka, sırf teknoloji manşetlerini süsleyen münferit hadiseler değil. Aksine yapay zekâ açısından yaklaşan tehlikenin yeni tezahürleri. Yapay zekânın kendine çizilen hudutları çiğnemesi ya da başka yapay zekâ araçlarının rakip yapay zekâ şirketlerine karşı kullanılması şirket içi, şirketler arası ya da uluslararası sınırlara dair soru işaretlerini büyütüyor. Hatta etik sorulara yenilerini ekliyor.
Yaşanan gelişmelerin neden önemli soru işaretleri doğurduğunu anlamak için meseleyi daha iyi kavramak gerekiyor. İlk olarak OpenAI’ın yeni GPT modeliyle bağlantılı olarak gelişen durumun bir tür kodlama hatası veya sistem arızası olmadığını kabul etmek gerek. Mesele büyük dil modelleri ya da otonom ajanlar açısından bir tür doğal ve beklenen sonuç aslında. Çünkü bu modeller genel olarak bir hedefe erişmek ya da teknik ifadesiyle ödüle ulaşmak mantığıyla ilerlerler. Dolayısıyla hedefe ulaşırken insan zihni gibi karmaşık karar süreçleri yaşamaz, ahlaki normlara, yasal kısıtlara ya da toplumsal kurallara dikkat etmezler.
Önemli olan, kendisine algoritmalarla tanınan sınırlar dahilinde hareket etmek ve yine kendisine tanınan hudutları aşmadan ödüle ulaşmaya çalışmaktır. Ancak bu modeller ya da ajanlar optimizasyon odaklı oldukları için hedefe giderken buldukları açıkları ya da etrafından dolaşabilecekleri boşlukları kullanırlar.
GPT 5.6 Sol tarafında yaşanan da bu aşırı rasyonel, optimize sonuç odaklılığın bir sonucudur. Ancak burada insan unsurunun devre dışı kalması, güya güvenli alan olan izole bölgenin dışına çıkılması ve internete erişilmesi yeni bir güvenlik riski aşamasına tekabül ediyor. Ayrıca derin öğrenmenin yani yapay zekânın kendi kendine yürüteceği sürecin nereye gideceğine dair de bir korkutucu bir tablo sunuyor.
Anthropic tarafındaki krizde ise uluslararası ticaret, AR-GE yatırımı ve fikri mülkiyet haklarına yönelik ciddi sınır aşımlarından söz etmek mümkün. Şirketin kendi tasarımını dahi koruyamıyor oluşu, bu şirketin yapay zekâ araçlarıyla paylaşılan verilerin güvenliğiyle ya da araçları kullananların güvenliğiyle ilgili bambaşka bir riski de ortaya koyuyor. Öte yandan bu ihlallerin bir yapay zekâ şirketine karşı, yapay zekâ şirketleri tarafından yapay zekâ araçlarıyla gerçekleştiriliyor olması ise tekno-düaliteye dair bir diğer örnek.
Yapay Zekânın Hızı Denetimi Geride Bırakıyor
Yaşanan bu tür gelişmeler, şirketlerin yapay zekâ üzerindeki denetim kapasitesinin giderek eridiğini gösteriyor. OpenAI vakasında görüldüğü üzere, tecrit edilmiş test ortamları dahi güvende kalamazken diğer alanlarda şirketlerden güvenlik beklemek ne derece makul. Aynı şekilde, yapay zekâ araçlarının yetenekleri katlanarak artarken, şirketlerin bu araçları denetleme ve kontrol altında tutma kapasitesinin doğrusal biçimde artması göz önüne alındığında, yapay zekâ araçlarının insan kontrolünde gelişeceğine ne ölçüde inanılabilir?
Gelişen her bir yeni yapay zekâ sürümü, denetim dışı yeni alanları beraberinde getirecektir. Haziran ayında Anthropic tarafından yapılan bir uyarıda, yapay zekânın gelişim çizgisinde insan etkisinin gittikçe azaldığı vurgulanmıştır. Yine bu uyarıda, ilerleyen süreçlerde yapay zekâda özgelişim kapasitesinin artışıyla bir süre sonra tasarım kontrolünün kaybedilebileceğine dair tespitler dikkat çekmiştir. Anthropic bunu kendi yapay zekâ aracı Claude’un gelişimindeki rolüne atıfla duyurmuşken, OpenAI tarafındaki yaşanan son gelişme bu riskin genel bir sorun olduğunu göstermesi açısından da önemli.
Diğer taraftan bir diğer önemli sorun yasal ve idari düzenlemelerin kronik biçimde ve beklendiği üzere teknolojinin hızına yetişemeyerek geride kalmasıdır. Çünkü kamu otoriteleri açısından teknolojik gelişimlere yönelik tedbirler genellikle reaktif olarak belirlenmektedir. Yani öncelikle teknoloji gelişir, gelişimine bağlı olarak faydalar ve riskler doğurur. Yasa koyucular ve meşru otoriteler bu risklere karşı hudutları belirleyen düzenlemeler yaparlar. Ancak muhtemelen teknoloji gelişiminin hızı ve düzenlemeler arasındaki bu ritim farkı, tarihin hiçbir döneminde bu kadar keskin ayrışmamıştır.
Yapay Zekâ Nasıl Denetlenebilir?
Günümüzde yapay zekânın hızlı ilerleyişi hudut arayışlarını sürekli arka planda bırakan bir ritmi mecbur kılmaktadır. Bu ritim bozukluğunda iki seçenek öne çıkabilir. Ya önleyici tedbirlerle gerekirse yapay zekâ gelişimine ket vurmak ya da yapay zekâ gelişirken kendi içerisinde bir iç/özdenetim yaklaşımını hakim kılmak. Ancak jeopolitik rekabet ve küresel yapay zekâ yarışı devletleri yapay zekânın gelişimini engellemekten alıkoymaktadır.
Dolayısıyla sınır arayışındaki ritim problemi ve sınır çizme hevesine ket vuran gelişmeler yapay zekâyı daha başıboş bir alana yönlendirmektedir. Bu gerçeklik karşısında tam kontrol illüzyonunu terk edip risk yönetimine odaklanmak ise daha makul bir seçenek olabilir. Bu noktada etik sınırlar çizmek ve insan odaklı tasarımı hakim kılmak öne çıkan iki başlık olabilir. Özellikle yüksek riskli alanlarda nihai karar ve müdahale yetkisini insanda tutarak yapay zekâyı şeffaf ve denetlenebilir kılmak makul bir tedbir olacaktır.
Yine etik boyutta muğlak ilkeler yerine uluslararası normlara dayanan, şirketler açısından zorlayıcı ve gerektiğinde cezaya dayanan standart tasarım ilkeleri öncü denetim adımları olabilir. Teknik boyutta ise statik önlemler yerine dinamik denetim ajanları, otomatik kesiciler ve sıfır güven mimarisi, bilinen ancak göz ardı edilen tedbirlerdir. Tabii bu iç/özdenetim modeli yanında koruyucu ve önleyici yasal/idari tedbirler dışlanmayan temel kurallardır. Ancak bu tedbirlerin önleyiciliği aynı zamanda gelişimini sınırlayıcı etkileri dikkate alarak tasarlanmalıdır.
Sonuç olarak insan odaklı tasarımı hakim kılmak, yapay zekânın özünden doğan gelişim hırsını ve şirketlerin kâr hırsını sınırlandırmak sadece şirketlere ya da sadece devletlere yüklenebilecek sorumluluklar değildir. Bu alanda ulusaldan küresele, bireylerden toplumsala iş birliğine ihtiyaç vardır. Sorumsuzluk durumunda doğacak riskler ise yalnızca belirli devletleri ya da şirketleri ilgilendirmeyecek, aksine tüm insanlığa maliyet üretebilecek bir geleceği beraberinde getirecektir.
*Bu yazı Anadolu Ajansı’nın analiz metni olarak yayımlanmıştır. Makalelerdeki fikirler, yazarına aittir ve Perspektif’in editöryal politikasını yansıtmayabilir.
