Yapay zekânın jeopolitik riskleri

Telos dergisinde yayımlanan makalesinde Eduardo Turrent Mena, yapay zekâ alanındaki küresel rekabetin demokrasi, ulusal egemenlik ve uluslararası güvenliği derinden sarsacak bir jeopolitik dönüşüme doğru hızla ilerlediğini vurguluyor. Süper zekâ yarışının kontrolsüz ivmesi, yalnızca teknolojik bir kırılma değil; devletlerin düzenleyici kapasitesini aşındıran, bilgi ekosistemini istikrarsızlaştıran ve güç dengelerini yeniden tanımlayan yeni bir çağın habercisi olarak sunuluyor.

Turrent Mena’nın makalesi şöyle:

‘’Önde gelen bilim insanları, filozoflar ve uluslararası kuruluşların uyarılarına rağmen büyük teknoloji şirketleri süper zekâya (insan bilişsel kapasitesini hemen her alanda kolaylıkla aşabilecek bir yapay zekâ formu) doğru yürüyüşlerini yavaşlatmadı. Aksine, rekabet yalnızca yoğunlaşmakla kalmadı, aynı zamanda sürekli bir hızlanma dinamiğini de dayattı. Gerçek anlamda bağlayıcı bir uluslararası hukuk çerçevesinin yokluğu, yüzyılın bilimsel sınırını kontrol edecek olanın aynı zamanda eşi benzeri görülmemiş bir jeopolitik üstünlüğü ele geçireceği bu süreci—teknolojik güç mantığının acımasız ilerleyişiyle—herhangi bir denge unsurundan yoksun bırakıyor.

Kıyametvari abartılardan uzak durulduğunda bile, en isabetli uyarılar bu hipotezi şimdiden destekleyen somut verilere dayanıyor. Birkaç yıl içinde, bir zamanlar önemsiz görevlerle sınırlı olan modeller artık insan uzmanları geride bırakıyor; veri merkezleri ise gerekli denetim olmaksızın binlerce dijital ajanın mükemmelleştirildiği otonom laboratuvarlar gibi çalışıyor. Saygın uzmanlar tarafından geliştirilen AI 2027 gibi senaryolar, yapay zekânın kendi evrimini yönlendirmeye başladığı, hiçbir hükümetin rakipleri karşısında güç kaybetmeden durduramayacağı hızlanma döngüleri üreten bir dünyayı öngörüyor. ABD ve Çin artık geleneksel anlamda askerî ya da ekonomik nüfuz için değil, 21. yüzyılın küresel düzenini tanımlayacak dijital mimarilerin kontrolü için yarışıyor. Bu yarışta risk, açıkça düşmanca bir yapay zekâ değil; insanları ve demokratik değerleri vazgeçilmez değişkenler olarak görmeyen, kayıtsız bir yapay zekâdır. Rakibi her ne pahasına olursa olsun geçme yönündeki ters teşvik her zaman var olacaktır. Distopya, algoritmik kötücüllükten değil; uçurumun hem görünür hem de—daha kötüsü—önlenebilir olduğunu bile bile ilerlemeye zorlayan jeopolitik mantıktan dolayı olası hâle geliyor.

Yaşanmakta olan dönüşümler şimdiden derin ve görünür. Sentetik sinir ağlarının—yapay zekânın temelini oluşturan—öncülerinden ve Nobel Ödülü sahibi Geoffrey Hinton’ın uyarısı günbegün doğrulanıyor: doğru ile yanlış arasındaki ayrımın neredeyse imkânsız hâle geleceği bir dünyaya yaklaşıyor olabiliriz. Son araştırmalar, üretici sistemlerin sosyal medyada dolaşan yanlış bilgileri güvenilir bir şekilde tespit edip düzeltebileceği fikrini çürütüyor. Tam tersine: bu modellerin güncel olaylarla ilgili yanıltıcı iddiaları yayma olasılığı bir yıl içinde neredeyse iki katına çıktı. Yakın tarihli bir çalışmada, yapay zekâ tarafından üretilen yanıtların yüzde 35’i yanlış bilgi içeriyordu; yanıtsız soru oranı ise 2024 Ağustos’unda yüzde 31 iken sıfıra düştü. Bu, bir iddiayı destekleyecek yeterli bilgi olmadığında bile yapay zekânın yine de bir yanıt oluşturduğu ve doğrulanabilir bilgi ile illüzyon arasındaki sınırın hızla bulanıklaştığı bir ekosistemi genişlettiği anlamına geliyor.

Bu bağlamda öz düzenleme kavramı açıkça yetersiz kalıyor; çünkü devletleri kamu yararını koruma yönündeki asli rollerinin dışına itiyor. OpenAI CEO’su ve Worldcoin’in kurucu ortağı Sam Altman bu paradoksu mükemmel biçimde somutlaştırıyor. Bir yandan, her zaman doğrulanabilir olmayan bilgiler üretebilen giderek daha güçlü yapay zekâ modellerini teşvik ediyor; diğer yandan bu otomasyonun gelecekteki ekonomik getirilerini kendi ekosisteminin ihraç edip yönettiği bir token üzerinden kanalize etmeyi öneriyor. Bu, büyük platformların hangi risklerin kabul edilebilir olduğuna, nasıl azaltılması gerektiğine, kimin “doğrulanmış insanlık” dijital kimliğini alacağına ve geleceğin otomatik ekonomisine kimin katılabileceğine karar verme gücünü kendilerine sakladığı kapalı bir devre yaratıyor. Öz düzenleme, kamu hukukunun tamamlayıcısı olmaktan çıkıp dijital alanda bir tür kurumsal yönetime dönüşüyor; sorunu yaratanların çözümün nasıl ve kim için olacağına karar verme iddiasında bulunduğu bir düzene.

Jeopolitik ölçekte bu eğilimlerin ilk belirtisi radikal biçimde istikrarsız bir bilgi ekosisteminin oluşması olabilir. Yanlış bilgi, 20. yüzyılda psikolojik savaşın bir aracı olarak ortaya çıkmıştı. Bugün ise otonom modeller ve bot sürüleri bunu düşük maliyetle ve cerrahi hassasiyetle endüstriyel ölçekte üretebiliyor. Uluslararası düzeni kendi lehine değiştirmek isteyen devletler, demokratik kurumlara duyulan güveni aşındırmak, toplumları kutuplaştırmak ve ittifakları zayıflatmak için zaten dijital kampanyalar, troll çiftlikleri ve örtülü operasyonlar kullanıyor. Yapay zekâ ile bu operasyonlar masa başında tasarlanabilir, psikolojik profile göre segmentlere ayrılabilir ve benzeri görülmemiş hızla yürütülebilirken, etkilenen toplumlar bunun propaganda mı yoksa ifade özgürlüğü mü olduğunu tartışmakla meşgul kalıyor.

Bu arada ABD ile Çin arasındaki yapay zekâ hakimiyeti yarışı, dünyanın geri kalanıyla giderek genişleyen bir teknolojik uçuruma işaret ediyor. Yetenek, veri ve hesaplama gücünü yoğunlaştıran güçler yalnızca ekonomik ve askerî avantajlarını büyütmekle kalmayacak; aynı zamanda teknik standartlarını, platformlarını ve bağımlılık ilişkilerini diğer ülkelere dayatacak. Gelişmekte olan pek çok ülke—Meksika gibi bazı Latin Amerika ülkeleri, Afrika ve Güneydoğu Asya ülkeleri dahil—en iyi ihtimalle veri sağlayıcıları ve başka yerlerde tasarlanmış yapay zekâ hizmetlerinin bağımlı pazarları hâline gelme riskiyle karşı karşıya. Egemenlik artık yalnızca toprakla değil; bir ülkenin ekonomisini, güvenliğini ve kamusal söylemini yapılandıran sistemleri geliştirme, denetleme ve gerektiğinde sınırlama kapasitesiyle ölçülecek.

Askerî boyut bu asimetrileri daha da keskinleştiriyor. Örneğin Ukrayna’daki savaş, ucuz dronların milyonlarca dolarlık konvansiyonel orduları ve hava savunma sistemlerini yıpratabildiğini gösteriyor. Bir sonraki adım—ki hâlihazırda atılıyor—gözetleme, teşhis ve hedef seçme sistemlerinin giderek daha otonom ölümcül platformlara entegre edilmesi. Kamikaze drone sürülerinden kimin düşman, kimin olmadığını belirlemek için kullanılan kitlesel profilleme şemalarına kadar, insan karar alma süreci ile otomasyon arasındaki sınır tehlikeli derecede inceliyor. Otonom silahları etkili biçimde yasaklayan veya sınırlayan küresel bir anlaşma yakın vadede pek olası görünmüyor: çok fazla ülke bunları stratejik dezavantajlarını telafi etmenin bir yolu olarak görüyor. Düzenleyici çerçeveler muhtemelen ancak bir trajedinin ardından, bu teknolojilere atfedilebilir büyük bir başarısızlık bu mantığın kabul edilemez doğasını gözler önüne serdiğinde ortaya çıkacak.

Baskı yalnızca dışarıdan gelmeyecek. Devletlerin içinde de önleyici gözetim için yapay zekâ kullanma cazibesine direnmek zor olacak. Ulusal güvenlik, terörle mücadele ya da iç istikrar adına, hükümetlerin—demokratik olanlar bile—iletişimleri, hareketleri ve davranışları benzeri görülmemiş bir hassasiyetle izleme kapasitesinden kalıcı olarak vazgeçmesi zor görünüyor. Risk; kameralar, sensörler, risk tahmin modelleri ve biyometrik veri tabanlarından oluşan ve zayıflamış bir devlet için dijital bir sinir sistemine dönüşebilecek bir ağda yatıyor; üstelik bu sistem oligopolistik çıkarların kontrolünde olabilir. Biçimsel olarak anayasalar yürürlükte kalabilir; ancak pratikte hareket, örgütlenme ve muhalefet özgürlüğü opak puanlamalar, risk listeleri ve itiraz edilmesi güç otomatik kararlarla sınırlanabilir.

Bu eğilim devam ederse, önümüzdeki birkaç on yılın dünyası üç temel aktör kategorisine bölünebilir: gelişmiş yapay zekâ sistemlerini tasarlayıp kontrol edebilen güçler; dijital altyapı, savunma ve ekonomik model açısından bu güçlere bağımlı ülkeler; ve hibrit savaşın yürütüldüğü, yeni silahların test edildiği, kırılgan toplumların üzerinde deneyler yapılan gri bölgeler. Bu senaryoda “süper zekâ” soyut bir kavram olmaktan çıkıp bir güç faktörüne dönüşür: önemli ölçüde üstün ve nispeten otonom bir zekâyı konuşlandırmayı başaran ülke ya da konsorsiyum uluslararası sistemi yeniden şekillendirebilir.

Asıl temel soru, o hâlde, yalnızca varsayımsal bir süper zekâyı dizginleyip dizginleyemeyeceğimiz değil; büyük güçlerin bu yarışta kendilerini dizginleyip dizginleyemeyeceğidir. Teorik olarak devletler kendi aralarında sınırlar koyabilir: otonom silahların açık yasakları, kritik altyapıları korumaya yönelik anlaşmalar, seçimleri ya da piyasaları etkileyen sistemler için ortak denetleme mekanizmaları, tekelci ve yanlış hizalanmış kabul edilen modeller için bağımsız denetimler. Fakat pratikte her jeopolitik teşvik tam tersini işaret ediyor: rakibi geçmek, daha fazla veri elde etmek, daha büyük modeller eğitmek, daha hızlı askerîleştirmek. Bir sonraki büyük krizden önce bir yönetişim çerçevesinin ortaya çıkması için pencere hâlâ açık, ancak her inovasyon döngüsüyle daralıyor. 20. yüzyıl karşılıklı nükleer yok oluş tehdidiyle şekillendiyse, 21. yüzyıl da daha az görünür ama bir o kadar derin bir olasılıkla tanımlanabilir: süper zekâ yarışının demokrasiyi ve ulusal özerkliği mümkün kılan koşulları parça parça çözme ihtimali.’’