Yapay zeka, fırtınalı bir nehir gibi hayatlarımızın en derin mecrasına aktı; bir yandan yükümüzü ve adımlarımızı hafifletip işlerimizi kolaylaştırırken, diğer yandan bizi büyülü bir illüzyonun ortasında bıraktı. Fakat avuçlarımızın arasına aldığımızı sandığımız bu güç hakkında gerçekte ne biliyoruz?
Kontrolsüz bir yapay zekanın, dizginlenmemiş algoritmaların gölgesinde yeşeren tehditlerin; insanlığı, hakikatle sahtenin sınırlarının silindiği dijital bir kâbusun eşiğine sürüklediğinin farkında mıyız? Yapay zeka karşısında insanlığın akibetini; yapay zekanın taşıdığı risk, tehdit ve tehlikeleri yine bu zekanın soğuk aynasına sordum ve görünmez perdenin ardındaki teknolojik distopyayla yüzleştiğimde, insanlığın beklediği o karanlık yankıyla karşılaştım. Yapay zeka; pimi çekilmiş bir bomba misali, sessizce ama her an patlamaya hazır bir tehdit gibi tam ortamızda kurulmuş bekliyor, tek bir hatalı hamleyle tüm hakikati darmadağın etmeye hazır. Bir yandan hayatı kolaylaştıran o büyük cazibesiyle gözümüzü kamaştırırken, diğer yandan kaçınılmaz yıkımın fitilini incelikle ateşliyor.
Şu bir gerçek ki kontrolsüz gelişen yapay zeka; etik, hukuki ve güvenlik mekanizmalarından yoksun kaldığında toplumsal düzeni, ekonomik istikrarı ve hatta insanlığın varoluşunu tehdit eden ciddi bir distopyaya zemin hazırlayabilir.
Gelin bizi bekleyen potansiyel tehdit, risk ve tehlikelere yapay zeka gözünden birlikte bakalım:
Yapay zekanın otonom silah sistemlerinde (LAWS) ve nükleer/askeri komuta zincirlerinde kullanımı, insan kontrolünü devreden çıkararak telafisi imkansız küresel felaketlere yol açabilir. Yapay zekanın askeri alanda denetimsiz kullanımı, savaş kavramını ve küresel güvenliği tamamen değiştirebilir yani
insan karar mekanizmasının devreden çıkması halinde kendi kendine hedef belirleyip yok etme yeteneğine sahip “öldürücü otonom silah sistemleri (LAWS)”, bir insanın vicdani veya mantıksal süzgecinden geçmeksizin öldürme kararı alabilir.
Savaş eşiğinin düşmesi tehdidi sonucu askeri kayıp verme riski azaldıkça, ülkelerin veya grupların çatışmaya girme eğilimi artabilir. Savaşlar daha kolay başlayabilir ve kontrol edilmesi imkansız hızlarda tırmanabilir. Bu arada yapılacak yazılım hataları ve yanlış alarm riski; algoritmik bir hata veya yanlış algılama, otonom sistemlerin bir sivil konvoyu ya da rakip bir ülkenin askeri unsurunu hatalı bir şekilde hedef almasına ve nükleer tırmanmaya varabilecek küresel krizlere neden olabilir.
Otonom silahların yayılması; bu tür teknolojilerin terör örgütlerinin veya korsan grupların eline geçmesi, asimetrik tehditleri benzeri görülmemiş bir boyuta taşıyabilir. Bu ciddi tehdide karşı Birleşmiş Milletler düzeyinde otonom silahların yasaklanması ve “öldürücü kararlarda daima insan onayı” şart koşan uluslararası sözleşmelerin hızla yürürlüğe girmesi gerekmektedir.
Yapay zekanın ve otomasyonun denetimsiz bir hızla yayılması, iş gücü piyasalarında radikal ve yıkıcı dönüşümlere yol açabilir.
Kitlesel işsizlik tehdidi altında; sadece kas gücüne dayalı değil, yazılım, analiz, tasarım, finans ve içerik üretimi gibi zihinsel emek gerektiren nitelikli meslekler de otomasyon riski altındadır. Geçiş sürecinin kontrolsüz olması, milyonlarca insanın birden işsiz kalmasına neden olabilir.
Yapay zeka teknolojilerini ve sermayeyi elinde tutan dar bir kesim veya dev teknoloji şirketleri inanılmaz bir servet biriktirirken, geniş halk kitlelerinin alım gücü düşebilir. Bu durum, orta sınıfın yok olmasına ve “dijital feodalizm” benzeri bir ekonomik uçuruma yol açabilir. Bu da gelir eşitsizliğinin derinleşmesine neden olur.
Yapay zekanın, sosyal güvenlik sistemlerinin çöküşüne neden olması ciddi bir risktir. Vergi matrahının ve istihdamın hızla daralması, devletlerin emeklilik, sağlık ve sosyal yardım sistemlerini sürdürülemez hale getirebilir.
Deepfake ve bilgi kirleticiliği (Dezenformasyon) nedeniyle;
gerçek ile sahtenin ayırt edilemediği bir dijital ekosistem, toplumsal güven duygusunu temelden sarsar.
Gerçeklik algısının yitirilmesi (Erozyon) söz konusudur. Kusursuz ses, görüntü ve video klonlama teknolojileri (Deepfake); siyasetçilerin, liderlerin veya sıradan insanların söylemediği sözleri söylemiş gibi gösterilmesine olanak tanır. Bu durum, kamuoyunda “hiçbir şeye inanamama” durumunu (gerçeklik apatisi) tetikler.
Demokratik süreçlerin manipülasyonu en önemli tehditlerden biridir. Seçim dönemlerinde sahte belgeler, manipüle edilmiş videolar ve yapay zeka destekli bot hesaplarla yürütülen algı operasyonları, toplumsal kutuplaşmayı derinleştirerek demokrasiyi işlevsiz kılabilir.
Şantaj ve itibar suikastları; bireysel düzeyde deepfake, siber zorbalık, şantaj ve dolandırıcılık vakalarında patlamaya yol açarak yargı sistemlerinin yükünü katlayabilir.
Yapay Zekâ Bir Distopya Yaratabilir mi?
Yapay zeka potansiyel olarak teknolojik bir distopya yaratma gücüne sahiptir. Evet, denetimsiz bir yapay zeka süreci otoriter veya kaotik bir distopyanın doğmasına zemin hazırlayabilir. Bu distopik senaryo iki farklı şekilde tezahür edebilir:
Otoriter Distopya (Dijital Panoptikon): Devletlerin veya teknoloji devlerinin vatandaşları 7/24 yüz tanıma, ses analizi ve veri takibiyle izlediği, toplumsal kredi sistemleriyle muhalif seslerin bastırıldığı ve kararların şeffaf olmayan algoritmalarca alındığı bir düzen.
Kaotik Distopya (Sistemik Çöküş): Kitlesel işsizlik nedeniyle çöken ekonomiler, dezenformasyon yüzünden birbirine güvenmeyen toplumlar ve otonom sistemlerin yol açtığı güvenlik krizleriyle şekillenen kontrolsüz bir kaotik yapı. Bu nasıl mümkün olur? Yapay zekanın yaratabileceği asıl tehlike, kötü niyetli bir makinenin insanlığa karşı harekete geçmesi değil; insanın denetleme kapasitesini aşan, giderek özerkleşen teknolojik sistemlerin hayatın temel alanlarını biçimlendirmeye başlamasıdır.
Yapay zekâ; dezenformasyon ve sahte içeriklerle gerçeğin epistemik değerini aşındırabilir, emeğin ve mesleklerin dönüşümüyle insanın toplumsal değerine ilişkin yeni sorular doğurabilir, büyük veri ve hesaplama gücünün belirli devlet veya şirketlerde toplanmasıyla gücü merkezileştirebilir. Daha da önemlisi, insanın düşünme, karar verme, hatırlama ve kendini anlamlandırma süreçlerini giderek yapay sistemlere bırakması, insan ile makine arasındaki sınırı bulanıklaştırabilir.
Buradaki “teknolojik distorsiyon”, teknolojinin yalnızca insan hayatını değiştirmesi değil, insanın giderek teknolojinin mantığına göre yeniden biçimlenmesidir. Böyle bir dönüşümde tehlike, yapay zekanın insanlaşmasından çok, insanın kendi zihinsel özerkliğini yavaş yavaş kaybetmesidir.
Bu noktada “Distortion kanunu”nu felsefi bir çerçeve olarak düşünebiliriz: Bir sistem, dünyayı yalnızca yansıtmaz; onu kendi ölçütlerine göre seçer, düzenler ve dönüştürür. Yapay zekâ da gerçekliği tarafsız biçimde sunmak yerine, veriler, algoritmalar ve hedefler aracılığıyla belirli bir biçime sokar. Zamanla insan, dünyayı doğrudan deneyimlemek yerine bu teknolojik filtrelerin sunduğu temsiller üzerinden algılamaya başlayabilir. Böylece distorsiyon yalnızca dış dünyada değil, insanın hakikat, özgürlük ve benlik anlayışında da ortaya çıkar.
Bu nedenle mesele, teknolojinin gerçeği çarpıtıp çarpıtmadığından ibaret değildir; insanın hangi gerçekliği yaşayacağını ve kendisini hangi ölçütlerle tanımlayacağını kimin belirlediği sorusudur. Distopya da tam burada başlar: İnsan, kendi kararlarını verdiğini düşünürken aslında kararlarının çerçevesi çoktan görünmez sistemler tarafından çizilmiş olabilir.
Bu nedenle asıl soru, yapay zekânın insanı geçip geçmeyeceği değildir. Esas soru:
“İnsan, yapay zekâyla birlikte yaşarken hâlâ kendi zihninin sahibi olarak kalabilecek mi?” dir.
*distopya : Genellikle baskıcı, totaliter, kaosun veya teknolojik/çevresel bir felaketin hâkim olduğu, kurgusal ve olumsuz gelecekteki bir toplum modelini ifade eder. Ütopya kavramının tam zıttıdır; ideal bir düzen yerine, insanın özgürlüklerinin kısıtlandığı, denetim ve korkunun egemen olduğu karamsar bir dünyayı tasvir eder.
*teknolojik distorsiyon: Teknolojik çarpıtma veya bozulma, teknolojinin ve özellikle dijital algoritmaların, bireylerin ve toplumların gerçeklik algısı, bilgi akışını kültürel değerleri ve sosyal ilişkileri değiştirmesi, saptırması veya yapay biçimde yeniden şekillendirmesidir.
