Bir Gün Karar Vermeyi Bırakırsak
BEKIR ERSÖZ · THE UNWRITTEN FUTURE · ESSAY 01/07
Özgür irade, konfor ve algoritmaların sessiz iktidarı üzerine
Sabah uyandığımda önümde hiçbir karar yoktu.
Hava durumuna göre kıyafetim seçilmişti. Gün içindeki toplantılarım, enerji seviyeme ve önceki haftalardaki performansıma göre yeniden sıralanmıştı. Kahvaltıda ne yememin daha iyi olacağı, uyku kaliteme göre çoktan belirlenmişti. İşe hangi yoldan gitmem gerektiği, trafik yoğunluğu ve günün verimlilik skoruna göre hesaplanmıştı. Dinleyeceğim müzik, okuyacağım yazı, hatta bugün kiminle görüşmemin bana daha iyi geleceği bile öneri değil, neredeyse sonuç olarak önüme konmuştu.
Bir süre sonra bunu konfor sanıyorsun.
Çünkü gerçekten işe yarıyor. Hayatı kolaylaştırıyor. Daha az hata yapıyorsun. Daha az vakit kaybediyorsun. Hatta bazı günler, kendi başına verdiğin kararlardan daha iyi sonuçlar aldığını kabul etmek zorunda kalıyorsun.
Sorun tam olarak burada başlıyor.
Bir teknolojinin iyi çalışması ile hayatın yönetimini ona bırakmak aynı şey değil. Aradaki fark önce çok küçük görünüyor. Bir uygulama sana daha iyi rota öneriyor. Bir sistem daha uygun yatırım tercihi sunuyor. Bir yapay zekâ senin için e-posta taslağı hazırlıyor. Bir asistan, ertesi gün ne yapman gerektiğini sen söylemeden çıkarıyor.
Bütün bunlar ayrı ayrı bakıldığında masum. Hatta faydalı. Fakat bu küçük konforlar birikmeye başladığında, insanın karar verme kası da yavaş yavaş zayıflıyor.
Karar vermek yorucu bir şeydir. Hata yapma riski taşır. Bazen seni suçlu, bazen kararsız, bazen yalnız bırakır. Ama tam da bu yüzden insana aittir. Ne kadar doğru karar verdiğimiz kadar, neden o kararı verdiğimiz de bizi biz yapan şeylerden biridir.
Bir arkadaşını affedip affetmemek, bir şehirde kalıp kalmamak, hangi mesleği seçmek, bir hedef için başka nelerden vazgeçmek… Bunların hepsi yalnızca sonuç üreten işlemler değildir. Bunlar karakter inşa eden süreçlerdir.
Yapay zekâ bir gün bu alanlarda da bizden iyi tahminler yapabilir. Hatta çoğu yerde yapmaya başladı bile. Seni senden daha iyi tanıyan reklam sistemleri, dikkatini hangi başlığın çekeceğini biliyor. Müzik platformları, hangi şarkının hangi anda sana uygun geleceğini tahmin ediyor. Sosyal ağlar, hangi içeriğe ne kadar süre bakacağını aşağı yukarı biliyor. Yarın finans, sağlık, eğitim ve kamu hizmetleri bu tahmin gücünü daha yoğun kullandığında, karar verme sorumluluğu yavaşça dışarı taşınacak.
Muhtemel gelecek senaryosu bir diktatörlük gibi görünmeyecek. Kimse sana “seçme” demeyecek. Aksine sana çok daha iyi seçenekler sunulduğu söylenecek. Sistem senin yerine değil, senin iyiliğin için düşündüğünü iddia edecek. Zaten en tehlikeli güç biçimleri de tam burada doğar: baskıyla değil, rahatlıkla.
Hangi kararlar devredilebilir?
Bu sorunun karşısına pratik bir ayrım koymak gerekiyor. Bir kavşakta hangi şeridin daha hızlı aktığını hesaplamakla, hayatının hangi şehirde devam etmesi gerektiğine karar vermek aynı türden problemler değil. İlki dışarıdan ölçülebilen, sonucu nispeten hızlı görülen bir optimizasyon problemi. İkincisi ise değerlerini, ilişkilerini ve henüz tanımadığın ihtimalleri içeriyor. Aynı algoritmik güven düzeyini ikisine birden taşımak hatalı olabilir.
O yüzden mesele, teknolojiyi hayatımızdan çıkarmak değil; kararlarımızı sınıflandırmak. Düşük riskli ve geri alınabilir kararlar otomatikleştirilebilir. Yüksek etkili, kişisel veya geri dönüşü zor kararlar ise bize daha fazla açıklama ve düşünme alanı bırakmalıdır. Bir sistem yalnızca “en iyisi bu” demekle yetinmemeli; hangi hedefi optimize ettiğini, hangi verilerle çalıştığını ve hangi belirsizlikleri dışarıda bıraktığını söyleyebilmelidir.
Get Bekir Ersöz’s stories in your inbox
Join Medium for free to get updates from this writer.
Burada görünüşte küçük ama önemli bir hak var: öneriye uymama hakkı. Bir rota önerisini reddetmek için gerekçe vermek zorunda değilsin. Bir iş fırsatını, sayısal verimlilik açısından geride görünse bile seçebilmelisin. İyi bir asistan kararlarımızı kolaylaştırır; kötü tasarlanmış olanı, alternatifleri görünmez hâle getirerek kararın kendisini sessizce üstlenir.
Bana göre geleceğin önemli tasarım sorularından biri bu olacak: Yapay zekâ yalnızca ne zaman konuşacağını değil, ne zaman geri çekileceğini de öğrenebilecek mi?
Peki mesele sadece özgür irade mi?
Bence değil. Mesele aynı zamanda sorumluluk. Eğer kararların çoğunu dışarı devrettiğimiz bir düzene geçersek, başarının da başarısızlığın da ahlaki yükü belirsizleşir. Bir algoritmanın yönlendirdiği kariyer yolunda ilerlediğinde, bunun mimarı sen misin? Sana önerilen ilişki eşleşmesi kötü sonuçlandığında, hatayı kime yazacaksın? Bir şehir trafiği tamamen optimize edildiğinde ama insanlar gitmek istemedikleri yerlere yönlendirildiğinde, verimlilik mi kazanmış olacak, birey mi kaybedecek?
Yapay zekâdan korkmamız gerektiğini düşünmüyorum. En azından meseleyi “makine insanı yenecek” gibi basit bir korkuya indirgemek anlamsız. Asıl mesele, insanın kendi kapasitesini kullanmaktan vazgeçmeye ne kadar istekli olduğu. Çünkü bugün bizi bekleyen en büyük risk, zekânın dışarıda üretilmesi değil; iradenin içeride körelmesi.
Karar vermek bir beceri olduğu kadar bir kişilik eğitimidir. İnsan hangi değerler için risk aldığını, ne zaman geri çekildiğini, neyi seçip neyi reddettiğini bu süreçlerde öğrenir. Belirsizlikle baş etmeyi, sonuçları üstlenmeyi, bazen yanılmayı ve buna rağmen yoluna devam etmeyi böyle geliştirir.
Bunu tamamen verimlilik mantığıyla değerlendirdiğinde, insanı makul şekilde optimize edilmiş bir kullanıcıya indirgemiş olursun. Oysa insan yalnızca verimli kararlar vermesi gereken bir organizma değildir. Yanılabilir, sezgisel davranabilir, bazen mantıksız görünen ama kendi hikâyesi içinde anlamlı olan tercihler yapabilir. Hayatın estetiği biraz da buradan gelir.
Yanlış yapma hakkı
Bazen insanın başına gelen en iyi şey, geriye dönüp baktığında yanlış bulduğu bir seçimdir. Bir işi kabul edersin ve orada kalmaman gerektiğini anlarsın. Bir alanda aylar harcarsın, sonunda başka bir şeye ilgi duyduğunu fark edersin. Verimli olmayan bir yolculuk seni hiç beklemediğin biriyle tanıştırır. Bunların hiçbirini önceden bir modelin amaç fonksiyonuna kolayca yazamazsın.
Burada yanlış kararı övmüyorum. Yanlışların gerçek bedelleri var. Fakat hayatın bütün değerini, olumsuz sonuçları en aza indirmek üzerinden tanımlarsak öğrenmenin bazı yollarını da kapatmış oluruz. İyi karar ile doğru sonuç arasındaki farkı bu yüzden önemsiyorum. Bazen elimizdeki bilgiyle iyi bir karar veririz ve kötü sonuç alırız. Bazen kötü bir karar şans eseri iyi sonuç üretir. İnsan, yalnızca sonuçlarından ibaret değil.
Düşünelim: Bir sistem sana hangi şehirde daha mutlu yaşayacağını yüzdeyle söylese, bu oran senin için ne kadar belirleyici olurdu? “En iyi seçenek” ile “benim seçeneğim” aynı olduğunda sorun yok. Peki ayrıldıklarında? Bana göre insanın özerkliği tam da burada görünür hâle gelir. Tahmini dinleyip kendi değerleri doğrultusunda başka bir yolu seçebilmesinde.
Bir gün gerçekten kişisel ajanlarla birlikte yaşayacaksak, onların başarısını yalnızca kaç hatayı engelledikleriyle değil, kullanıcılarına ne kadar karar alanı bıraktıklarıyla da ölçmeliyiz. Çünkü yalnızca en iyi sonucun peşine düşen bir sistem, bazen kendi hayatını seçen bir insanın neden daha zor yolu istediğini anlayamayabilir.
Bir gün karar vermeyi bırakırsak, ilk başta daha düzenli, daha sakin, daha hızlı bir hayatımız olabilir. Ama uzun vadede kaybedeceğimiz şey yalnızca seçenek üretme becerisi olmayacak. Kendi yönünü bulma cesareti de azalacak. Çünkü özgürlük çoğu zaman sınırsız ihtimalden değil, sorumluluğunu taşıdığın seçimlerden doğar.
Belki gelecekte gerçekten daha akıllı sistemlerle yaşayacağız. Hangi yoldan gitmemiz gerektiğini, hangi kitabı okumamızın bize iyi geleceğini, hangi işi daha yüksek başarıyla yapabileceğimizi onlar bizden daha iyi bilecek. Buna karşı çıkmak değil, bununla yaşamayı öğrenmek gerekecek.
Ama bence korunması gereken ince bir çizgi var.
Tavsiyeyi alıp kararı vermek ile kararı bütünüyle teslim etmek arasında.
Çünkü bir gün hayatımızdaki en önemli soruya bir sistem bizden önce cevap vermeye başlarsa, geriye şu soru kalacak:
Daha iyi seçilmiş bir hayat gerçekten bize ait midir?
Bu yazı, varsayımsal bir gelecek sahnesinden hareket eden düşünce denemesidir.
