Önceki yazıda yapay zekâ araştırmalarına altı ay ara verilmesini öneren ve The Future of Life Institute (FLI) tarafından yayımlanan açık mektubu ele alırken, uzun dönemcilikten [longtermism] de bahsetmiştim. Uzun dönemcilik, uzun dönemde geleceği olumlu etkilemenin bugünkü temel ahlaki önceliğimiz olduğuna dair etik bir görüş. Konu hakkında biraz araştırma yaptığınızda, özellikle Oxford Üniversitesi’nden Nick Bostrom ve William MacAskill gibi isimler öne çıkıyor. FLI gibi, uzun dönemci görüşü savunan ve bu yönde projeler yapan farklı vakıflar, enstitüler ve filantropi kuruluşları var. Cambridge Üniversitesi’ndeki Varoluşsal Risk Çalışmaları Merkezi, Oxford Üniversitesi’ndeki İnsanlığın Geleceği Enstitüsü, Open Philanthropy bunlardan sadece birkaçı. Her ne kadar uzun dönemci etik görüşü savunan ve bu şekilde kamuoyunu ve siyaset aktörlerini etkilemeye çalışan kurum ve kuruluşlar var olsa da uzun dönemciliği bir tehlike olarak görenler de var. Gelin, bu yazıda önce uzun dönemci görüşü anlamaya çalışalım, ardından da eleştirilerin nedenlerine göz atalım.

Aslında bugün dünyanın yaşadığı sorunlara bakacak olursak, belki birçoğunun temelleri yüz yıl ya da daha uzun bir geçmişte atılmış ve bugün hâlâ çözmek için çaba sarf ediyoruz. Bugünkü karar süreçlerinde seçme hakkı olmayan, henüz doğmamış insanların hayatlarını ciddi anlamda etkileyecek şeyler yok mu? Mesela bir örnek, CRISPR teknolojisi. Emmanuelle Charpentier ve Jennifer A. Doudna, genetik teknolojisinin en öne çıkan buluşlarından olan CRISPR/Cas9 genetik makasını keşfetmeleri sebebiyle 2020 Nobel Kimya Ödülü’nü aldı. Bu yöntem, istenmeyen genetik bir mutasyona sahip bir hastayı iyileştirmeyi mümkün kılıyor. 2019’da Victoria Gray isimli orak hücreli anemi hastalığına sahip bir kadında kullanıldı. Doktorlar, Gray ve aynı hastalığa sahip hastalardan kemik iliği hücrelerini çıkarıp bu hastalığın semptomlarını hafifletecek bir protein üretilmesini sağlayacak bir geni düzenlemek için CRISPR teknolojisini kullandılar.¹ Aslında bu teknoloji, “kişiselleştirilmiş tıp” alanının gelişmesine büyük katkı sağlayacak inanılmaz bir buluş. Hatta bunun bir adım ötesi, tıp doktorları ve genetik uzmanlarının gelecekte genom dizilimine bakarak, örneğin kardiyovasküler bir hastalığa yakalanma olasılığımızın olduğunu keşfedebilmesi. Böylelikle, gen düzenleme yoluyla bunu önleyici tedbirler alabilirler. Bu teknoloji, yani “gen düzenleme yoluyla kişiselleştirilmiş ve önleyici tıp” şu an için mümkün, ancak çok maliyetli. Ülkelerin sağlık sistemlerinin bir parçası olması ve milyonlarca insana uygulanması, gelecek nesillerin yaşam kalitesini iyileştirecek ve çığır açacak bir buluş.

Gen düzenlemenin bir adım ötesi için, gelecek nesillerin hayatını büyük ölçüde etkileyebilecek çok farklı örnekler vermek mümkün. Ancak, geleceği olumlu anlamda etkileme potansiyeli belki de yeterince kullanılmıyor. Toby Ord, biyolojik silahların geliştirilmesi ve üretilmesini kısıtlamak amacıyla kurulan uluslararası bir kuruluş olan Biyolojik Silahlar Sözleşmesi’nin bütçesinin 1,4 milyon dolar –ortalama bir McDonalds restoranının yıllık bütçesinden az– olduğunu yazıyor.²

Ülkemizde yaşadığımız depremlerde ciddi kayıplarla karşılaşıyoruz. En yakın örneği olan 2023 Kahramanmaraş depremi resmi rakamlara göre elli binin üzerinde cana mal oldu. Belki yüz yıllık bir gelecekte tekrar olacağını bildiğimiz depremlerde ölümleri azaltmak bugünün teknolojisini, zaman ve para kaynaklarını seferber ederek çözülebilecek bir sorun. Belki birçoğu için daha görünmez olan, hava kirliliğinden kaynaklanan ölümler de öyle. İklim değişikliğini dikkate alan ve hafifleten politikalarla fosil yakıt kullanımını düşürerek, gelecekte milyonlarca insanın hayatını kurtarmak mümkün. William MacAskill’in TED konuşması kısa ve anlaşılır şekilde uzun dönemciliği örneklerle anlatıyor.³ Konuşmasında, gelecekte insanlığı tehdit edecek “büyük”, “çözülebilir” ve “ihmal edilen” sorunlara yoğunlaşmamız gerektiğini anlatıyor MacAskill. Böylece, büyük sorunları çözmek daha fazla insanın hayatını etkileyecek. Çözülebilir olanlara yoğunlaşmak, daha az finansal kaynak ve işgücü harcanmasını sağlayacak. İhmal edilenler ise daha çabuk sonuç almayı sağlayacak, çünkü aksi durumda, çok çalışılan sorunlarda ilerlemek daha zor.

Bu perspektiften geçmişteki sorunlarla da karşılaştırarak, birçok konunun insanlık için uzun dönemde potansiyel riskler taşıdığını görmek hiç zor değil, nükleer silah tehdidinden, yükselen milliyetçilik ve soykırım riskine ve hatta yapay zekâ uygulamalarının toplumsal etkilerine kadar. Uzun dönemciliği daha iyi anlamak ve birkaç farklı örneğe de göz atmak için Fin Moorhouse’un yazısını okuyabilirsiniz.⁴ Aslında, uzun dönemci bazı kavramlar Birleşmiş Milletler’in 2021 yılında yayımladığı “Ortak Gündemimiz” başlıklı raporda da yer aldı.⁵ Farklı uluslararası kuruluşlar ve hükümetler tarafından da sıklıkla dile getiriliyor. Ancak, uzun dönemciliği bir tehlike olarak görüp eleştirenler de var. Şimdi de bu eleştirilere göz atalım.

Toplam Faydacılık

Yakınlarda yayımlanan, Jacobin dergisindeki bir politik analiz makalesinde, uzun dönemci lobilerin ABD’yi Çin’le yeni bir soğuk savaş dönemine zorladığı yorumunu okudum.⁶ Bu yazıya göre, uzun dönemciler ileri yapay zekâ teknolojilerinin otoriter rejimler elinde varoluşsal bir riske yol açacağı korkusuyla, Beyaz Saray’ın Çin’e karşı daha agresif politikalar izlemesi için baskı yapıyor. Makalede Biden yönetiminin yarı iletken üretimini yavaşlatmak için getirdiği ihracat kontrollerinde aslında uzun dönemci çevrelerin, özellikle Georgetown Üniversitesi’ndeki bir araştırma merkezi olan Center for Security and Emerging Technology’nin etkili olduğu belirtiliyor.

Eleştirilerden biri, uzun dönemcilerin daha çok kıyamet senaryosu türünden, büyük varoluşsal riskleri dile getirmesi. Örneğin bir asteroid tehdidi, nükleer savaş ya da bulaşıcı hastalıklar. Halbuki biyolojik çeşitliliğin azalması, erozyon, iklim değişikliği, ekonomik istikrarsızlık gibi kolektif eylem gerektiren riskleri dile getirmekten uzak duruyorlar. Uzun dönemciliğin görece sert yorumu, gelecekteki potansiyel nüfusun şimdikinden çok daha fazla olacağına dayanıyor. Böylece, geleceğe dönük sorumluluklarımız bugünkü nesli ilgilendirenlerden çok daha önemli. Bu anlayışa göre, bugün Çin’le yaşanabilecek olası bir soğuk savaş belki şimdiki nesle zarar verecek, ama uzun dönemde faydalı olacak.

2013 yılındaki doktora tezinde Nicholas Beckstead, “dalgalanma etkisi” (ripple effect) konusundan bahseder ve zengin bir ülkede bir hayat kurtarmanın fakir bir ülkede bir hayat kurtarmaktan çok daha önemli olduğu sonucuna varır; çünkü zengin bir ülkedeki bireyin inovasyon ve ekonomik üretkenliği daha fazla olacaktır. Bu, belki dünyadaki toplumsal adaleti çok daha fazla artıracak toplam faydacı ve acımasız bir bakış açısı.

Émile P. Torres’in makalesi, uzun dönemci bakışın nasıl tehlikeler içerdiğini anlatıyor.⁷ Torres’in de alıntıladığı örnekler dikkat çekici. Bostrom, Çernobil felaketinden AIDS’e, hatta Birinci ve İkinci Dünya Savaşlarına kadar birçok felaketten, trajik olsalar da sadece bir “dalgalanma” olarak bahsediyor.⁸ Bostrom aynı zamanda, varoluşsal ölçekte bir terör saldırısını önlemek için küresel bir gözetleme sistemi kurmayı öneriyor. Bu, tüm dünyayı bir polis devletine çevirecek akıl almaz bir öneri. Aynı zamanda, uzun dönemci çevrelerin otokratik bir devlet olan Çin’in yapay zekâya ulaşmasını engellemek isterken bir yandan global ölçekte demokrasiyi ve insan haklarını tehlikeye atacak gözetlemeyi savunuyor olması, kendi içinde bir çelişki.

Hele Bostrom’un gelecekte yaşama ihtimali olan insan sayısı ile bugünkü nüfusu kıyasladığı ve devletlerin önleyici tedbirler alması gerektiğini savunduğu sözleri var ki gerçekten endişe verici. Torres’in makalede verdiği örnekler bir kenarda dursun. Mesela Bostrom’un hesabını dikkate alarak, ABD’nin Irak’a askeri müdahelesine bakalım. Sonradan, bu yönde yeterli bir delil olmadığını öğrendiğimiz müdahelenin görünürde sebebi Irak’ın nükleer silah geliştirmesiydi. O ülkede milyonda bir ihtimalle bile insanlığı varoluşsal olarak tehdit edecek bir riskin varlığı, geniş askeri müdahale, işgal hatta nükleer silah kullanarak tüm ülkeyi yok etmeyi meşru gösteriyor.

Transhümanizm, Posthümanizm ve Uzayda Kolonileşme

Uzun dönemcilerin transhümanizmle ilişkisi ise bir başka konu. Kısaca açıklayacak olursak, transhümanizm insan zekâsını geliştirmek için yapay zekâ ya da biyoteknoloji, nano teknoloji ve mekanik ve giyilebilir sistemleri kullanarak insanı sahip olduğu kısıtlardan çıkarıp “insan sonrası”na (posthuman) ulaşmayı amaçlayan bir düşünce. Posthuman aşamasında ise biyolojik ve mekanik donanımlara ve akla sahip bir geçiş türü olan transhuman’ın ötesinde, türün kapasitesi çok daha ileri boyutlara ulaşacak. Duygularımızı kontrol etmek için kendimizi genetik olarak değiştirebilmek, internete sinir implantlarıyla erişebilmek ya da zihnimizi bilgisayar donanımlarına yükleyerek dijital ölümsüzlüğü sağlamak gibi.

Nick Bostrom ya da Toby Ord gibi uzun dönemcilere göre, posthuman’ın başarısız olması, yani insanın biyolojik doğasında görkemli bir potansiyeli gerçekleştirecek dönüşümü yapamaması, beraberinde varoluşsal bir riski de barındıracak ve böylelikle insan mirasını şu anki hâliyle korumak mümkün olmayacak. Hatta, aynı görüşün savunucuları uzayda kolonileşmeyi de dillendiriyor ve bunu dünyada olabilecek bir felakete karşı insan neslini devam ettirmek için bir sigorta olarak görüyorlar.

Bugün ve Gelecek Arasında

Sonuç olarak, uzun dönemcilik yaşadığımız dünyayı bugünkü sınırların ötesinde ele almamızı ve bugün yaptıklarımızın gelecek üzerindeki etkilerine öncelik vermemizi savunan etik bir görüş. Her ne kadar teoride mantıklı görünse de, güçlü bir uzun dönemci bakış açısı, iklim değişikliği de dahil bugün dünyanın yüzleştiği birçok sorunu göz ardı ediyor. Hatta dünya savaşları, soykırımlar ve global ölçekte yayılan bazı ölümcül hastalıkları dalgalanma etkisi olarak görüyor. Kaldı ki birkaç gün, birkaç yıl sonra olacak olayları bile kabul edilebilir bir kesinlikle tahmin edemediğimiz durumlar ortada. Bin yıllık bir geleceğe tuttuğumuz projeksiyon ne kadar güvenilir olabilir ki?

Bugünden belirlenecek herhangi bir gelecek simülasyonunun belirsizliği bir yana, sorunları bugün ve yakın gelecekteki dünyanın ötesini görmek, uzun dönemciliğe göre, devam eden birçok kötülüğe kayıtsız kalmayı doğuruyor. Bu, yoksulluk içinde yaşayan milyonlarca insanın varlığını ihmal edip, bugünün kaynaklarını dengeli ve ölçülü olarak kullanıp çözme potansiyelini kurgu bir gelecek için harcamak demek.

Özellikle singularity olarak adlandırılan yapay zekânın insan zekâsının ötesine geçmesi ve böylelikle çok hızlı teknolojik gelişmelerin olduğu bir döneme girilmesi konuşuluyor ve tartışılıyor. Politikacılar ya da Elon Musk gibi milyarderler, parçası oldukları ve çözümünde rol oynayabilecekleri sorunları somut ve ölçülebilir şekilde çözmeli. Bunun yerine belirsiz kıyamet senaryoları üzerinde çalışan think-tank’leri fonlamalarını ve ne zaman, nasıl gerçekleşebileceği tamamen belirsiz singularity beklentileri üzerinden gündem oluşturmalarını, sorumluluktan kaçmak olarak görüyorum.

Yapay zekânın daha güvenli olmasına çabalamak hem bugün hem gelecek nesiller için etkili fayda sağlar. Kamu sağlığı, biyoteknoloji, genetik ve diğer tüm teknolojilerin kullanılması da benzer etkiye sahip. Örneğin pandemi döneminde aşı ve ilaç geliştirmek için yapılan seferberlik, tedavisi olmayan başka hastalıklar için de sürdürülse, zaten gelecek nesiller için olan etkisini belki on yıllar içinde görürüz. Uzun dönemci etik anlayışı reddetmek, bugün yaptığımız eylemlerin uzun dönemli etkisini önemsememek anlamına gelmiyor. Posthümanizme varan bilimkurgu senaryolar olmadan da büyük, çözülebilir ve ihmal edilen sorunlara yoğunlaşarak bugün ve gelecekte daha sürdürülebilir bir dünya mümkün.

{fold içindeki görsel: Apollo 17 ekibi tarafından çekilen Mavi Bilye, 1972, kaynak: NASA}

1. Ian Taylor, “CRISPR: A guide to the health revolution that will define the 21^st century”, BBC Science Focus, 10 Kasım 2021.

2. Toby Ord, The precipice: Existential risk and the future of humanity (New York: Hachette Books, 2020).

3. William MacAskill, “What are the most important moral problems of our time?”, TED Talk, 2018.

4. Fin Moorhouse, “Longtermism: An Introduction”, Effective altruism, 27 Ocak 2021.

5. Our Common Agenda – Report of the Secretary-General, 2021.

6. Jacob Davis, “Longtermists are Pushing a New Cold War with China”, Jacobin, 25 Mayıs 2023.

7. Émile P Torres, “Against longtermism: It started as a fringe philosophical theory about humanity’s future. It’s now richly funded and increasingly dangerous”, aeon, 2021.

8. Nick Bostrom, “Existential risks: Analyzing human extinction scenarios and related hazards”, Journal of Evolution and Technology 9 (2002).

Ömer Sümer, uzun dönemcilik [longtermism], yapay zekâ