Geçen hafta Dartmouth’ta dersime giren 65 öğrenciyle atom bombasının yapımını tartıştım. Amacım Manhattan Projesi sırasında bombanın yapımındaki bilimsel zorluk ile Japonya’ya iki bomba atma kararını karşılaştırmaktı. Temel gerilim, bilim insanlarının bombayı yaratmış olmalarına rağmen, nasıl kullanılacağı (ya da kullanılmayacağı) konusunda çok az söz sahibi olmaları ya da hiç söz sahibi olmamalarıdır. Oppenheimer’ı izlediyseniz, bu nokta filmde oldukça açık bir şekilde ortaya konmuştur.
Atom bombası tartışmasını, Nobel Ödülü sahibi Jennifer Doudna’nın, bilim insanlarının genetik kodu doğrudan değiştirebilmelerini sağlayan CRISPR adlı genetik mühendisliği aracı hakkındaki Big Think videosuyla tamamladım.
Doudna’nın videoda söylediği gibi, sayısız genetik rahatsızlığı iyileştirebilecek bir teknoloji icat etmenin ilk baştaki baş döndürücülüğü, kısa süre sonra bu teknolojinin kötü niyetle nasıl kullanılabileceğine dair dehşetle aşıldı. Örneğin öjeninin yeniden canlanmasını ya da insan genetik kodunu sonsuza dek değiştirebilecek belirli fiziksel ve zihinsel özelliklerin seçilmesini hayal edebilirsiniz. Prosedürün yüksek maliyetleri göz önüne alındığında, bu ciddi bir sosyal dengesizlik ve türümüz içinde gerçek bir genetik bölünme yaratabilir: “normal” insanlar ve “CRISPR ile modifiye edilmiş” insanlar.
CRISPR ile insan türünü yeniden keşfetme potansiyeline sahibiz. Karışıma üretken yapay zekayı da eklediğimizde, yeni dijital ve genetik teknolojilerin yapabilecekleri ya da yapmaları gerekenler arasındaki çatışma netleşiyor.
Modern teknolojinin ahlaki labirentinde gezinmek
ChatGPT’den üretken yapay zekayı tanımlamasını istedim. Cevabın sonunda rahatsız edici bir açıklama geldi:
“Üretken yapay zekanın en önemli yönlerinden biri, eğitim verilerinde açıkça bulunmayan yeni içerikler yaratma yeteneğidir; bu da şaşırtıcı ve yaratıcı çıktılara yol açabilir. Ancak, üretilen içeriğin yüksek kalitede olmasını ve istenmeyen davranışlar sergilememesini (önyargılı veya uygunsuz içerik üretmek gibi) sağlamak bu alanda süregelen bir zorluktur.”
Başka bir deyişle, program “yüksek kalite” veya tarafsız içerik garantisi olmadan “şaşırtıcı ve yaratıcı çıktılar” yaratabilir. Yanlış bilgilendirme, önyargı ve kutuplaştırma gücüne sahip bilgiler kullanıcılar tarafından erişilebilir olacaktır. Günümüzün yapay zekası, sağlam bir ahlaki temeli olmayan bir kâhindir.
Birlikte ele alındığında, nükleer tehdit (9.600’ü askeri hizmette olmak üzere dünyada hala hazırda 12.500 nükleer silah olduğu tahmin edilmektedir), biyomühendislik ve mevcut ve gelecekteki YZ gelişmeleri, bilimsel yenilik ile teknolojinin etik kullanımı arasındaki oyun alanını yeniden tanımlamıştır. Nükleer tehdit ile diğerleri arasındaki temel farklardan biri ölçektir: Nükleer teknoloji pahalıdır ve endüstriyel ölçekte üretime ihtiyaç duyar. (Elbette, kirli bombaları ya da kentsel alanlarda küçük ölçekli kirlilik yaratma çabalarını her zaman terör eylemi olarak değerlendirebilirsiniz, ancak bunlar topyekûn nükleer savaşla aynı şey değildir).
Buna karşılık, biyomühendislik ve yapay zeka halk için daha erişilebilirdir. Unnatural Selection adlı belgesel dizisi, biyo-hacking’in kolay olsa da düzenleme açısından önemli zorluklar içerdiğini göstermektedir. Benzer şekilde, YZ teknolojilerinin geliştirilmesi karmaşık olsa da, bir kez oluşturulduktan sonra konuşlandırılmaları nispeten kolaydır. Bu erişilebilirlik, etik açıdan kötüye kullanım riskini artırmakta ve düzenlemenin uygulanmasını zorlaştırmaktadır.
Yersiz suçlama
Bu tür teknolojik tehditlerle karşılaşıldığında verilen ilk tepki bilim insanlarını suçlamak oluyor. Büyük olasılıkla sosyal medyada gördüğümüz bilim karşıtı kampanya bu kolektif korkuya bir yanıttır. Bilimin toplum için yaratabileceği tehlikelerden bilim insanları sorumlu tutuluyorsa onlara neden güvenelim? Bu adil bir soru (sonuçta insan her zaman eylemlerinden sorumlu olmalıdır), ancak hikaye daha nüanslı.
Bilimsel araştırma çıktılarının kontrolü çoğu zaman bilim insanlarının ötesindedir. İcat edebilir ya da keşfedebilirler, ancak genellikle icatlarının üretim araçlarını ya da pazar dağıtımını kontrol etmezler. Manhattan Projesi’nin hikayesi, fosil yakıt endüstrisinden endüstriyel ölçekli tarıma ve biyofarmasötiklere kadar şirketlerin çevreye yönelik pek çok suiistimalinde olduğu gibi bunu açıkça ortaya koymaktadır. Güncel örnekler arasında sorumsuz sondaj ve hidrolik kırma, et çiftçiliğinden kaynaklanan çevresel bozulma ve opioidlerin aşırı reçetelendirilmesi gibi etik olmayan veya sorumsuz tıbbi tedaviler yer almaktadır.
Mevcut varoluşsal tehditlerimiz için bilimin kendisini suçlamak, suçu bilimin kullanımını ve uygulamalarını kontrol edenlerin üzerine atarak asıl noktayı gözden kaçırmaktadır. Bu ikisi genellikle çok farklı gruplardır. Küçük ölçekli bilimsel araştırmaların etkisinin kolektif geleceğimizi derinden değiştirebileceği teknolojik bir devrilme noktasına ulaştık. Sinemada kötü adamlar arıyorsak, bunlar genellikle laboratuvarlarda çalışan beyaz önlüklü tuhaf tipler değil, daha ziyade takım elbise ve kravat (ya da belki bugünlerde tişört ve Birkenstock) giyen, şirketlerinin patentlerinden en fazla kârı nasıl elde edeceklerine karar veren kişilerdir.
Elbette, bazı bilim insanları da bu toplantılarda yer alıyor olabilir. Ancak burada önemli olan nokta, bilimin nasıl kullanıldığı ve satıldığı konusunda derin bir etik güncellemeye duyulan ihtiyacın yalnızca bilim insanlarına bağlı olmadığıdır. Tarihin göstermeye devam ettiği gibi, uygulamalı bilim iktidardakilerin çıkarlarına hizmet etme eğilimindedir. Kararların alındığı yer burasıdır. Böyle bir değişimi teşvik etmek için, ilkokullardan şirket yönetim kurullarına kadar toplumun tüm sektörlerine nüfuz eden biyosentrik bir etik kurallar bütünü uygulamamız gerekmektedir. Açgözlülük değil, yaşamın korunması ve kutlanması birincil karar alma değerimiz olmalıdır.
Elbette kulağa naif geliyor, ancak alternatifi – hiçbir şey yapmamak ve her şeyi olduğu gibi tutmak – sadece naif değil, aynı zamanda kendine de zarar verici.
*Bu yazı Humanity needs an ethical upgrade to keep up with new technologies başlıklı yazıdan çevrilmiştir.
