Kontrol edilmediği takdirde, duygusal verileri siyasi kazanç için silah olarak kullanan bu teknik, adil ve bilgili bir toplumun temellerini aşındırabilir.
Modern demokrasilerin temel kavramlarından biri, kökleri en az iki yüzyıl daha geriye gitse de, 1859 yılında siyaset filozofu John Stuart Mill tarafından ortaya atılan ve genellikle fikir pazarı olarak adlandırılan kavramdır. Temel fikir basittir: Demokratik bir toplumda, herkes fikirlerini kamusal alanda paylaşmalı ve ardından, gerekçeli tartışmalar yoluyla, bir ülkenin insanları hangi fikirlerin en iyisi olduğuna ve yeni yasalar çıkarmak gibi yollarla bu fikirlerin nasıl hayata geçirileceğine karar verebilir. Bu öncül, anayasal demokrasilerin ifade özgürlüğü ve özgür basın üzerine inşa edilmesinin nedeninin büyük bir kısmını oluşturmaktadır – örneğin ABD Anayasası’nın Birinci Değişikliği’nde yer alan ilkeler.
Diğer pek çok siyasi ideal gibi, fikirlerin pazar yeri de teoride olduğundan daha zorlayıcı olmuştur. Bir kere, hiçbir zaman halkın genelini temsil eden bir kamusal alan olmamıştır. Amerika Birleşik Devletleri’nde kadınların ve ırksal azınlıkların haklarının tanınması yüzyıllar almıştır ve bu vatandaşlar hala çeşitli siyasi mekanizmalar tarafından orantısız bir şekilde seçimlere katılmaktan dışlanmaktadır. Medya sahipliği ve istihdamı da orantısız bir şekilde erkek ve beyazlardan oluşuyor, bu da kadınların ve beyaz olmayan insanların seslerinin daha az duyulduğu anlamına geliyor. Ve kamusal alana girmenin önündeki birçok engeli aşan insanlar için bile, bu eşit katılımı garanti etmez; sosyal medya akışınızda hızlı bir gezintinin size hatırlatabileceği gibi, tüm seslere eşit değer verilmez.
Yerleşik ırkçılık ve cinsiyetçiliğin yarattığı zorlukların ötesinde, fikirler pazarının bir başka önemli sorunu daha var: Siyasi konuşmaların çoğu, tam olarak gerekçeli tartışma olarak adlandırılabilecek türden değil. Bu gözlemde yeni bir şey yok; 2,400 yıl önce Yunan filozof Aristoteles logos’un (gerekçeli tartışma) siyasi retoriğin yalnızca bir unsuru olduğunu, ethos (güvenilirlik) ve pathos (duygusal yankı) ile eşdeğer öneme sahip olduğunu savunmuştu. Ancak 21. yüzyılda, verilerin gizli yaşamı sayesinde, pathos şimdiye kadar hayal bile edilemeyecek bir ölçekte verileştirilmiş ve dolayısıyla silah haline getirilmiştir. Bu da bize logos için fazla alan bırakmıyor ve demokrasi için daha da fazla sorun yaratıyor.
Duygusal verilerin silah haline getirilmesinin mükemmel – ve endişe verici – bir örneği nörohedefleme adı verilen nispeten yeni bir tekniktir. Bu terimi, 2016 ABD başkanlık seçimleri ve İngiltere’nin Brexit oylamasındaki rolü ortaya çıktıktan sonra 2018’de manşetlere kısa bir süre hakim olan Cambridge Analytica (CA) firması ile bağlantılı olarak duymuş olabilirsiniz. Nöro-hedeflemeyi ve demokrasiye yönelik süregelen tehditlerini daha iyi anlamak için konunun önde gelen uzmanlarından biriyle konuştuk: Monash Üniversitesi’nde gazetecilik profesörü ve propaganda çalışmaları alanında önde gelen akademisyenlerden biri olan Emma Briant.
Modern nöro-hedefleme teknikleri, hem terörist propagandaya hem de Amerikan karşı propagandasına maruz kalan beyinleri inceleyen ABD istihbarat deneylerine kadar uzanıyor.
En basit haliyle nörohedefleme, alıcının logos ve ethos’a odaklanmasını bir kenara bırakıp doğrudan duygusal özlerindeki pathos’a hitap etmeyi amaçlayan bir mesaj oluşturmak ve iletmek için büyük veri kümelerinin stratejik olarak kullanılmasıdır. Nörohedefleme, siyasi kampanyalar, pazarlamacılar ve ikna işiyle uğraşan diğer kişiler tarafından ödüllendirilmektedir çünkü yüzyılların deneyimiyle, güçlü duygusal tepkileri kışkırtmanın insanların davranışlarını değiştirmelerini sağlamanın en güvenilir yollarından biri olduğunu anlamışlardır. Briant’ın açıkladığı gibi, modern nöro-hedefleme teknikleri, 21. yüzyılın ilk yıllarında ABD istihbarat kurumları tarafından gerçekleştirilen ve hem terörist propagandayı hem de Amerikan karşı propagandasını izleyen deneklerin beyinlerini incelemek için fonksiyonel manyetik rezonans görüntüleme (fMRI) makinelerini kullanan deneylere kadar uzanmaktadır. Bu hükümet deneyleri üzerinde çalışan ticari yüklenicilerden biri Stratejik İletişim Laboratuvarları ya da CA’nın ana şirketi olan SCL Group’tu.
On yıl sonra, bu içgörüleri temel alan CA, dünyanın dört bir yanındaki demokrasilerde duygusal açıdan hassas seçmenleri belirlemek ve özel olarak hazırlanmış mesajlar aracılığıyla siyasi katılımlarını etkilemek için nörohedeflemeyi kullanan, gelişmekte olan bir siyasi kampanya danışmanlığı alanının lideriydi. Şirket özellikle Amerika Birleşik Devletleri ve Birleşik Krallık’taki sağcı siyasi hareketlerle uyumlu olsa da, başka yerlerde daha paralı bir yaklaşıma sahipti ve hizmetlerini seçim kazanmak isteyen en yüksek teklifi verene satıyordu. Trump’ın 2016 ABD başkanlık seçimlerini kazanmasına yardımcı olma çabaları, bu sürecin nasıl işlediğine dair aydınlatıcı bir bakış açısı sunuyor.
Briant’ın belgelediği gibi, Trump kampanyasına yardımcı olmak için kullanılan başlıca veri kaynaklarından biri, CA adına çalışan bir Cambridge Üniversitesi profesörü tarafından Facebook üzerinden uygulanan ve görünüşte yalnızca akademik araştırma amacıyla yanıtları toplayan bir “kişilik testinden” geldi. CA, Facebook’un tüketici verilerine yönelik gevşek korumasından yararlandı ve yalnızca ankete katılan yüz binlerce kişinin değil, aynı zamanda bu kişilerin platformdaki 87 milyon bağlantısının da bilgilerini, ilgili kişilerin bilgisi veya rızası olmadan topladı. CA aynı zamanda Gloo adlı bir şirketle ortaklık kurarak kiliselerin cemaatleriyle ilişkilerini sürdürmelerine yardımcı olmayı amaçlayan ve çevrimiçi danışmanlık hizmetleri de sunan bir uygulama geliştirdi ve pazarladı. Briant’ın araştırmasına göre, bu uygulama CA tarafından “siyasi amaçlı kampanyalar” için cemaat üyelerinin duygusal durumları hakkında veri toplamak amacıyla da kullanıldı. Başka bir deyişle, şirket temel verilerinin çoğunu toplamak için büyük ölçüde etik olmayan ve aldatıcı taktiklere dayanıyordu.
CA, sayısız milyonlarca Amerikalının duygusal durumlarıyla ilgili verileri derledikten sonra, bu verileri OCEAN adı verilen ve N’nin nevrotiklik anlamına geldiği bir kısaltma olan psikolojik bir model kullanarak analize tabi tuttu. Briant’ın açıkladığı gibi, “Eğer komplo teorileriyle insanları hedef almak istiyorsanız ve oyları bastırmak, ilgisizlik yaratmak ya da potansiyel olarak insanları şiddete yönlendirmek istiyorsanız, o zaman onların nevrotik olup olmadıklarını bilmek sizin için yararlı olabilir.”
CA daha sonra sağcı dezenformasyon sitesi Breitbart ile olan veri paylaşım ilişkisini kullandı ve diğer medya kuruluşlarıyla ortaklıklar geliştirerek nevrotik kişiliklere sahip insanları hedef alan çeşitli korku uyandırıcı siyasi mesajları denedi – Briant’ın detaylandırdığı gibi, bunların hepsi Trump’a desteği arttırmak içindi. Bu amaçla CA, A/B testi adı verilen ve bir mesajın farklı pilot versiyonlarının başarı oranını karşılaştırarak hangisinin daha ölçülebilir derecede ikna edici olduğunu görmeyi sağlayan bir teknik olan iyi bilinen bir pazarlama aracından yararlandı.
Dikkatle hazırlanmış bu reklamlar ve ABD’deki nevrotik seçmenlerin ana listesiyle donanmış olan CA, daha sonra seçmenlerin siyasi inançlarına bağlı olarak davranışlarını değiştirmeye koyuldu – onları sandık başına götürmek, canlı siyasi etkinliklere ve protestolara davet etmek, oy kullanmamaya ikna etmek veya benzer mesajları ağlarıyla paylaşmaya teşvik etmek. Briant’ın açıkladığı gibi, CA bu kışkırtıcı ve yanıltıcı mesajları Facebook’taki orijinal anket katılımcılarına (ve şirketin özel reklam platformundan alınan verilere dayanarak milyonlarca “benzer” Facebook kullanıcısına) yaymakla kalmadı, aynı zamanda dijital televizyon ve radyo reklamları da dahil olmak üzere “medya genelinde bir kampanya koordine ederek” ve hatta nevrotik dinleyicilere korku aşılamak için hesaplanan mesajları güçlendirmek için sosyal medya etkileyicilerinden yararlanarak bu seçmenleri hedef aldı. Hedeflenen milyonlarca seçmenin bakış açısından, tüm medya alanları, yalnızca bir Trump zaferinin ortadan kaldırabileceği şeytani komplolarla ilgili en kötü paranoyak şüphelerini doğrulayan üst üste binen ve görünüşte iyi doğrulanmış dezenformasyonla dolup taşacaktı.
CA, Facebook verilerinin etik dışı kullanımıyla ilgili kamuoyuna yansıyan skandalların ardından 2018 yılında kapılarını resmen kapatmış olsa da, ana şirket SCL ve nöro-hedefleme hala gelişiyor. Briant’ın bize söylediği gibi, “Cambridge Analytica yok olmadı; sadece parçalandı ve yeni şirketlere [bölündü]. Ve bilirsiniz, insanlar devam ediyor. Olan şu ki, bu insanlar ifşa edildiği için, ne yaptıklarını görmek daha zor hale geliyor.” Eski CA çalışanlarının ve diğer benzer şirketlerin 2018’den bu yana faaliyetlerini genişlettiklerini ve “tüm bilgi dünyamızın” “savaş alanı” haline geldiğini söyledi.
Briant’a göre ne yazık ki düzenleyiciler ve demokrasi bekçileri CA skandalından ders çıkarmış gibi görünmüyor. Trump yanlısı dezenformasyonun başlıca devlet sponsorlarından birine atıfta bulunarak, “Tüm odak noktası ‘bizi yakalayacak’ olan Ruslar” dedi, ancak “kimse bu firmalara ve yaptıkları deneylere ve bunların kişisel verilerimizi her gün paylaştığımız platformlarla nasıl etkileşime girdiğine gerçekten bakmıyor”.
Briant, birileri takip etmeye ve engellemeye başlamazsa, CA skandalının demokratik toplumun temellerini yok etmekle tehdit eden bir veri istismarı dalgasının habercisi gibi görüneceği uyarısında bulundu. Özellikle, hem bilgi savaşının hem de askeri harekatın hesap vermeyen, kara kutu algoritmalara devredildiği tehlikeli bir eğilim görüyor ve “savaş sürecinde artık insan kontrolüne sahip değilsiniz” diyor. Şu anda uluslararası çatışmalarda yapay zekanın kullanımı için Cenevre Sözleşmelerine eşdeğer bir düzenleme olmadığı gibi, Uluslararası Adalet Divanı veya Lahey’deki Uluslararası Ceza Mahkemesi gibi uluslararası mahkemeler aracılığıyla algoritmaları eylemlerinden sorumlu tutmak da zor olacaktır.
Algoritma güdümlü kampanyalar ve çatışmalar hakkında araştırma ve raporlama yapmak bile neredeyse imkansız hale gelecektir.
Briant’a göre, akademi ve gazeteciliğin hayati bir işlevi olan algoritma güdümlü kampanya ve çatışmaları araştırmak ve haberleştirmek bile neredeyse imkansız hale gelecek. “Göremediğiniz, kimsenin kontrol etmediği, kimsenin hakkında karar vermediği ve hiçbir platforma erişiminizin olmadığı bir kampanya hakkında nasıl haber yaparsınız?” diye sordu. “Buna eşlik edecek olan şey şeffaflığın kapanmasıdır… Bence bu değişimin bir sonucu olarak demokrasinin kendisini kaybetme riskiyle karşı karşıyayız.”
Briant’ın algoritmik olarak otomatikleştirilmiş savaşın (hem konvansiyonel hem de enformasyonel) geleceğine ilişkin uyarısı tüyler ürpertici ve sağlam temellere dayanıyor. Ancak bu, verilerin gizli yaşamının demokratik normları ve kurumları daha da aşındırabileceği birçok yoldan yalnızca biridir. Geleceğin ne getireceğinden asla emin olamayız, özellikle de iklim değişikliği gibi gezegensel krizlerle ilişkili yüksek derecede belirsizlik göz önüne alındığında. Ancak yakın gelecekte, dijital gözetimin hızlanmasının; yapay zeka, makine öğrenimi ve öngörücü algoritmaların geometrik olarak artan etkisinin; veri endüstrilerinin güçlü ulusal ve uluslararası düzenlemelere tabi olmamasının; ve verilerin maksimum düzeyde kullanılmasıyla ilişkili önemli siyasi, askeri ve ticari rekabet avantajlarının, demokratik toplumu temellerinden sarsan mükemmel bir fırtınaya dönüşeceğine inanmak için ikna edici nedenler var.
Bu yılın en olası senaryosu, nöro-hedefleme ve üretken yapay zekanın birleşmesi. Cambridge Analytica’nın 2016’daki kampanyasının yeniden başlatıldığını, ancak A/B test edilmiş mesajlar yerine bireysel kullanıcıları veya kullanıcı gruplarını hedef alan özel olarak oluşturulmuş, korku uyandıran dezenformasyon içerdiğini hayal edin. Bu sadece bir olasılık değil; neredeyse kesinlikle burada ve ABD başkanlık seçimlerinin sonucu üzerindeki etkileri bir sonraki başkanlık dönemine kadar tam olarak anlaşılamayacak.
Yine de, ne tür sosyal medya paylaşımlarını beğendiğimize ve yeniden paylaştığımıza dikkat ederek, beslendiğimiz videoların ve görüntülerin kaynağını kontrol etmek için fazladan iş yaparak ve yapay zeka tarafından üretilen dezenformasyonu beslerken yakalandıklarında yanlış yapanları kamu önünde sorumlu tutarak en korkunç sonuçlarını önlemek için birlikte çalışabiliriz. Bu sadece kirli bir numara değil, demokrasinin temellerine yönelik bir saldırıdır. Bu koordineli saldırıya karşı kendimizi başarılı bir şekilde savunacaksak, ortak çıkarlarımız doğrultusunda çalışmak için siyasi ve sosyal bölünmelerin ötesine geçmemiz ve her birimizin üzerine düşeni yapması gerekecek.
*Bu yazı What is neurotargeting? How a data-fueled technique threatens democracy başlıklı yazıdan çevrilmiştir.
