Deepfake çifti çok tuhaf bir röportajda burnunu karıştırıyor.
Milyarder LinkedIn kurucu ortağı Reid Hoffman kısa bir süre önce yeni dijital avatarı Reid AI ile bir video ‘röportaj’ yayınladı. Hoffman’ın yirmi yıllık kitapları, makaleleri, konuşmaları, röportajları ve podcast’leri üzerinde eğitilmiş özel bir GPT üzerine inşa edilen Reid AI, kaynak öznesinin tavırlarına ve konuşma tonuna yaklaşabilen dijital bir klon oluşturmak için konuşma ve video deepfake teknolojisini kullanıyor. İki Hoffman’ın 14 dakikadan uzun bir süre boyunca teknoloji endüstrisinin tekinsiz göbeğine sırasıyla sevgiyle ve ölü gözlerle bakışlarını izleyebilirsiniz. Bunu yaparken izleyicilere, gerçek Hoffman’ın iddia ettiği gibi “daha iyi, daha insan olmanın bir yolu” değil, yanlış yönlendirilmiş, tehlikeli, etik olmayan ve içi boş bir geleceğe giden bir yol sunuluyor.
Pek çok insan kendilerinin konuşan, animasyonlu bir yapay zeka avatarını dünyaya salma fikrinden ürperebilir, ancak teknoloji ütopyacısı “dünün şehri” yatırımcısı bu konuda kesinlikle cazip geliyor. 24 Nisan tarihli bir blog yazısına göre, tüm bu olasılığı o kadar “ilginç ve düşündürücü” buluyor ki, kısa süre önce bunu gerçekleştirmek için üretken yapay zeka video şirketi Hour One ve yapay zeka ses girişimi 11ElevenLabs ile ortaklık kurdu. (Bu son isim tanıdık geliyorsa, bunun nedeni 11ElevenLabs’ın ürününün, dolandırıcıların bu yılın başlarında Biden’ın ses taklidi robocall’larını oluşturmak için kötüye kullandıkları ürün olmasıdır).
Hoffman aylarca dijital klonunun tanıtımını yaptıktan sonra nihayet geçen hafta kendisi ile “Reid AI” arasında geçen (ağır bir şekilde düzenlenmiş) bir video konuşmasını ortaya çıkardı. Hoffman’ın her konuda eğitildiği bildirilen özel yapım GPT-4 sohbet robotunun son teknoloji ürünü, deepfake animasyonlu doruk noktası nedir? Gerçeküstü, garip ve zaman zaman hijyenik olmayan simüle edilmiş etkileşimi izledikten sonra cevaplaması kolay olmayan sağlam bir soru.
“Neden kendimin dijital bir versiyonuyla röportaj yapmak isteyeyim ki?” Hoffman videonun başında bu soruyu soruyor. İlk ve en önemlisi, görünüşe göre kitaplarından birini bir dizi potansiyel izleyici demografisi için özetlemek: dünyanın en zeki insanı, 5 yaşındaki çocuklar, Seinfeld hayranları ve Klingonlar. Hoffman her bir Blitzscaling özetini (özellikle de “en zeki kişi” özetini) seviyor gibi görünse de, bunların hepsi bir ChatGPT sorusundan çıkmış gibi görünüyor – ki teknik olarak öyle. Buradaki fark, sadece bir metin cevabı yerine, kelimelerin Hoffman’ın (hala açıkça yapay olan) bir video görüntüsünün üzerine yerleştirilmiş bir Hoffman vokal yaklaşımı almasıdır.
Hoffman, tüm heyecanının ortasında, teknoloji endüstrisinin pek çok etkili ismi gibi, üretken yapay zekanın nasıl çalıştığına dair temel bir yanlış anlamaya bir kez daha ihanet ediyor. OpenAI’nin GPT’si gibi bir teknoloji, görsel ve işitsel eklemelerle ne kadar süslenmiş olursa olsun, anlama yeteneğine sahip değildir. Bir yapay zeka “Teşekkür ederim” ya da “Bence bu harika bir nokta” diye yanıt verdiğinde, aslında minnettarlık duymaz ya da bir şey düşünmez. Üretken YZ cümleleri kod satırları olarak görür, her harf veya boşluğu bir sonraki, muhtemelen harf veya boşluk takip eder. Bu, konuşma sesine uyarlanabilir ve video personalara dublaj yapılabilir, ancak bu temel işlevselliği değiştirmez. Basitçe, temelde süper güçlü bir otomatik düzeltme sistemi anlamına gelen şeyi etkileyen yeni sembolik girdi aldı. Reid AI’nin bir noktada önerdiği gibi, dili Klingonca olarak ayarlanmış olsa bile.
Reid AI Hoffman’ı “verdiğiniz bilgiyi yanlış yorumladığım ya da sorunuzun tam bağlamına sahip olmadığım için” yanlış bir yanıt verebileceği konusunda uyardığında, Hoffman izleyicilere yukarıdaki gerçeklerden herhangi birini açıklamak için duraklamıyor. Bunun yerine, genellikle kitaplarının ya da LinkedIn’in tanıtımını içeren bir sonraki sohbet noktasına geçiyor.
Bu arada, Reid AI’nin görsel bileşeninin Hoffman’ın birçok konuşma tarzını ve sırasını taklit etmesi gerekiyor. Reid AI’nin performansına bakılırsa, bunlar büyük ölçüde “şiddetle baş sallama”, “bir noktayı göstermek için vurgulu bir şekilde dokunma” ve “burnunu karıştırma” gibi yapmacık girişimlerden ibaret. New Atlas’ın da belirttiği gibi, 10:44’teki an, bu kadar net bir şekilde yoğunlaştırılmış ve düzenlenmiş bir videoya dahil etmek için garip bir tuhaflık – belki de insanlığın daha garip, ilişkilendirilebilir özelliklerinden bazılarını göstermeyi amaçlıyor. Eğer öyleyse, her iki Hoffman tarafından dile getirilen çok daha saçma ve rahatsız edici duyguların dikkatini dağıtmak için çok az şey yapıyor.
Reid AI, “inovasyonu teşvik eden bir çerçeveyi” teşvik etmek için tekno-özgürlükçü konuşma noktalarını açıklıyor. Hoffman, önyargı, mahremiyet, işgücü ve dijital mülkiyetle ilgili endişelerin sadece “olumsuz olanla başlayıp olumlu olan her şeyi [fark etmemek]” olduğunu tekrar tekrar belirtiyor. Dijital klon, Hoffman’ın LinkedIn sayfasını güzelleştirmek için eğlenceli ve renkli bir başlık resmi gibi “kişisel yetenekler” eklemek gibi yavan ve yaratıcı olmayan yolları tekrarlıyor.
Ancak en endişe verici an, Hoffman’ın “Herkes kendine ‘Yardım etmek için ne yapabilirim?’ diye sormalı” diyerek dijital avatarlar gibi yapay zekayı daha yaygın hale getirdiğini iddia ettiği andır. Hatta o kadar ileri gidiyor ki, mevcut teknoloji çağını Avrupa’nın buhar makinesini benimsemesine benzetiyor ve bunun Avrupa’yı “tüm dünyada böylesine baskın bir güç” haline getirdiğini söylüyor. (Ne kendisi ne de Reid AI, elbette sanayi devrimine dahil olan diğer araçları, yani sömürülen ve köleleştirilen milyonlarca nüfusun emeği üzerine inşa edilen sömürgeci bir sistemi kabul etmiyor).
Hoffman, Reid AI’nin gelecekteki yinelemelerinin “yapabileceğim şeylerin yetenek yelpazesine” katkıda bulunacağını söylüyor. Bu, Hoffman gibi insanların klonlanmış ve gerçek benlikleri arasındaki herhangi bir sınırı silmekten çekinmediklerini ima eden son derece anlamlı bir cümle. Hoffman, hiç değilse Reid yapay zekasının kendisi için üstesinden gelebileceği en az bir görev bulmuş durumda.
Bir LinkedIn kullanıcısı, duyuru gönderisinin yorumlarında kendisine “Kimliğe bürünme ve böyle bir kullanım durumundan kaynaklanan diğer tüm risk türlerinin nasıl azaltılacağı ve ‘sorumlu yapay zeka’ya nasıl ulaşılacağı konusunda başkalarının düşüncelerini merak ediyorum” diye sordu.
Hoffman, yeni bir avatar klibinin linkiyle birlikte “Harika bir soru… İşte Reid AI’ın cevabı” diye yanıt verdi.
*Bu yazı Watch a tech billionaire talk to his AI-generated clone başlıklı yazıdan çevrilmiştir.
