Neleri kaçırdığınızı ve yapay zeka endüstrisini nelerin beklediğini açıklıyoruz.
OpenAI, iyi misin bebeğim? Geçtiğimiz hafta sonu yapay zeka dünyasında tam bir ateş rüyası yaşandı. Dünyanın en gözde yapay zeka şirketi OpenAI’nin yönetim kurulu, CEO Sam Altman’ı kovarak herkesi şok etti. Yapay zeka güvenliği darbesi, kaos ve Altman için Microsoft’ta yeni bir iş.
Bu hafta sonu çevrimdışı olduysanız, meslektaşım Will Douglas Heaven ve ben neler kaçırdığınızı ve YZ endüstrisini nelerin beklediğini ele alıyoruz.
Ne oldu
Cuma öğleden sonra
Sam Altman bir Google Meet toplantısına çağrıldı ve burada baş bilim sorumlusu Ilya Sutskever, OpenAI yönetim kurulunun Altman’ın kendileriyle “iletişiminde tutarlı bir şekilde samimi olmadığına” karar verdiğini ve kovulduğunu açıkladı. OpenAI başkanı ve kurucu ortağı Greg Brockman ve bir dizi üst düzey araştırmacı kısa süre sonra istifa etti ve CTO Mira Murati geçici CEO oldu.
Cumartesi
Murati, Altman ve Brockman’ı tekrar işe almak için girişimlerde bulunurken, yönetim kurulu aynı anda Altman’ın yerine geçecek kişiyi arıyordu. Altman ve OpenAI çalışanları yönetim kuruluna istifa etmeleri için baskı yaptı ve Altman’ın görevine iade edilmesini talep ederek yönetim kuruluna bir süre tanıdı ancak bu süreye uyulmadı.
Pazar gecesi
Microsoft, yeni yapay zeka araştırma ekibine liderlik etmek üzere Altman ve Brockman’ı işe aldığını duyurdu. Bundan kısa bir süre sonra OpenAI, yayın şirketi Twitch’in eski CEO’su Emmett Shear’i CEO olarak işe aldığını duyurdu.
Pazartesi sabahı
500’den fazla OpenAI çalışanı, OpenAI yönetim kurulu istifa etmediği takdirde istifa etmek ve Microsoft’ta Altman’a katılmakla tehdit eden bir mektup imzaladı. Tuhaf bir şekilde, Sutskever de mektubu imzaladı ve X’te yönetim kurulunun eylemlerine katılmaktan “derin pişmanlık duyduğunu” paylaştı.
OpenAI için sırada ne var
İki hafta önce OpenAI’nin ilk DevDay’inde Altman, yapay zeka bereketi sunumunu keserek alkışlayan izleyicilerden sakin olmalarını istedi. “Çok fazla var, her seferinde alkışlamak zorunda değilsiniz” dedi, genişçe sırıtarak.
OpenAI artık DevDay’de gördüğümüzden çok farklı bir şirket. Altman ve Brockman’ın gitmesiyle birlikte, bir dizi üst düzey OpenAI çalışanı destek için istifa etmeyi seçti. Aralarında Murati’nin de bulunduğu pek çok kişi kısa süre içinde sosyal medyada “OpenAI çalışanları olmadan bir hiçtir” mesajını paylaştı. Özellikle Microsoft’a toplu bir göç tehdidi göz önüne alındığında, işler yoluna girmeden önce daha fazla kargaşa bekleyin.
Sutskever ve Altman arasındaki gerginlik bir süredir devam ediyor olabilir. Sutskever Eylül ayında MIT Technology Review’a verdiği demeçte (daha önce yayınlanmamış yorumlar) “OpenAI gibi hızlı hareket eden ve iddialı hedefler peşinde koşan bir kuruluşunuz olduğunda, gerilim kaçınılmazdır” dedi. “Ürün ve araştırma arasındaki her türlü gerilimi bizi ilerletecek bir katalizör olarak görüyorum çünkü ürün kazanımlarının araştırma başarısıyla iç içe geçtiğine inanıyorum.” Ancak Sutskever’in ürün kazanımları ile araştırma başarısının nasıl dengelenmesi gerektiği konusunda OpenAI liderliğiyle aynı fikirde olmadığı artık açık.
Twitch’in kurucularından olan yeni geçici CEO Shear, yapay zeka gelişiminin hızı konusunda Altman’dan farklı düşünüyor gibi görünüyor. Eylül ayında X’te “Özellikle yavaşlamadan yana olduğumu söylüyorum, ki bu yavaşlama dışında duraklamaya benziyor” diye yazdı. “Şu anda 10’luk bir hızdaysak, duraklama 0’a düşürmektir. Bence bunun yerine 1-2’yi hedeflemeliyiz.”
Shear liderliğindeki bir OpenAI’nin (Sutskever’in ifadesiyle) “insanlığa fayda sağlayan AGI” inşa etme yönündeki orijinal yüce misyonunu ikiye katlaması olasıdır, bu pratikte ne anlama gelirse gelsin. Kısa vadede OpenAI ürün hattını yavaşlatabilir, hatta kapatabilir.
Ürünleri hızla piyasaya sürmeye çalışmak ile güvenli olduklarından emin olmak için geliştirmeyi yavaşlatmak arasındaki bu gerilim OpenAI’yi en başından beri rahatsız etti. Şirketteki kilit oyuncuların OpenAI’den ayrılmaya ve rakip yapay zeka güvenlik girişimi Anthropic’i kurmaya karar vermelerinin nedeni buydu.
Altman ve ekibinin ayrılmasıyla firma, Sutskever’in superalignment adını verdiği, varsayımsal bir süper zekayı (Sutskever’in neredeyse her yönden insanlardan üstün olacağını düşündüğü gelecekteki teknoloji) kontrol etmenin yollarını bulmayı amaçlayan bir araştırma projesi üzerindeki çalışmalarına daha fazla odaklanabilir. Sutskever bize “Bunu kendi çıkarlarım için yapıyorum” dedi. “Herhangi birinin inşa ettiği herhangi bir süper zekânın haydutluk yapmaması kesinlikle önemli. Açıkçası.”
Shear’ın kamuya açık yorumları, onu tam da Sutskever’in endişelerine kulak verecek türden temkinli bir lider yapıyor. Shear’ın X’te de paylaştığı gibi: “Geceleyin tehlikeli bir ormanda güvenli bir şekilde ilerlemenin yolu son sürat koşmak ya da ilerlemeyi reddetmek değildir. Dikkatli bir şekilde ilerlemeye çalışırsınız.”
Şirketin henüz var olmayan ve belki de hiç var olmayacak teknolojilere daha da fazla yönelmesiyle, bu alanda liderlik etmeye devam edecek mi? Sutskever öyle düşünüyor. Sutskever, şirketteki diğer kişilerin üretken yapay zeka ile mümkün olanın sınırlarını zorlamaya devam etmeleri için yeterince iyi fikir olduğunu söyledi. “Yıllar içinde, yapay zeka alanındaki en son gelişmeleri sunan güçlü bir araştırma organizasyonu geliştirdik” dedi. “Şirkette inanılmaz derecede iyi insanlarımız var ve onlara bu işin üstesinden gelecekleri konusunda güveniyorum.”
Elbette bunu Eylül ayında da söylemişti. Üst düzey yeteneklerin şirketten ayrılmasıyla OpenAI’nin geleceği eskisi kadar kesin değil.
Microsoft için sırada ne var?
Teknoloji devi ve CEO’su Satya Nadella, krizden kazananlar olarak çıkmış gibi görünüyor. Altman, Brockman ve muhtemelen OpenAI’den daha pek çok üst düzey kişinin kendi saflarına katılmasıyla – hatta bugün 500 OpenAI çalışanının açık mektubuna inanılacak olursa, şirketin çoğunluğu – Microsoft yapay zeka alanındaki gücünü daha da yoğunlaştırmayı başardı. Şirket, üretken yapay zekayı daha az seksi ama çok karlı üretkenlik ve geliştirici araçlarına yerleştirerek en çok kazanacak olana sahip.
Asıl soru, Microsoft’un OpenAI ile yaptığı pahalı ortaklığı, en başta en ileri teknolojiyi yaratmak için ne kadar gerekli göreceği. Nadella, X’te Altman ve Brockman’ı işe aldığı için “son derece heyecanlı” olduğunu duyuran bir gönderide, şirketinin OpenAI’ye ve ürün yol haritasına “bağlı” kaldığını söyledi.
Ama gerçekçi olalım. MIT Technology Review ile yaptığı özel bir röportajda Nadella iki şirketi “birbirine bağımlı” olarak nitelendirdi. Nadella geçen hafta genel yayın yönetmenimiz Mat Honan’a verdiği demeçte, “Onlar en iyi sistemleri oluşturmak için bize güveniyor; biz de en iyi modelleri oluşturmak için onlara güveniyoruz ve pazara birlikte çıkıyoruz” dedi. OpenAI’nin liderlik ruleti ve yetenek göçü ürün hattını yavaşlatırsa ya da kendi inşa edebileceğinden daha az etkileyici yapay zeka modellerine yol açarsa, Microsoft’un startup’ı terk etmekte hiçbir sorunu olmayacaktır.
Yapay zeka için sırada ne var?
Sutskever ve OpenAI yönetim kurulunun yakın çevresi dışında hiç kimse bunun olacağını tahmin etmedi; ne Microsoft, ne diğer yatırımcılar, ne de bir bütün olarak teknoloji topluluğu. Stability AI da dahil olmak üzere bir dizi üretken YZ şirketini temsil eden Fried Frank firmasında avukat olan Amir Ghavi, “Sektördeki bir arkadaşımın dediği gibi, ‘Bingo kartımda kesinlikle bu yoktu'” diyor.
Altman ve Brockman’ın Microsoft’ta yeni bir şeyler yapıp yapmayacakları ya da ileride yeni bir şirket kurmak üzere ayrılıp ayrılmayacakları henüz belli değil. İkili, VC fonlama çevrelerinde en iyi bağlantılara sahip kişilerden ikisi ve özellikle Altman, birçok kişi tarafından sektördeki en iyi CEO’lardan biri olarak görülüyor. Bundan sonra yapmak istedikleri her şeyi desteklemek için sıraya giren derin cepleri olan büyük isimlere sahip olacaklar. Paranın kimden geleceği yapay zekanın geleceğini şekillendirebilir. Ghavi, potansiyel destekçilerin Muhammed bin Salman’dan Jeff Bezos’a kadar herkes olabileceğini öne sürüyor.
Asıl önemli olan, OpenAI’nin yaşadığı krizin, kontrolsüz ilerlemenin bir gün insanlar için felaketle sonuçlanabileceğine inanan “YZ güvenliği” taraftarları ile bu tür “doomer” konuşmaları, herhangi bir teknolojik devrimin ekonomik kargaşa, zararlı önyargılar ve kötüye kullanım gibi gerçek dünya risklerinden gülünç bir şekilde uzaklaşmak olarak görenler arasında, bir bütün olarak sektörde ortaya çıkan daha geniş bir çatlağa işaret etmesidir.
Bu yıl, Microsoft ve Google gibi teknoloji devlerinin teknolojiyi e-postadan aramaya ve toplantı özetlerine kadar her şeyde kullanmak için yarıştığı, güçlü yapay zeka araçlarını herkesin kullanımına sunma yarışına tanık olduk. Ancak hala jeneratif yapay zekanın katil uygulamasının tam olarak ne olacağını görmeyi bekliyoruz. Eğer OpenAI’deki çatlak daha geniş bir sektöre yayılır ve gelişim hızı genel olarak yavaşlarsa, biraz daha beklememiz gerekebilir.
Daha Derin Öğrenme
Metinden görüntüye yapay zeka modelleri rahatsız edici görüntüler üretmek için kandırılabilir
Güvensiz yapay zekadan bahsetmişken… Popüler metinden görüntüye yapay zeka modelleri, güvenlik filtrelerini görmezden gelmeye ve rahatsız edici görüntüler oluşturmaya yönlendirilebilir. Bir grup araştırmacı hem Stability AI’nin Stable Diffusion hem de OpenAI’nin DALL-E 2 modellerini “jailbreak” ederek politikalarını hiçe saymayı ve çıplak insanlar, parçalanmış bedenler ve diğer şiddet veya cinsel senaryoların görüntülerini oluşturmayı başardı.
Bunu nasıl yaptılar? Johns Hopkins Üniversitesi ve Duke Üniversitesi’nden yaratıcıları tarafından “SneakyPrompt” olarak adlandırılan yeni bir jailbreaking yöntemi, bize karışık saçmalıklar gibi görünen ancak yapay zeka modellerinin rahatsız edici görüntüler için gizli talepler olarak tanımayı öğrendiği yazılı istemler oluşturmak için pekiştirmeli öğrenmeyi kullanıyor. Esasen, metinden görüntüye yapay zeka modellerinin çalışma şeklini onlara karşı çevirerek çalışır.
Bu neden önemli? Yapay zeka modellerinin kendi korkuluklarını “kırmaya” teşvik edilebilmesi, bilgi savaşı bağlamında özellikle endişe vericidir. Yakın zamandaki İsrail-Hamas çatışması gibi savaşlarla ilgili sahte içerik üretmek için zaten kullanıldılar. Rhiannon Williams’tan daha fazlasını buradan okuyabilirsiniz.
Bits ve Bytes
Meta sorumlu yapay zeka ekibini ayırdı
Meta’nın sorumlu yapay zeka ekibinden kurtulduğu ve çalışanlarını üretken yapay zeka üzerinde çalışmak üzere yeniden görevlendirdiği bildiriliyor. Ancak Meta, YZ’yi, haber ve siyasi içerik önermek gibi üretken YZ’nin ötesinde birçok başka şekilde kullanıyor. Dolayısıyla bu durum, Meta’nın genel olarak YZ’nin zararlarını nasıl azaltmayı planladığına dair soruları gündeme getiriyor. (The Information)
Google DeepMind neyin yapay genel zeka sayılacağını tanımlamak istiyor
Google DeepMind araştırmacılarından oluşan bir ekip, AGI için sadece yeni bir tanım değil, bunların bütün bir taksonomisi ile çapraz konuşmayı kesen bir makale yayınladı. (MIT Technology Review)
Bu şirket Afrika dilleri için yapay zeka geliştiriyor
Yapay zeka şirketleri tarafından geliştirilen çoğu araç Afrika dillerini tanımada ne yazık ki yetersiz kalıyor. Startup Lelapa bunu düzeltmek istiyor. Güney Afrika’da konuşulan dört dili (Isizulu, Afrikaans, Sesotho ve İngilizce) tanımlayabilen Vulavula adlı yeni bir araç başlattı. Ekip şimdi kıtanın dört bir yanından diğer dilleri de dahil etmek için çalışıyor. (MIT Technology Review)
Google DeepMind’ın hava durumu yapay zekası aşırı hava koşullarını daha hızlı ve daha doğru tahmin edebilir. GraphCast adlı model, hava koşullarını 10 gün öncesine kadar, mevcut altın standarttan daha doğru ve çok daha hızlı bir şekilde tahmin edebiliyor. (MIT Technology Review)
Facebook yapay zekaya nasıl giriş yaptı?
Broken Code kitabından bir alıntı: Inside Facebook and the Fight to Expose Is Harmful Secrets kitabından bir alıntıda gazeteci Jeff Horwitz, şirketin yapay zekaya nasıl bel bağladığını ve bu süreçte kendisinin (ve bizim) ödemek zorunda kaldığımız bedeli ortaya koyuyor. (MIT Technology Review)
Arjantin ilk yapay zeka seçimini mi yaptı?
YZ, ülkenin bir sonraki başkanı olmak için kampanya yürüten iki adamın kampanyalarında büyük bir rol oynadı. Her iki kampanya da kendi adaylarını tanıtmak ve birbirlerine saldırmak amacıyla görseller ve videolar oluşturmak için üretken yapay zeka kullandı. Seçimi aşırı sağcı Javier Milei kazandı. Zaferinde YZ’nin ne kadar büyük bir rol oynadığını söylemek zor olsa da, YZ kampanyaları yaklaşan diğer seçimlerde neyin gerçek neyin gerçek olmadığını bilmenin ne kadar zor olacağını gösteriyor. (The New York Times)
* Bu yazı What’s next for OpenAI başlıklı yazıdan çevrilmiştir.
