OpenAI, yapay zekanın potansiyel varoluşsal risklerini bertaraf etmekle görevli “süper hizalama ekibini”, kuruluşunu ilk kez duyurduktan bir yıldan kısa bir süre sonra dağıttı. Fesih haberi ilk olarak bugün erken saatlerde Wired ve diğer yayın organları tarafından, şirketin eski süper hizalama ekibi eş lideri Jan Leike tarafından X’e gönderilen uzun bir başlıkla birlikte doğrulandı. Bugünkü açıklamadan önce, Leike 15 Mayıs’ta başka bir ayrıntı sunmadan sadece “İstifa ettim” şeklinde bir tweet atmıştı.
Leike bugün X’te “OpenAI’nin bu araştırmayı yapmak için dünyadaki en iyi yer olacağını düşündüğüm için katıldım” diye yazdı. “Ancak, bir süredir OpenAI yönetimiyle şirketin temel öncelikleri konusunda anlaşmazlık yaşıyordum ve sonunda bir kırılma noktasına ulaştık.”
OpenAI superalignment projesini Temmuz 2023’te oluşturdu. Buna eşlik eden bir blog yazısında şirket, süper zeki yapay zekanın “insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacağını ve dünyanın en önemli sorunlarının çoğunu çözmemize yardımcı olabileceğini” iddia etti. Ancak süper zekânın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta insan neslinin tükenmesine yol açabilir.”
Leike ve OpenAI baş bilim adamı ve kurucu ortağı Ilya Sutskever’i süper hizalama ekibinin eş başkanları olarak ilan eden şirket, “Bu riskleri yönetmek, diğer şeylerin yanı sıra, yönetişim için yeni kurumlar ve süper zeka uyumu sorununu çözmeyi gerektirecektir” diye devam etti. Sutskever’in de benzer kaygılar nedeniyle OpenAI’den ayrıldığı, grubun geri kalan üyelerinin ise başka araştırma gruplarına dahil olduğu bildirildi.
CEO Sam Altman da dahil olmak üzere şirketin üst düzey yöneticileri ve geliştiricileri, yanlış tasarlandığında insan korumalarını atlatabilecek sözde “haydut yapay zeka” tehdidi konusunda defalarca uyarıda bulundular. Bu arada OpenAI -Google ve Meta- gibi şirketlerle birlikte- düzenli olarak, bazıları artık neredeyse fotogerçekçi medya ve inandırıcı insan sesi üretebilen en son YZ ürün gelişmelerini tanıtıyor. Bu haftanın başlarında OpenAI, insan komutlarına bazen hala yapmacık olsa da gerçekçi yanıtlar veren çok modlu bir üretken yapay zeka sistemi olan GPT-4o’nun piyasaya sürüldüğünü duyurdu. Bir gün sonra Google da benzer bir ilerleme kaydettiğini açıkladı. İddia edilen ciddi risklere rağmen, bu şirketler rutin olarak, endüstri düzenlemelerini dikte etmek için lobi yaparken, sorunların üstesinden gelebilecek uzmanlar olduklarını iddia ediyorlar.
Leike’nin ayrılışının ve superalignment ekibinin kapatılmasının ardındaki kesin ayrıntılar belirsizliğini korusa da, son zamanlarda yaşanan şirket içi güç mücadeleleri, sektörün güvenli ve adil bir şekilde nasıl ileriye taşınacağına dair keskin görüş ayrılıklarına işaret ediyor. Bazı eleştirmenler, yapay zeka endüstrisinin hızla azalan getiriler çağına yaklaştığını ve teknoloji liderlerini ürün beklentilerini yumuşatmaya ve hedefleri değiştirmeye sevk ettiğini savunuyor. Leike gibi diğerleri ise YZ’nin yakında insanlık için korkunç bir tehdit oluşturabileceğine ve OpenAI gibi şirketlerin bunu yeterince ciddiye almadığına ikna olmuş görünüyor.
Ancak pek çok eleştirmenin de belirttiği gibi, üretken YZ henüz öz farkındalıktan çok uzak, hatta “haydutluk” yapabilecek durumda bile değil. Bununla birlikte, bilinçli sohbet robotlarından bağımsız olarak, mevcut teknoloji halihazırda yanlış bilgilendirme, içerik sahipliği ve insan işçi hakları gibi konuları etkiliyor. Şirketler yeni ortaya çıkan YZ sistemlerini web aramalarına, sosyal medyaya ve haber yayınlarına sokmaya devam ettikçe, toplum sonuçlarla baş etmek zorunda kalıyor.
*Bu yazı OpenAI dissolved its team dedicated to preventing rogue AI başlıklı yazıdan çevrilmiştir.
