Üretken yapay zekanın yardımıyla, yazı yazabilen herkesin program da yazabileceğini düşünmek heyecan verici. O kadar basit değil.
2017 yılında Google araştırmacıları, dili işlemek için “transformatör” adı verilen yeni bir makine öğrenimi programını tanıttı. Çoğunlukla makine çevirisini geliştirmekle ilgilenseler de – adı bir dili diğerine dönüştürme hedefinden geliyor – yapay zeka topluluğunun transformatörün muazzam, geniş kapsamlı bir potansiyele sahip olduğunu fark etmesi uzun sürmedi.
Önceki bağlama dayanarak bir sonraki adımın ne olacağını tahmin etmek için geniş belge koleksiyonları üzerinde eğitilen bu makine, yazılı kelimelerin ritmi konusunda esrarengiz bir beceri geliştirdi. Bir düşünceye başlayabilirdiniz ve sizi son derece iyi tanıyan bir arkadaşınız gibi, dönüştürücü cümlelerinizi tamamlayabilirdi. Eğer cümleniz bir soruyla başlıyorsa, transformatör size bir cevap veriyordu. Daha da şaşırtıcı olanı, bir programı anlatmaya başlarsanız, kaldığınız yerden devam eder ve o programı çıkarırdı.
Ancak programlamanın, gizli notasyonu ve hatalara karşı affedici olmayan tutumuyla zor olduğu uzun zamandır bilinmektedir. Acemi programcıların sayısal bir ortalama hesaplamak gibi basit bir görevi bile doğru bir şekilde belirtmekte zorlandıkları ve zamanın yarısından fazlasında başarısız oldukları iyi belgelenmiştir. Profesyonel programcılar bile uzay araçlarının, arabaların ve hatta internetin çökmesine neden olan hatalı kodlar yazmışlardır.
Dolayısıyla ChatGPT gibi transformatör tabanlı sistemlerin insan tarafından okunabilen sıradan açıklamaları çalışan koda dönüştürebileceği keşfedildiğinde heyecanlanmak için çok neden vardı. Üretken yapay zekanın yardımıyla, yazı yazabilen herkesin program da yazabileceğini düşünmek heyecan verici. Mevcut YZ dalgasının mimarlarından Andrej Karpathy, “En yeni programlama dili İngilizce’dir” dedi. Görünüşe göre her gün duyurulan şaşırtıcı gelişmelerle, programlamayı öğrenme çağının geride kaldığına inanmak için affedilirsiniz. Ancak son gelişmeler acemilerin ve uzmanların kodlama yapma şeklini temelden değiştirirken, programlamanın demokratikleşmesi, kodlamayı öğrenmeyi her zamankinden daha önemli hale getirdi çünkü çok daha geniş bir insan kitlesini faydalarından yararlanma konusunda güçlendirdi. Üretken yapay zeka işleri kolaylaştırıyor, ancak kolay hale getirmiyor.
Kodlama deneyimi olmayan insanların kod yazmak için bir transformatör kullanabileceği fikrine şüpheyle yaklaşmamın üç ana nedeni var. Birincisi halüsinasyon sorunu. Transformatörler, özellikle de bir sonraki adımda ne olacağından emin olmadıklarında, kulağa mantıklı gelen anlamsız şeyler söylemeleriyle ünlüdür. Ne de olsa, eğitimli tahminler yapmak üzere eğitilmişlerdir, yanıldıklarını kabul etmek için değil. Bunun programlama bağlamında ne anlama geldiğini düşünün.
Diyelim ki ortalamaları hesaplayan bir program üretmek istiyorsunuz. Ne istediğinizi kelimelerle açıklıyorsunuz ve bir transformatör bir program yazıyor. Olağanüstü! Ama program doğru mu? Yoksa transformatör bir hata yüzünden halüsinasyon mu gördü? Dönüştürücü size programı gösterebilir, ancak nasıl programlanacağını zaten bilmiyorsanız, bu muhtemelen yardımcı olmayacaktır. Bu deneyi kendim yaptım ve GPT’nin (OpenAI’nin “üretken önceden eğitilmiş dönüştürücüsü”, Google ekibinin fikrinin bir dalı) ortalama için yanlış formül kullanmak veya ortalamadan önce tüm sayıları tam sayıya yuvarlamak gibi bazı şaşırtıcı hatalar ürettiğini gördüm. Bunlar küçük hatalardır ve kolayca düzeltilebilir, ancak dönüştürücünün ürettiği programı okuyabilmenizi gerektirir.
Aslında görevlerin sözlü açıklamalarını yazmak, insanların takip etmesi için bile oldukça zordur.
Kısmen transformatörleri hatalara daha az eğilimli hale getirerek ve kısmen de daha fazla test ve geri bildirim sağlayarak bu zorluğun üstesinden gelmek mümkün olabilir, böylece ürettikleri programların gerçekte ne yaptığı daha net anlaşılabilir. Ancak daha derin ve daha zorlu ikinci bir sorun var. Aslında görevlerin sözlü açıklamalarını yazmak, insanların takip etmesi için bile oldukça zordur. Bu kavram, bir mobilya parçasını monte etmek için talimatları takip etmeye çalışan herkes için açık olmalıdır. İnsanlar IKEA’nın talimatlarıyla dalga geçerler, ancak IKEA sahneye çıkmadan önce teknolojinin ne durumda olduğunu hatırlamıyor olabilirler. Çok kötüydü. 70’li yıllarda çocukken çok sayıda dinozor model kiti satın almıştım ve herhangi bir Diplodocus’u birleştirmeyi başarıp başaramayacağım yazı tura ile belli olurdu.
Bazı meslektaşlarımla birlikte bu sorunu araştırıyoruz. Bir pilot çalışmada, internetten çiftler halinde insanlar topladık ve onları “gönderenler” ve “alanlar” olarak ikiye ayırdık. Gönderenlere ortalama alma probleminin bir versiyonunu açıkladık. Açıklamamızı anladıklarını teyit etmek için onları test ettik. Anladılar. Daha sonra onlardan görevi alıcılara kendi kelimeleriyle açıklamalarını istedik. Açıkladılar. Daha sonra alıcıları anlayıp anlamadıklarını görmek için test ettik. Bir kez daha, alıcıların görevi yerine getirip getiremeyecekleri yazı tura ile belli oldu. İngilizce sıcak bir programlama dili olabilir, ancak neredeyse soğuk olanlar kadar hata eğilimli!
Son olarak, programlamayı genel olarak bir bilgisayara yapmasını istediğiniz davranışları yaptırma eylemi olarak görmek, günün sonunda bu davranışların ne olması gerektiğine karar veren bireylerin yerini alamayacağınızı göstermektedir. Yani, üretken yapay zeka, istediğiniz davranışları tipik bilgisayarların gerçekleştirebileceği bir biçimde daha doğrudan ifade etmenize yardımcı olabilir. Ancak hedefi sizin için seçemez. Ve hedeflere karar verebilecek insan sayısı ne kadar geniş olursa, bilişim de o kadar iyi ve temsili hale gelecektir.
Üretken yapay zeka çağında herkes programlama benzeri faaliyetlerde bulunabilecek ve bilgisayarlara kendileri adına ne yapmaları gerektiğini söyleyebilecek. Ancak arzularınızı insanlara, geleneksel programlama dillerine ve hatta yeni moda dönüştürücülere doğru bir şekilde iletmek eğitim, çaba ve pratik gerektirir. Üretken yapay zeka, bilgisayarların bizi anlama becerisini büyük ölçüde genişleterek insanlarla kısmen buluşmaya yardımcı oluyor. Ancak nasıl anlaşılacağımızı öğrenmek hâlâ bize düşüyor.
Michael L. Littman Brown Üniversitesi’nde Bilgisayar Bilimleri Profesörüdür ve Georgia Institute of Technology College of Computing’de ek görev yapmaktadır. American Association for the Advancement of Science tarafından Yapay Zeka Alanında Halkın Bilime Katılımı için Liderlik Araştırmacısı olarak seçilmiştir. “Code to Joy” kitabının yazarıdır.
*Bu yazı Will AI render programming obsolete? başlıklı yazıdan çevrilmiştir.
