Farklı görevler için bir yapay zeka modelinin kullanılmasının neden olduğu karbon emisyonları ilk kez hesaplanmıştır.
Bir görüntü oluşturmak, bir e-posta yazmak ya da bir chatbot’a soru sormak için yapay zekayı her kullandığınızda, bunun gezegene bir maliyeti oluyor.
Hugging Face adlı yapay zeka girişimi ve Carnegie Mellon Üniversitesi’ndeki araştırmacılar tarafından yapılan yeni bir çalışmaya göre, güçlü bir yapay zeka modeli kullanarak bir görüntü oluşturmak, akıllı telefonunuzu tamamen şarj etmek kadar enerji harcıyor. Bununla birlikte, metin oluşturmak için bir AI modeli kullanmanın önemli ölçüde daha az enerji yoğun olduğunu buldular. Metni 1000 kez oluşturmak, tam bir akıllı telefon şarjının yalnızca %16’sı kadar enerji kullanıyor.
Henüz hakem değerlendirmesinden geçmemiş olan çalışmaları, devasa yapay zeka modellerini eğitmenin inanılmaz derecede enerji yoğun olduğunu, ancak bunun bulmacanın yalnızca bir parçası olduğunu gösteriyor. Karbon ayak izlerinin çoğu gerçek kullanımlarından kaynaklanıyor.
Çalışmayı yöneten Hugging Face’de yapay zeka araştırmacısı olan Sasha Luccioni, çalışmanın araştırmacıların farklı görevler için bir yapay zeka modeli kullanmanın neden olduğu karbon emisyonlarını hesapladıkları ilk çalışma olduğunu söylüyor. Luccioni, bu emisyonları anlamanın, YZ’yi nasıl daha gezegen dostu bir şekilde kullanacağımız konusunda bilinçli kararlar almamıza yardımcı olabileceğini umuyor.
Luccioni ve ekibi, Hugging Face platformunda soru yanıtlama, metin oluşturma, görüntü sınıflandırma, altyazı ekleme ve görüntü oluşturma gibi 10 popüler YZ göreviyle ilişkili emisyonları inceledi. Deneyleri 88 farklı model üzerinde gerçekleştirdiler. Metin oluşturma gibi görevlerin her biri için Luccioni 1.000 istem çalıştırdı ve Code Carbon adlı geliştirdiği bir araçla kullanılan enerjiyi ölçtü. Code Carbon, bilgisayarın modeli çalıştırırken harcadığı enerjiye bakarak bu hesaplamaları yapıyor. Ekip ayrıca, farklı görevleri yerine getirmek üzere eğitilmiş sekiz üretken model kullanarak bu görevleri yerine getirirken ortaya çıkan emisyonları da hesapladı.
Görüntü oluşturmak, açık ara en fazla enerji ve karbon tüketen yapay zeka tabanlı görev oldu. Stable Diffusion XL gibi güçlü bir YZ modeliyle 1.000 görüntü oluşturmak, ortalama benzinle çalışan bir otomobille 4,1 mil sürmeye eşdeğer miktarda karbondioksitten sorumludur. Buna karşılık, inceledikleri en az karbon yoğun metin oluşturma modeli, benzer bir araçla 0,0006 mil sürmek kadar CO2’den sorumluydu. Stable Diffusion XL’in arkasındaki şirket olan Stability AI, yorum talebine yanıt vermedi.
Almanya’daki Hertie School’da bilgisayar bilimleri ve kamu politikaları alanında yardımcı doçent olan ve yapay zeka ve iklim değişikliği üzerine çalışmalar yürüten Lynn Kaack, çalışmanın somut rakamlar sunarak yapay zekanın karbon ayak izi hakkında faydalı bilgiler sağladığını ve bazı endişe verici artış eğilimlerini ortaya koyduğunu söylüyor. Kendisi bu araştırmada yer almadı.
Bu emisyonlar hızla artıyor. Üretken yapay zeka patlaması, büyük teknoloji şirketlerinin güçlü yapay zeka modellerini e-postadan kelime işlemeye kadar birçok farklı ürüne entegre etmesine yol açtı. Bu üretken YZ modelleri artık her gün milyarlarca olmasa da milyonlarca kez kullanılıyor.
Ekip, çıktılar oluşturmak için büyük üretken modeller kullanmanın, belirli görevler için uyarlanmış daha küçük YZ modelleri kullanmaktan çok daha yoğun enerji gerektirdiğini buldu. Luccioni, örneğin, film eleştirilerini olumlu veya olumsuz olmalarına göre sınıflandırmak için üretken bir model kullanmanın, bu görev için özel olarak oluşturulmuş ince ayarlı bir model kullanmaktan yaklaşık 30 kat daha fazla enerji tükettiğini söylüyor. Üretken yapay zeka modellerinin çok daha fazla enerji kullanmasının nedeni, sınıflandırma gibi tek bir görev yerine metin oluşturma, sınıflandırma ve özetleme gibi birçok şeyi aynı anda yapmaya çalışmalarıdır.
Luccioni, araştırmanın insanları üretken YZ’yi ne zaman kullanacakları konusunda daha seçici olmaya ve mümkün olduğunda daha uzmanlaşmış, daha az karbon yoğun modelleri tercih etmeye teşvik edeceğini umduğunu söylüyor.
“E-postalarda arama yapmak gibi belirli bir uygulama yapıyorsanız… her şeyi yapabilen bu büyük modellere gerçekten ihtiyacınız var mı? Bence hayır,” diyor Luccioni.
Allen Institute for AI’da araştırmacı bilim insanı olan ve çalışmanın bir parçası olmayan Jesse Dodge, yapay zeka araçlarının kullanımıyla ilişkili enerji tüketiminin, gerçek karbon ayak izini anlamada eksik bir parça olduğunu söylüyor.
Dodge, daha yeni, daha büyük üretken modellerden ve daha eski YZ modellerinden kaynaklanan karbon emisyonlarını karşılaştırmanın da önemli olduğunu ekliyor. “Bu, yeni YZ sistemleri dalgasının iki ya da beş yıl öncesine göre çok daha fazla karbon yoğun olduğu fikrini vurguluyor” diyor.
Google bir zamanlar ortalama bir çevrimiçi aramanın 0,3 watt-saat elektrik kullandığını, bunun da bir arabada 0,0003 mil yol kat etmeye eşdeğer olduğunu tahmin ediyordu. Araştırmaya katılmayan MIT Lincoln laboratuarında araştırmacı bilim adamı olan Vijay Gadepally, bugün bu rakamın muhtemelen çok daha yüksek olduğunu, çünkü Google’ın üretken yapay zeka modellerini aramalarına entegre ettiğini söylüyor.
Araştırmacılar her bir görev için emisyonları beklediklerinden çok daha yüksek bulmakla kalmadılar, aynı zamanda yapay zeka kullanımıyla ilişkili günlük emisyonların büyük modellerin eğitiminden kaynaklanan emisyonları çok aştığını keşfettiler. Luccioni, Hugging Face’in çok dilli yapay zeka modeli BLOOM’un farklı versiyonlarını test ederek eğitim maliyetlerini aşmak için kaç kullanım gerektiğini gördü. En büyük modeli eğitmenin karbon maliyetine ulaşmak için 590 milyondan fazla kullanım gerekti. Luccioni, ChatGPT gibi çok popüler modeller için, böyle bir modelin kullanım emisyonlarının eğitim emisyonlarını aşmasının sadece birkaç hafta alabileceğini söylüyor.
Bunun nedeni, büyük yapay zeka modellerinin yalnızca bir kez eğitilmesi, ancak daha sonra milyarlarca kez kullanılabilmesidir. Bazı tahminlere göre, ChatGPT gibi popüler modellerin günde 10 milyona kadar kullanıcısı var ve bunların çoğu modeli birden fazla kez kullanıyor.
Gadepally, bu gibi çalışmaların YZ ile ilgili enerji tüketimi ve emisyonları daha somut hale getirdiğini ve YZ kullanımıyla ilişkili bir karbon ayak izi olduğu konusunda farkındalık yaratmaya yardımcı olduğunu söylüyor ve ekliyor: “Bunun tüketicilerin sormaya başladığı bir şey haline gelmesini çok isterim.”
Dodge, bu gibi çalışmaların şirketleri enerji kullanımı ve emisyonları konusunda daha sorumlu tutmamıza yardımcı olacağını umduğunu söylüyor.
“Buradaki sorumluluk, modelleri yaratan ve bunlardan kâr elde eden şirkete aittir” diyor.
*Bu yazı Making an image with generative AI uses as much energy as charging your phone başlıklı yazıdan çevrilmiştir.
