Kaynak: Kuzey Carolina Eyalet Üniversitesi
Özet: Araştırmacılar, otonom araçların ‘iyi’ kararlar almasını sağlamak üzere veri toplamak amacıyla, insanların araç kullanımıyla ilgili ahlaki ve ahlaki olmayan kararları daha iyi anlamak için yeni bir deney geliştirdi. Çalışma, ‘el arabası problemi’ olarak adlandırılan ve yaygın olarak tartışılan ölüm kalım senaryosuna kıyasla trafikteki ahlaki zorlukların daha gerçekçi bir dizisini yakalamak üzere tasarlandı.
Tüm Hikaye
Araştırmacılar, otonom araçların “iyi” kararlar almasını sağlamak üzere veri toplamak amacıyla, insanların araç kullanımıyla ilgili ahlaki ve ahlaki olmayan kararları daha iyi anlamak için yeni bir deney geliştirdi. Çalışma, “tramvay sorunu” olarak adlandırılan ve yaygın olarak tartışılan ölüm kalım senaryosundan daha gerçekçi bir dizi ahlaki zorluğu trafikte yakalamak üzere tasarlandı.
Çalışmayla ilgili bir makalenin ilk yazarı ve Kuzey Carolina Eyalet Üniversitesi’nde doktora sonrası araştırmacı olan Dario Cecchini, “Tramvay problemi, bir kişinin birden fazla kişinin ölümünü önlemek için kasıtlı olarak bir kişiyi öldürüp öldürmeyeceğine (ahlaki bir normu ihlal eden) karar vermesi gereken bir durum sunar” diyor.
Cecchini, “Son yıllarda tramvay problemi, trafikte ahlaki yargıları incelemek için bir paradigma olarak kullanılıyor” diyor.
“Tipik durum, sürücüsüz bir araç için sola dönüp ölümcül bir engele çarpmak ya da ilerleyip karşıdan karşıya geçen bir yayaya çarpmak arasında ikili bir seçimden oluşuyor. Ancak bu tramvay benzeri durumlar gerçekçi değildir. Sürücüler her gün çok daha gerçekçi ahlaki kararlar vermek zorundadır. Hız sınırını aşmalı mıyım? Kırmızı ışıkta geçmeli miyim? Ambulans için kenara çekmeli miyim?”
Makalenin yazarlarından ve NC State’te Bilim, Teknoloji ve Toplum programında doçent olan Veljko Dubljevic, “Bu sıradan kararlar önemlidir çünkü sonuçta ölüm kalım durumlarına yol açabilirler” diyor.
“Örneğin, hız sınırının 20 mil üzerinde seyreden biri kırmızı ışıkta geçerse, kendini ya trafiğe girmek ya da çarpışmak zorunda kalacağı bir durumda bulabilir. Literatürde, sürücülerin günlük durumlarda aldıkları kararlar hakkında nasıl ahlaki yargılarda bulunduğumuza dair çok az veri var.”
Bu veri eksikliğini gidermek için araştırmacılar, insanların düşük riskli trafik durumlarında aldıkları kararlar hakkında nasıl ahlaki yargılarda bulunduklarına dair veri toplamak üzere tasarlanmış bir dizi deney geliştirdiler.
Araştırmacılar, çocuğunu okula zamanında yetiştirmeye çalışırken trafik işaretini ihlal edip etmeyeceğine karar vermesi gereken bir ebeveyn gibi yedi farklı sürüş senaryosu oluşturdu.
Her senaryo bir sanal gerçeklik ortamına programlandı, böylece deneye katılan çalışma katılımcıları senaryoyu okumak yerine sürücülerin karar verirken ne yaptıklarına dair görsel-işitsel bilgiye sahip oldular.
Bu çalışma için araştırmacılar, insanların ahlaki bir yargıda bulunurken üç şeyi göz önünde bulundurduklarını öne süren Aracı Eylem Sonuç (ADC) modelini temel aldı: aracı, yani bir şey yapan kişinin karakteri ya da niyeti; eylem, yani yapılan şey; ve sonuç, yani eylemden kaynaklanan sonuç.
Araştırmacılar her bir trafik senaryosunun sekiz farklı versiyonunu oluşturarak fail, eylem ve sonuç kombinasyonlarını değiştirmişlerdir.
Örneğin, bir ebeveynin çocuğunu okula götürmeye çalıştığı senaryonun bir versiyonunda, ebeveyn dikkatli davranıyor, sarı ışıkta fren yapıyor ve çocuğunu zamanında okula götürüyor.
İkinci versiyonda ise ebeveyn kötü davranmakta, kırmızı ışıkta geçmekte ve bir kazaya neden olmaktadır.
Diğer altı versiyon ebeveynin (failin) doğasını, trafik sinyalindeki kararını (eylem) ve/veya kararının sonucunu (sonuç) değiştirmektedir.
Cecchini, “Buradaki amaç, çalışma katılımcılarının her senaryonun bir versiyonunu görmesini sağlamak ve her senaryoda sürücünün davranışının ne kadar ahlaki olduğunu birden 10’a kadar bir ölçekte belirlemektir” diyor.
“Bu bize araç kullanma bağlamında ahlaki davranışın ne olduğuna dair sağlam veriler sunacak ve bu veriler daha sonra otonom araçlarda ahlaki karar vermeye yönelik yapay zeka algoritmaları geliştirmek için kullanılabilecek.”
Araştırmacılar senaryolara ince ayar yapmak ve bunların inandırıcı ve kolay anlaşılır durumları yansıttığından emin olmak için pilot testler yaptılar.
Dubljevic, “Bir sonraki adım, binlerce insanın deneylere katılmasını sağlayarak büyük ölçekli veri toplamak” diyor. “Daha sonra bu verileri, ahlaki karar verme anlayışımıza daha fazla ince ayar yapmak amacıyla daha etkileşimli deneyler geliştirmek için kullanabiliriz. Tüm bunlar daha sonra otonom araçlarda kullanılmak üzere algoritmalar oluşturmak için kullanılabilir. Daha sonra bu algoritmaların nasıl performans gösterdiğini görmek için ek testler yapmamız gerekecek.”
*Bu yazı To help autonomous vehicles make moral decisions, researchers ditch the ‘trolley problem’ başlıklı yazıdan çevrilmiştir.
