Axon, halüsinasyonları azaltmak için LLM’nin ‘yaratıcılık kadranını’ ayarladığını söylüyor.
Polis departmanları genellikle teknoloji endüstrisinin dronlar, yüz tanıma, tahmine dayalı yazılım ve şimdi de yapay zeka gibi yeni ürünleri en erken benimseyenlerinden bazılarıdır. Yapay zekalı ses deşifre programlarını çoktan benimsemiş olan bazı departmanlar şimdi yeni ve daha kapsamlı bir aracı test ediyor: polis raporlarını otomatik olarak oluşturmak için ChatGPT benzeri bir teknolojiden yararlanan bir yazılım. Associated Press’in 26 Ağustos tarihli bir haberine göre, birçok polis memuru, rutin ofis işlerinden 30-45 dakika tasarruf sağladığını iddia eden bu yapay zeka aracından “heyecan duyuyor”.
İlk olarak Nisan ayında Axon tarafından duyurulan Draft One, “polis ve halk arasında silaha bağlı ölümleri azaltma hedefine yönelik en son dev adım” olarak faturalandırılıyor. En çok şok tabancaları ve kolluk kuvvetlerinin en popüler vücut kamerası serileriyle tanınan şirket, ilk denemelerinin kullanıcılar için günde bir saatlik evrak işini azalttığını iddia ediyor.
Axon açıklamasında, “Memurlar toplumla bağlantı kurmaya ve hem fiziksel hem de zihinsel olarak kendilerine bakmaya daha fazla zaman ayırabildiklerinde, daha başarılı gerilimi azaltıcı sonuçlara yol açan daha iyi kararlar alabilirler” dedi.
Şirket o sırada Draft One’ın Microsoft’un Azure OpenAI platformu ile oluşturulduğunu ve “hızlı bir şekilde taslak bir anlatım oluşturmak için yapay zekadan yararlanmadan” önce polis vücut kamerası sesini otomatik olarak yazıya döktüğünü belirtti. Raporlar, Draft One’ın “spekülasyonları veya süslemeleri önlemek için… temel modelini” izleyerek “kesinlikle ses transkriptinden hazırlanıyor”. Ek anahtar bilgiler eklendikten sonra, memurların bir raporun doğruluğunu bir kez daha insan incelemesine tabi tutulmadan önce onaylaması gerekiyor. Her rapor, yazımında yapay zeka kullanıldıysa da işaretleniyor.
Pazartesi günü AP ile konuşan Axon’un AI ürünleri müdürü Noah Spitzer-Williams, Draft One’ın “ChatGPT ile aynı temel teknolojiyi” kullandığını iddia ediyor. OpenAI tarafından tasarlanan ChatGPT’nin temel üretken büyük dil modeli, yanıtlarında yanıltıcı veya yanlış bilgi verme eğilimi nedeniyle sık sık eleştirildi. Spitzer-Williams ise Axon’un yeteneklerini, sıradan ChatGPT kullanıcılarının sahip olduğundan daha fazla “düğme ve kadrana erişime” sahip olmaya benzetiyor. İddiaya göre “yaratıcılık kadranını” ayarlamak, Draft One’ın polis raporlarını gerçeklere dayalı tutmasına ve üretken yapay zekanın devam eden halüsinasyon sorunlarından kaçınmasına yardımcı oluyor.
Draft One’ın kapsamı şu anda departmana göre değişiyor gibi görünüyor. Oklahoma City polis şefi Jason Bussert, 1.170 memurlu departmanının şu anda Draft One’ı yalnızca tutuklama içermeyen “küçük olay raporları” için kullandığını iddia etti. Ancak AP’nin haberine göre Indiana eyaletinin Lafayette kentinde yaklaşık 71.000 kişiye hizmet veren polis, Draft One’ı “her türlü vakada” kullanmakta serbest. Bu arada Lafayette’in komşusu Purdue Üniversitesi’ndeki öğretim üyeleri, üretken yapay zekanın polisle karşılaşma gibi potansiyel olarak hayatı değiştiren durumlarla başa çıkmak için yeterince güvenilir olmadığını savunuyor.
“ChatGPT gibi araçların temelini oluşturan büyük dil modelleri gerçeği üretmek için tasarlanmamıştır. Daha ziyade, tahmin algoritmalarına dayanan makul cümleleri bir araya getiriyorlar,” diyor dijital ve teknolojik etik üzerine odaklanan Purdue klinik doçenti Lindsay Weinberg Popular Science’a yaptığı açıklamada.
Tech Justice Lab’in direktörü olarak görev yapan Weinberg ayrıca “aklınıza gelebilecek neredeyse her algoritmik aracın mevcut ırksal adaletsizlik biçimlerini yeniden ürettiği ve güçlendirdiği defalarca gösterilmiştir” iddiasında bulunuyor. Uzmanlar yıllar boyunca büyük dil modellerinde ırk ve cinsiyete dayalı önyargıların birçok örneğini belgelemiştir.
Weinberg, “[marjinalleştirilmiş nüfusların] kitlesel hapsedilmesini destekleyen ve yaptırım uygulayan bir hukuk sistemi bağlamında polis raporları oluşturmayı ‘kolaylaştıran’ araçların kullanılması, mahremiyet, medeni haklar ve adaleti önemseyenleri derinden endişelendirmelidir” diyor.
Bir OpenAI temsilcisi Popular Science’a gönderdiği e-postada soruların Microsoft’a yöneltilmesini önerdi. Axon, Microsoft ve Lafayette Polis Departmanı yazı yazıldığı sırada yorum taleplerine yanıt vermedi.
*Bu yazı Cops are using AI software to write police reports başlıklı yazıdan çevrilmiştir.
