Zor iş asıl şimdi başlıyor.
Artık resmileşti. Üç yılın ardından, AB’nin yeni kapsamlı yapay zeka yasası olan Yapay Zeka Yasası, geçtiğimiz hafta Avrupa Parlamentosu’nun onaylamasıyla son bürokratik çemberini de atlamış oldu. (YZ Yasası hakkında bilmeniz gereken beş ana şeyi geçen yıl yazdığım bu hikayeden öğrenebilirsiniz).
Bu aynı zamanda kişisel olarak benim için de bir dönemin sonu gibi geliyor: YZ Yasası’nın 2021’deki ilk taslağını haber yapan ilk muhabir bendim ve o zamandan bu yana devam eden lobi faaliyetlerini yakından takip ettim.
Ancak gerçek şu ki, zor iş şimdi başlıyor. Yasa Mayıs ayında yürürlüğe girecek ve AB’de yaşayan insanlar yıl sonuna kadar değişiklikleri görmeye başlayacaklar. Düzenleyici kurumların yasayı düzgün bir şekilde uygulayabilmeleri için hazırlık yapmaları gerekecek ve şirketlerin yasaya uyum sağlamaları için üç yıla kadar süreleri olacak.
İşte değişecek (ve değişmeyecek) şeyler:
- Bazı yapay zeka kullanımları bu yıl içinde yasaklanacak
Yasa, sağlık, eğitim ve polislik gibi insanların temel hakları için yüksek risk oluşturan yapay zeka kullanım durumlarına kısıtlamalar getirmektedir. Bunlar yıl sonuna kadar yasaklanacaktır.
Ayrıca “kabul edilemez risk” oluşturduğu düşünülen bazı kullanımları da yasaklıyor. Bunlar arasında, “davranışı çarpıtmak ve bilinçli karar vermeyi bozmak için bilinçaltı, manipülatif veya aldatıcı teknikler” kullanan veya savunmasız insanları istismar eden YZ sistemleri gibi oldukça belirsiz ve belirsiz kullanım durumları bulunmaktadır. YZ Yasası ayrıca, bir kişinin siyasi görüşleri veya cinsel yönelimi gibi hassas özellikleri çıkaran sistemleri ve halka açık yerlerde gerçek zamanlı yüz tanıma yazılımlarının kullanımını da yasaklamaktadır. Clearview AI gibi interneti kazıyarak yüz tanıma veri tabanlarının oluşturulması da yasaklanacak.
Bununla birlikte, bazı oldukça büyük uyarılar var. Kolluk kuvvetlerinin, terörizm veya adam kaçırma gibi ciddi suçlarla mücadele etmek için halka açık yerlerde hassas biyometrik verilerin yanı sıra yüz tanıma yazılımlarını kullanmalarına hala izin verilmektedir. Dijital haklar örgütü Access Now gibi bazı sivil haklar örgütleri, yüz tanıma gibi tartışmalı YZ kullanım durumlarını tamamen yasaklamadığı için YZ Yasasını “insan hakları için başarısızlık” olarak nitelendirdi. Şirketlerin ve okulların, insanların duygularını tanıdığını iddia eden yazılımları kullanmalarına izin verilmese de, tıbbi veya güvenlik nedenleriyle bunu yapabilirler.
- Bir yapay zeka sistemi ile etkileşime girdiğinizde daha belirgin olacaktır
Teknoloji şirketlerinin deepfakes ve YZ tarafından üretilen içerikleri etiketlemeleri ve bir chatbot veya başka bir YZ sistemi ile etkileşime girdiklerinde insanları bilgilendirmeleri gerekecektir. YZ Yasası ayrıca şirketlerin YZ tarafından üretilen medyayı tespit etmeyi mümkün kılacak şekilde geliştirmelerini gerektirecektir. Bu, yanlış bilgilendirmeye karşı mücadelede umut verici bir haberdir ve filigran ve içerik kaynağı ile ilgili araştırmalara büyük bir ivme kazandıracaktır.
Ancak bunu söylemek yapmaktan daha kolay ve araştırmalar yönetmeliğin gerektirdiklerinin çok gerisinde kalıyor. Filigranlar hala deneysel bir teknolojidir ve kurcalanması kolaydır. Yapay zeka tarafından üretilen içeriği güvenilir bir şekilde tespit etmek hala zor. Açık kaynaklı bir internet protokolü olan C2PA gibi bazı çabalar umut vaat etmektedir, ancak provenans tekniklerini güvenilir hale getirmek ve endüstri çapında bir standart oluşturmak için çok daha fazla çalışmaya ihtiyaç vardır.
- Vatandaşlar bir YZ tarafından zarar gördüklerinde şikayet edebilirler
YZ Yasası, uyum, uygulama ve yürütmeyi koordine etmek için yeni bir Avrupa YZ Ofisi kuracak (ve işe alıyorlar). YZ Yasası sayesinde, AB’deki vatandaşlar YZ sistemlerinden zarar gördüklerinden şüphelendiklerinde bu sistemler hakkında şikayette bulunabilecek ve YZ sistemlerinin neden bu kararları aldıklarına dair açıklamalar alabilecekler. Bu, giderek otomatikleşen bir dünyada insanlara daha fazla yetki vermeye yönelik önemli bir ilk adımdır. Ancak bu, vatandaşların yeterli düzeyde YZ okuryazarlığına sahip olmalarını ve algoritmik zararların nasıl gerçekleştiğinin farkında olmalarını gerektirecektir. Çoğu insan için bunlar hala çok yabancı ve soyut kavramlar.
- YZ şirketlerinin daha şeffaf olması gerekecek
YZ kullanımlarının çoğu, YZ Yasası ile uyumluluk gerektirmeyecektir. Yasa üç yıl içinde tamamen yürürlüğe girdiğinde, yalnızca kritik altyapı veya sağlık hizmetleri gibi “yüksek riskli” sektörlerde teknoloji geliştiren YZ şirketleri yeni yükümlülüklere sahip olacak. Bunlar arasında daha iyi veri yönetimi, insan gözetiminin sağlanması ve bu sistemlerin insanların haklarını nasıl etkileyeceğinin değerlendirilmesi yer alıyor.
Dil modelleri gibi “genel amaçlı YZ modelleri” geliştiren YZ şirketlerinin, modeli nasıl oluşturduklarını, telif hakkı yasasına nasıl saygı gösterdiklerini gösteren teknik belgeler oluşturmaları ve saklamaları ve YZ modelini eğitmek için hangi eğitim verilerinin kullanıldığına dair kamuya açık bir özet yayınlamaları gerekecektir.
Bu, teknoloji şirketlerinin modellerine giren veriler konusunda ketum davrandığı mevcut statükodan büyük bir değişikliktir ve YZ sektörünün dağınık veri yönetimi uygulamalarının elden geçirilmesini gerektirecektir.
GPT-4 ve Gemini gibi en güçlü YZ modellerine sahip şirketler, model değerlendirmeleri, risk değerlendirmeleri ve hafifletmeleri yapmak, siber güvenlik koruması sağlamak ve YZ sisteminin başarısız olduğu olayları bildirmek gibi daha zahmetli gerekliliklerle karşı karşıya kalacaklar. Uyum sağlamayan şirketler büyük para cezalarıyla karşı karşıya kalacak ya da ürünleri AB’den men edilebilecek.
Ayrıca, modelin mimarisi, parametreleri ve ağırlıkları da dahil olmak üzere modelin nasıl oluşturulduğuna dair her ayrıntıyı paylaşan ücretsiz açık kaynaklı YZ modellerinin YZ Yasası’nın birçok yükümlülüğünden muaf olduğunu da belirtmek gerekir.
Şimdi Algoritma’nın devamını okuyun
Daha Derin Öğrenme
Afrika’nın yapay zekayı düzenleme çabası şimdi başlıyor
Yapay zekanın benimsenmesinin Afrika ekonomisine sağlayacağı öngörülen fayda oldukça heyecan verici. Tahminler, Nijerya, Gana, Kenya ve Güney Afrika’daki işletmelerin daha fazla yapay zeka aracı kullanmaya başlaması halinde 2030 yılına kadar 136 milyar dolar değerinde ekonomik fayda sağlayabileceğini gösteriyor. Şimdi 55 üye ülkeden oluşan Afrika Birliği, gelişmekte olan bu teknolojinin nasıl geliştirileceğini ve düzenleneceğini çözmeye çalışıyor.
Bu kolay olmayacak: Afrika ülkeleri vatandaşlarını teknolojinin kötüye kullanımından korumak için kendi düzenleyici çerçevelerini geliştirmezse, bazı uzmanlar bu süreçte Afrikalıların zarar göreceğinden endişe ediyor. Ancak bu ülkeler aynı zamanda yapay zekanın faydalarından yararlanmanın bir yolunu bulamazlarsa, diğerleri ekonomilerinin geride kalabileceğinden korkuyor. (Abdullahi Tsanni’den daha fazlasını okuyun.)
Bitler ve Baytlar
Keçi Simülatörü oynayabilen bir yapay zeka, daha faydalı makinelere doğru atılmış bir adımdır
Google DeepMind’ın yeni bir yapay zeka ajanı, abartılı fiziğe sahip eğlenceli bir aksiyon oyunu olan Goat Simulator 3 gibi daha önce hiç görmediği oyunlar da dahil olmak üzere farklı oyunları oynayabiliyor. Bu, becerileri birden fazla ortama aktarabilen daha genelleştirilmiş bir yapay zekaya doğru atılmış bir adım. (MIT Technology Review)
Bu sürücüsüz girişim trafiği tahmin etmek için üretken yapay zeka kullanıyor
Waabi, yeni modelinin lidar verilerini kullanarak yayaların, kamyonların ve bisikletlilerin nasıl hareket edeceğini tahmin edebildiğini söylüyor. Modele, bir sürücünün yüksek hızda dikkatsizce otoyola çıkması gibi bir durum sorulduğunda, çevredeki araçların nasıl hareket edeceğini tahmin ediyor ve ardından 5 ila 10 saniye sonrasının lidar temsilini oluşturuyor (MIT Technology Review)
LLM’ler insan müdahalesi ile daha gizli ırkçı hale geliyor
ChatGPT gibi büyük dil modellerinin, üzerinde eğitildikleri milyonlarca internet sayfasından ırkçı görüşleri emdiği uzun zamandır biliniyor. Geliştiriciler bu duruma onları daha az zehirli hale getirmeye çalışarak yanıt verdiler. Ancak yeni araştırma, özellikle modeller büyüdükçe, bu çabaların yalnızca açık ırkçı görüşleri frenlediğini, daha gizli stereotiplerin güçlenmesine ve daha iyi gizlenmesine izin verdiğini öne sürüyor. (MIT Technology Review)
Sosyal medyada yaptığımız hataları yapay zeka konusunda da yapmayalım
Nathan E. Sanders ve Bruce Schneier, sosyal medyanın son on yıldaki düzensiz evriminin, doğrudan yapay zeka şirketleri ve teknolojileri için geçerli olan pek çok ders içerdiğini savunuyor. (MIT Technology Review)
OpenAI’nin CTO’su Mira Murati, Sora için eğitim verileri sorulduğunda beceriksizce cevap verdi
Wall Street Journal ile yapılan bu röportajda gazeteci Murati’ye OpenAI’nin yeni video üreten yapay zeka sistemi Sora’nın YouTube’daki videolar üzerinde eğitilip eğitilmediğini soruyor. Murati emin olmadığını söylüyor ki bu gerçekten bilmesi gereken birinden gelen utanç verici bir cevap. OpenAI, diğer yapay zeka modellerini eğitmek için kullanılan verilerle ilgili telif hakkı davalarıyla karşı karşıya kaldı ve bir sonraki yasal baş ağrısı video olursa şaşırmam. (Wall Street Journal)
Yapay zeka kıyamet tellalları arasında
Bu yazıdan gerçekten keyif aldım. Yazar Andrew Marantz, yapay zekanın insanlık için varoluşsal bir risk oluşturduğundan korkan insanlarla zaman geçirmiş ve onların derinliklerine inmeye çalışmış. Bu hikayedeki detaylar hem komik hem de ilgi çekici ve yapay zekanın zararları söz konusu olduğunda kimi dinlememiz gerektiğine dair soruları gündeme getiriyor. (The New Yorker)
*Bu yazı The AI Act is done. Here’s what will (and won’t) change başlıklı yazıdan çevrilmiştir.
