Ev yapımı sohbet robotunuz, verilerinizi riske atmadan kendi dosyalarınızı kullanarak yanıtları çekebilir.
Nvidia, özel verilerinizin gizli kalmasını sağlarken, sorularınıza yanıt bulmak için bilgisayarınızda hızla arama yapan özel bir sohbet robotu oluşturmak için kullanabileceğiniz ücretsiz bir araç yayınladı.
Zorluk: Büyük dil modelleri (LLM’ler) tonlarca veriyi “okuyarak” doğal dilde yazılmış metinleri anlamayı ve oluşturmayı öğrenir. Örneğin OpenAI’nin ChatGPT’sinin arkasındaki LLM, diğer kaynakların yanı sıra internetten alınan metinler üzerinde eğitilmiştir.
Bir LLM’nin “bilgisi” eğitim verilerinde yer alan içerikle sınırlı olduğundan, orijinal ChatGPT eğitim verilerinin son tarihinden (Ocak 2022) sonra gerçekleşen herhangi bir şey hakkında yetkili olarak konuşamazdı.
Özel bir sohbet robotu: Dünyanın en büyük üçüncü teknoloji şirketi olan Nvidia, Meta’nın Llama’sı gibi açık kaynaklı bir LLM’yi metin dosyaları ve videolarla kolayca özelleştirmenizi sağlayan Chat with RTX adlı bir aracın ücretsiz demosunu yayınladı.
Örneğin, özel sohbet robotunuza bilgisayarınızdaki PDF’lerden oluşan bir klasöre erişim verebilir ve ardından ona içerikleriyle ilgili sorular sorabilirsiniz. Bir YouTube oynatma listesine bağlantı verirseniz, kliplerle ilgili sorularınıza yanıt bulmak için videoların transkriptlerini tarayabilir.
ChatGPT ile bunu bir dereceye kadar kopyalayabilirsiniz – örneğin, kişisel bir dosyadaki metni kopyalayıp bir sohbete yapıştırarak bununla ilgili sorular sorabilirsiniz – bu yapay zeka tüm işlemlerini bulutta yapar, yani birinin bilgilere erişmesi riskini alırsınız.
Bunun yanı sıra, bulut tabanlı yapay zekaların genellikle herhangi bir zamanda ne kadar veri isteyebileceğiniz konusunda katı sınırları vardır, bu nedenle uzun bir PDF dosyası bile okuması için çok uzun olabilir.
RTX ile sohbet farklıdır. Ücretsizdir, bu nedenle bir aboneliğe ihtiyacınız yoktur ve doğrudan Windows PC’nizde çalışır. Bu sadece gizliliğinizi korumakla kalmaz, aynı zamanda meşgul sunuculara bağlı olmadığınız için potansiyel olarak daha hızlı yanıtlar almanızı sağlayabilir.
Soğuk su: RTX ile sohbet herhangi bir bilgisayarda çalışamaz. Sisteminizin Nvidia’nın donanım gereksinimlerini karşılaması gerekir: “En az 8 GB VRAM’e sahip GeForce RTX 30 Serisi GPU veya daha yüksek bir GPU’ya ek olarak RTX ile Sohbet için Windows 10 veya 11 ve en son NVIDIA GPU sürücüleri gerekir.”
İlk incelemeler aracın hala biraz hatalı olduğunu gösteriyor.
Bir yorumcu özel sohbet robotuna bir video bağlantısı verdiğinde, farklı bir video için bir transkript indirdi ve başka bir incelemede, bir soruyu doğru cevapladı, ancak cevabı için yanlış kaynağı gösterdi. Yine de ücretsiz bir demoda kusurlar beklenebilir.
Büyük resim: Nvidia halihazırda yapay zeka devriminde önemli bir oyuncu. Şubat 2023 itibariyle, sohbet robotlarını eğitmek ve dağıtmak için gereken grafik kartlarının %95’ini üretti ve son zamanlarda, yerel olarak üretken yapay zekaları çalıştırmak için özel olarak tasarlanmış donanımlar geliştiriyor ve piyasaya sürüyor.
Üretken yapay zeka yazılımı yayınlamış olsa da, bu yazılım kurumsal müşterilere yönelikti. Nvidia, Chat’i gelecek sürümlerde RTX ile geliştirmeye devam ederse, daha güvenli, daha hızlı ve daha ucuz bir yapay zeka arayan bireyler için oldukça çekici olabilir.
*Bu yazı Nvidia’s free tool lets you create your own chatbot right on your PC başlıklı yazıdan çevrilmiştir.
