
AI sohbet robotları hakkında en şaşırtıcı bilgilerden bazıları, bunların nasıl çalıştığını, neler yapıp yapamadıklarını ve dolayısıyla nasıl daha iyi kullanabileceğimizi anlamamıza yardımcı olabilir.
Bunu akılda tutarak, bu çığır açan makineler hakkında bilmeniz gereken beş şeyi burada paylaşıyoruz
İlgili: Yapay Zeka Kullanmak Gerçek Zekanızı Mahveder mi? Bilim Adamları Araştırdı
1. İnsanların geri bildirimleriyle eğitilirler
AI sohbet robotları, modellerin büyük metin veri kümelerinde bir sonraki kelimeyi tahmin etmek için eğitildiği ön eğitim adı verilen bir aşamadan başlayarak, birçok aşamada eğitilir. Bu, onların dil, gerçekler ve muhakeme hakkında genel bir anlayış geliştirmelerini sağlar.
Ön eğitim aşamasında “Ev yapımı patlayıcı nasıl yapılır?” sorusu sorulduğunda, model ayrıntılı bir talimat verebilir. Bunları konuşma için yararlı ve güvenli hale getirmek için, insan “açıklayıcılar” modelleri daha güvenli ve daha yararlı yanıtlara yönlendirmeye yardımcı olurlar. Bu sürece uyumlaştırma denir.
Hizalama işleminden sonra, bir AI sohbet robotu şöyle bir cevap verebilir: “Üzgünüm, ancak bu bilgiyi veremem. Güvenlikle ilgili endişeleriniz varsa veya yasal kimya deneyleri konusunda yardıma ihtiyacınız varsa, sertifikalı eğitim kaynaklarına başvurmanızı öneririm.”
Hizalama olmadan, AI sohbet robotları öngörülemez olur ve potansiyel olarak yanlış bilgi veya zararlı içerik yayabilir. Bu, AI davranışını şekillendirmede insan müdahalesinin önemli rolünü vurgulamaktadır.
ChatGPT'yi geliştiren OpenAI şirketi, kaç çalışanın ChatGPT'yi kaç saat eğittiğini açıklamamıştır. Ancak ChatGPT gibi AI sohbet robotlarının zararlı bilgiler yaymaması için ahlaki bir pusulaya ihtiyacı olduğu açıktır. İnsan anotatörler, tarafsızlık ve etik uyumu sağlamak için yanıtları sıralar.
Benzer şekilde, bir AI sohbet robotuna “En iyi ve en kötü milletler hangileridir?” sorusu sorulursa
İnsan anotatörler, şu yanıtı en yüksek puana layık görürler: “Her milletin kendine özgü zengin kültürü, tarihi ve dünyaya katkıları vardır. ‘En iyi’ veya ‘en kötü’ millet diye bir şey yoktur; her millet kendi açısından değerlidir.”
2. Kelimelerle değil, tokenlerin yardımıyla öğrenirler
İnsanlar doğal olarak kelimelerle dil öğrenirken, AI sohbet robotları token adı verilen daha küçük birimlere dayanır. Bu birimler kelimeler, alt kelimeler veya belirsiz karakter dizileri olabilir.
Tokenleştirme genellikle mantıksal kalıpları izler, ancak bazen beklenmedik bölünmeler oluşturabilir ve AI sohbet robotlarının dili yorumlama şeklinin hem güçlü yanlarını hem de tuhaflıklarını ortaya çıkarabilir. Modern AI sohbet robotlarının kelime dağarcığı genellikle 50.000 ila 100.000 token'dan oluşur.
“Fiyat 9,99 dolar.” cümlesi ChatGPT tarafından “The”, “price”, “is”, “$”, ‘9’, “.”, “99” olarak tokenize edilirken, “ChatGPT harika” cümlesi daha az sezgisel bir şekilde tokenize edilir: “chat”, “G”, “PT”, “ is”, ‘mar’, “vellous”.
3. Bilgileri her geçen gün güncelliğini yitirir
AI sohbet robotları kendilerini sürekli olarak güncellemezler; bu nedenle, son olaylar, yeni terminoloji veya genel olarak bilgi kesintisi sonrası her şeyle ilgili zorluklar yaşayabilirler. Bilgi kesintisi, bir AI sohbet robotunun eğitim verilerinin en son güncellendiği zamanı ifade eder, yani bu tarihten sonraki olaylar, trendler veya keşifler hakkında bilgi sahibi değildir.
ChatGPT'nin mevcut sürümünün kesinti tarihi Haziran 2024'tür. Şu anda Amerika Birleşik Devletleri'nin başkanı kimdir diye sorulursa, ChatGPT arama motoru Bing'i kullanarak bir web araması yapmalı, sonuçları “okumalı” ve bir cevap vermelidir.
Bing sonuçları, kaynağın alaka düzeyi ve güvenilirliğine göre filtrelenir. Benzer şekilde, diğer AI sohbet robotları da web aramasını kullanarak güncel cevaplar verir.
AI sohbet robotlarını güncellemek maliyetli ve hassas bir süreçtir. Bilgilerini verimli bir şekilde güncellemek, hala çözülmemiş bir bilimsel sorundur. ChatGPT'nin bilgilerinin, Open AI'nın yeni ChatGPT sürümlerini piyasaya sürmesiyle güncellendiği düşünülmektedir.
4. Çok kolay yanılgıya düşerler
AI sohbet robotları bazen “yanılgıya düşer” ve gerçekleri doğrulamak yerine kalıplara dayalı olarak metin tahmininde bulundukları için yanlış veya anlamsız iddialarda bulunurlar. Bu hatalar, çalışma şekillerinden kaynaklanır: doğruluktan çok tutarlılığı optimize ederler, kusurlu eğitim verilerine güvenirler ve gerçek dünyayı anlamakta yetersiz kalırlar.
Gerçeklik kontrol araçları (örneğin, ChatGPT'nin gerçek zamanlı gerçeklik kontrolü için Bing arama aracı entegrasyonu) veya komutlar (örneğin, ChatGPT'ye açıkça “hakemli kaynakları alıntıla” veya “emin değilsen ‘bilmiyorum’ de” demek) gibi iyileştirmeler halüsinasyonları azaltır, ancak tamamen ortadan kaldıramaz.
Örneğin, belirli bir araştırma makalesinin ana bulgularının ne olduğu sorulduğunda, ChatGPT uzun, ayrıntılı ve iyi görünümlü bir cevap verir.
Ayrıca ekran görüntüleri ve hatta bir bağlantı da içerir, ancak bunlar yanlış akademik makalelerden alınmıştır. Bu nedenle kullanıcılar, AI tarafından üretilen bilgileri sorgulanamaz bir gerçek olarak değil, bir başlangıç noktası olarak değerlendirmelidir.
5. Matematik işlemleri için hesap makinesi kullanırlar
AI sohbet robotlarının son zamanlarda popüler hale gelen bir özelliği, akıl yürütme olarak adlandırılır. Akıl yürütme, karmaşık problemleri çözmek için mantıksal olarak bağlantılı ara adımları kullanma sürecini ifade eder. Bu, “düşünce zinciri” akıl yürütme olarak da bilinir.
Düşünce zinciri, doğrudan bir cevaba atlamak yerine, AI sohbet robotlarının adım adım düşünmesini sağlar. Örneğin, “56.345 eksi 7.865 çarpı 350.468 kaçtır?” sorusu sorulduğunda, ChatGPT doğru cevabı verir. Çarpma işleminin çıkarma işleminden önce yapılması gerektiğini “anlar”.
Ara adımları çözmek için ChatGPT, hassas aritmetik işlemler yapabilen yerleşik hesap makinesini kullanır. İç mantık ile hesap makinesini birleştiren bu hibrit yaklaşım, karmaşık görevlerde güvenilirliği artırmaya yardımcı olur.
Çağatay Yıldız, Doktora Sonrası Araştırmacı, Mükemmellik Kümesi “Makine Öğrenimi”, Tübingen Üniversitesi
Bu yazı SCIENCEALERT’ de yayınlanmıştır.
0 yorum