İçeriğe atla
Sözlük

Temellendirme

Temellendirme, bir AI modelinin çıktısını parametrik belleği yerine doğrulanabilir kaynak kanıtına kısıtlama pratiğidir. Temellendirilmiş bir yanıt, alıntılanıp denetlenebilen geri getirilmiş pasajlarca desteklenir; bu da uydurulmuş veya kendinden emin biçimde yanlış yanıtlara karşı birincil savunmadır.

Eşanlamlılar: grounded AI, evidence grounding, source grounding, factual grounding

Temellendirme, üretken bir modeli akla yatkın görünen bir tahminciden hesap verebilir bir yanıt motoruna dönüştürür. Modeli geri getirilmiş kanıtla besleyip çıktısının o kanıtı alıntılamasını gerektirerek, temellendirme yanıtları bir gözden geçirenin inceleyebileceği gerçek, güncel kaynaklara bağlı tutar. Bu disiplin istemin ötesine uzanır: geri getirme kalitesi, alıntı izleme ve eksik kanıt için bir geri dönüş yolu hepsi katkı sağlar. Güçlü temellendirme, otomatik bir yanıtı bir isteği çözecek veya yönetişimli bir eylemi tetikleyecek kadar güvenilir kılan şeydir.

Sıkça sorulan sorular

Temellendirme pratikte nasıl uygulanır?
Geri getirme modele yalnızca ilgili kaynak pasajları sağlar, istem ona o kanıttan yanıt vermesini söyler ve bir doğrulama adımı destekleyici alıntısı olmayan iddiaları reddeder.
Temellendirecek kanıt olmadığında ne olur?
İyi tasarlanmış temellendirilmiş bir sistem, bir yanıt uydurmak yerine yanıt vermeyi reddeder veya bir kişiye yükseltir; kendinden emin bir tahmin yerine açık bir boşluğu yüzeye çıkarır.