رفتن به محتوا
واژه‌نامه

Grounding

Grounding یعنی محدود کردن خروجی مدل AI به شواهد source قابل راستی‌آزمایی، نه حافظه پارامتری آن. پاسخ grounded با passageهای بازیابی‌شده‌ای پشتیبانی می‌شود که قابل cite و check هستند و دفاع اصلی در برابر پاسخ‌های fabricated یا با اعتمادبه‌نفس اما wrong است.

مترادف‌ها: grounded AI, evidence grounding, source grounding, factual grounding

Grounding یک مدل generative را از حدس‌زن خوش‌صدا به answer engine پاسخ‌گو تبدیل می‌کند. با خوراندن evidence بازیابی‌شده به مدل و الزام خروجی به citation همان evidence، grounding پاسخ‌ها را به sourceهای واقعی و current که بازبین می‌تواند inspect کند متصل نگه می‌دارد. این discipline فراتر از prompt است: کیفیت retrieval، tracking citation و fallback path برای evidence گمشده همگی نقش دارند. grounding قوی همان چیزی است که پاسخ خودکار را آن‌قدر قابل اعتماد می‌کند که یک request را resolve یا یک action govern شده را trigger کند.

پرسش‌های پرتکرار

در عمل grounding چگونه enforce می‌شود؟
Retrieval فقط passageهای source مرتبط را به مدل می‌دهد، prompt از مدل می‌خواهد از همان evidence پاسخ دهد، و مرحله verification claimهایی را که citation پشتیبان ندارند رد می‌کند.
وقتی evidence برای grounding وجود ندارد چه می‌شود؟
یک سامانه grounded خوب طراحی‌شده به‌جای invent کردن پاسخ، decline می‌کند یا به انسان escalate می‌کند و به‌جای حدس مطمئن، gap صریح را نشان می‌دهد.