Заземление
Заземление — это практика ограничения вывода ИИ-модели проверяемыми свидетельствами из источников, а не её параметрической памятью. Заземлённый ответ подкреплён извлечёнными фрагментами, которые можно процитировать и проверить, что является основной защитой от сфабрикованных или уверенно ошибочных ответов.
Синонимы: grounded AI, evidence grounding, source grounding, factual grounding
Заземление превращает генеративную модель из правдоподобно звучащего угадывателя в подотчётный ответный движок. Подавая модели извлечённое свидетельство и требуя, чтобы её вывод цитировал это свидетельство, заземление удерживает ответы привязанными к реальным, актуальным источникам, которые проверяющий может инспектировать. Эта дисциплина простирается за пределы промпта: качество извлечения, отслеживание цитат и резервный путь при отсутствии свидетельства — всё это вносит вклад. Сильное заземление — это то, что делает автоматизированный ответ достаточно надёжным, чтобы разрешить запрос или запустить управляемое действие.