Hallucination
Hallucination అనేది language model నుండి వచ్చే confident కానీ unsupported లేదా fabricated output - వినడానికి plausible గా ఉన్నా provided evidence లేదా reality లో ఆధారం లేని claim. Knowledge work automation లో hallucinations ప్రధాన risk; cited evidence తో grounding ప్రధాన mitigation.
పర్యాయపదాలు: AI hallucination, fabrication, confabulation, ungrounded output
Hallucination అనేది fluency truth కంటే ముందుకు దూసుకెళ్లినప్పుడు జరిగేది. Model plausible continuations కోసం optimize అవుతుంది కాబట్టి నిజంగా లేని specific names, numbers, citations కూడా produce చేయగలదు. Low-stakes drafting లో ఇది nuisance; governed work automation లో decision ను తప్పుదోవ పట్టించగల లేదా wrong action trigger చేయగల hard failure. Defenses architectural: real evidence retrieve చేయాలి, generation ను దానికి constrain చేయాలి, citations జతచేయాలి, evidence answer ను support చేయనప్పుడు decline లేదా escalate చేసే explicit path design చేయాలి.