Hallucination
Hallucination என்பது language model இலிருந்து வரும் confident ஆனால் unsupported அல்லது fabricated output - கேட்க plausible ஆக இருந்தாலும் provided evidence அல்லது reality இல் ஆதாரம் இல்லாத claim. Knowledge work automation இல் hallucinations மைய risk; cited evidence உடன் grounding முதன்மை mitigation.
இணைச்சொற்கள்: AI hallucination, fabrication, confabulation, ungrounded output
Hallucination என்பது fluency உண்மையை விட முன்னேறும்போது நடப்பது. Model plausible continuations க்காக optimize ஆகுவதால் உண்மையில் இல்லாத specific names, numbers, citations கூட produce செய்யக்கூடும். Low-stakes drafting இல் இது nuisance; governed work automation இல் இது decision ஐ தவறாக வழிநடத்தவோ wrong action trigger செய்யவோ கூடிய hard failure. Defenses architectural: real evidence retrieve செய், generation ஐ அதற்கு constrain செய், citations இணை, evidence answer ஐ support செய்யாதபோது decline அல்லது escalate செய்ய explicit path வடிவமை.