Kamusi

Hallucination

Hallucination ni matokeo ya language model yanayojiamini lakini hayana ushahidi au yamebuniwa - dai linalosikika linawezekana lakini halina msingi katika ushahidi uliotolewa au uhalisia. Hallucinations ni hatari kuu katika ku-automate knowledge work, na grounding kwa ushahidi ulionukuliwa ndiyo njia kuu ya kupunguza hatari hiyo.

Visawe: AI hallucination, fabrication, confabulation, ungrounded output

Hallucination hutokea pale ufasaha unapozidi ukweli. Kwa kuwa model huboresha mwendelezo unaoonekana unawezekana, inaweza kutoa majina, nambari, au citations mahususi ambazo hazikuwahi kuwa halisi. Katika uandishi usio na hatari kubwa hili ni kero; katika otomatiki ya kazi inayotawaliwa ni hitilafu nzito inayoweza kupotosha uamuzi au kuchochea kitendo kibaya. Ulinzi ni wa usanifu: rejesha ushahidi halisi, zuia generation ibaki kwenye ushahidi huo, ambatanisha citations, na tengeneza njia wazi ya kukataa au kupandisha suala pale ushahidi hauungi mkono jibu.

Kwa nini language models huhallucinate?

Models hutabiri maandishi yanayowezekana, si ukweli uliothibitishwa. Bila ushahidi uliorejeshwa unaozizuia, hujaza mapengo kwa kauli zinazowezekana kitakwimu lakini hazijathibitishwa.

Unawezaje kupunguza hallucination?

Ground majibu kwenye vyanzo vilivyorejeshwa, dai citations, thibitisha madai dhidi ya ushahidi, na elekeza visa vya confidence ndogo au visivyo na msaada kwa mtu badala ya kurudisha makadirio.

Maneno yanayohusiana

Anza bila malipo Zungumza na mauzo

Vinjari maneno yote ya kamusi

Maswali yanayoulizwa mara kwa mara

Maneno yanayohusiana