蓋世汽車訊 大型語言模型（LLM）是基于人工智能的先進(jìn)對話系統(tǒng)，可以回答用戶查詢并按照人類指令生成文本。OpenAI開發(fā)的高性能模型ChatGPT出現(xiàn)后，這些模型變得越來越受歡迎，并且越來越多的公司開始投資并開發(fā)。

盡管承諾實(shí)時回答人類問題并為特定目的創(chuàng)建文本，但LLM有時會生成無意義、不準(zhǔn)確或不相關(guān)的文本，這些文本與人類用戶提供給他們的提示不同。這種現(xiàn)象通常與用于訓(xùn)練模型的數(shù)據(jù)的局限性或其潛在推理中的錯誤有關(guān)，被稱為LLM“幻覺”。

據(jù)外媒報(bào)道，伊利諾伊大學(xué)厄巴納-香檳分校（University of Illinois Urbana-Champaign）研究人員最近推出一個用于檢測LLM生成文本中的幻覺的框架KnowHalu。據(jù)悉，相關(guān)論文已上傳在arXiv網(wǎng)站，介紹稱可以幫助提高這些模型的可靠性，并簡化完成各種文本生成任務(wù)的使用。

圖片來源：arXiv網(wǎng)站

“隨著LLM的不斷進(jìn)步，幻覺成為阻礙其在現(xiàn)實(shí)世界更廣泛應(yīng)用的一個關(guān)鍵障礙，”該項(xiàng)目顧問Bo Li表示?！氨M管大量研究已經(jīng)解決了LLM的幻覺，但現(xiàn)有的方法往往無法有效利用現(xiàn)實(shí)世界的知識或利用效率低下。受這一差距的啟發(fā)，我們?yōu)長LM開發(fā)了一種新穎的多形式基于知識的幻覺檢測框架。此外，我們還發(fā)現(xiàn)，當(dāng)前有關(guān)非制造幻覺的研究存在差距：事實(shí)正確但與查詢無關(guān)或不特定的響應(yīng)”。”

返回第一電動網(wǎng)首頁 >