【LLM大型語言模型】 淺談生成式AI的缺陷

 





圖片來源

雖然ChatGPT這種基於大型語言模型(LLM)的助手， 在大部分的場景都能滿足我們的需求， 但也並非完美， 在使用時仍需注意一些隱患。

以下是LLM的一些缺陷及需要注意的點。

弱弱的數學造成明顯錯誤







過份樂觀帶來錯誤資訊

相信常常使用ChatGPT的朋友應該都有發現到， 不論我們怎麼提問， ChatGPT都能給我們答案， 而這些答案事實上未必精確， 甚至無從查證。

胡思亂想導致偏差

為什麼LLM總能給我們答案呢？ 主要是這種生成式的大型語言模型會基於訓練資料進行統計， 得出機率較大的路徑， 但所謂的機率較大並非正確事實， 也有機率給出錯誤的方向， 才會有胡思亂想的發生， 因為我們期望回答A， 但它未必與我們的理解一致， 因此可能給出答案B並添加於A之上， 導致胡思亂想的狀況發生。

偏見引發歧視

即使有安全防護措施，他們有時也會生成性別歧視／種族歧視／同性戀歧視的內容， 開發面對消費者的應用時務必非常小心， 否則造成負面觀感將導致不可收拾的後果。

結語

一開始我們總被LLM的亮點給吸引了， 卻忽略掉背後的缺陷， 而這些缺陷可能在不知不覺中傷害的他人， 因此我們不能完全相信LLM的回答， 而是必須要有自己的獨立思考能力。

底下是幾個相關的主題: ● 【時事觀點】 LLM大型語言的幻覺可助長惡意套件散布 ● Avoiding hallucinations in LLM ● AI才是真正的「理中客」？大哉問解答，人工智慧如何思考電動車環保與燃油車消滅的難題？(OpenAI, GTP-3, chatGPT)