【ITBEAR】近日，美聯(lián)社披露了一則關(guān)于OpenAI的Whisper轉(zhuǎn)錄技術(shù)引發(fā)廣泛關(guān)注的報道。軟件工程師、開發(fā)人員及學術(shù)研究人員紛紛對該技術(shù)的準確性表示深切憂慮，指出其存在嚴重的“幻覺”問題。
據(jù)悉，盡管生成式人工智能的編造傾向一直備受討論，但Whisper在轉(zhuǎn)錄過程中竟也頻繁出現(xiàn)此類問題，令人詫異。研究人員發(fā)現(xiàn)，Whisper的轉(zhuǎn)錄結(jié)果中常常混入與原始音頻無關(guān)的內(nèi)容，如種族評論和虛構(gòu)的醫(yī)療治療等。
特別是在醫(yī)療環(huán)境中，Whisper的錯誤轉(zhuǎn)錄可能帶來嚴重后果。密歇根大學的研究人員在公開會議中發(fā)現(xiàn)，高達80%的音頻轉(zhuǎn)錄存在幻覺問題。另一名機器學習工程師在研究了超過100個小時的Whisper轉(zhuǎn)錄后，也發(fā)現(xiàn)了類似的問題。
一名開發(fā)人員報告稱，在使用Whisper創(chuàng)建的26,000份轉(zhuǎn)錄中，幾乎每一份都出現(xiàn)了幻覺。對此，OpenAI發(fā)言人表示，公司正致力于提高模型的準確性，并明確指出其使用政策禁止在高風險決策環(huán)境中使用Whisper。
