專家：它提供的答案在準(zhǔn)確性、廣泛性方面還存在局限
(資料圖)
本報記者 趙覺珵
全班第一的論文是它寫出來的、89%的美國學(xué)生用它來完成作業(yè)、2個月內(nèi)超過1億用戶向它提問……最近一段時間，對話式人工智能（AI）機(jī)器人ChatGPT火遍全球，它以強(qiáng)大的語言處理能力、海量的數(shù)據(jù)積累等特點讓用戶感到驚訝甚至震撼。比爾·蓋茨稱贊，ChatGPT的誕生有著重大歷史意義，不亞于互聯(lián)網(wǎng)或個人電腦的誕生。在接受《環(huán)球時報》記者采訪時，多名業(yè)內(nèi)人士將ChatGPT的出現(xiàn)形容為“顛覆性”和“革命性”的，并預(yù)測其未來將有著更強(qiáng)大的能力，甚至可以取代一些基礎(chǔ)性職業(yè)。但他們也提到，ChatGPT仍存在內(nèi)容準(zhǔn)確性不足、無法進(jìn)行高級邏輯處理等局限，并且其在法律和倫理領(lǐng)域的潛在風(fēng)險正在不斷顯現(xiàn)。
“上知天文下知地理”是如何煉成的
ChatGPT由美國初創(chuàng)公司OpenAI開發(fā)，于去年11月底發(fā)布上線。上線短短5天，ChatGPT用戶量即超過百萬，兩個月后，月活用戶突破1億，是史上用戶增長速度最快的消費級應(yīng)用程序。ChatGPT的走紅也引發(fā)全球科技巨頭的入局，百度、谷歌等知名企業(yè)均宣布將推出類似服務(wù)。
之所以引發(fā)如此大規(guī)模的關(guān)注，很大程度上是因為ChatGPT展現(xiàn)出來的強(qiáng)大能力：它“上知天文下知地理”，幾乎可以回答任何知識類問題；它還可以處理復(fù)雜問題，包括撰寫代碼、解數(shù)學(xué)題、寫發(fā)言稿等。令很多用戶驚嘆的是，ChatGPT在模仿某人口吻、談?wù)撝饔^看法等感性問題的作答上也似乎處理得游刃有余，這就使得它比普通的人工智能機(jī)器人更加像“人”，與它的交流也更接近一場“人與人”的對話。
ChatGPT的基礎(chǔ)是OpenAI公司開發(fā)的生成型預(yù)訓(xùn)練變換模型GPT-3.5。根據(jù)ChatGPT在問答過程中對自身的介紹，它是一個自然語言處理模型，通過讀取大量文本內(nèi)容并學(xué)習(xí)語言知識和語法來實現(xiàn)對人類語言的理解和生成。
美國《華爾街日報》介紹稱，ChatGPT是根據(jù)從互聯(lián)網(wǎng)上搜羅的大量文章、網(wǎng)站和社交媒體帖子以及用戶與OpenAI雇用的人工雇員的實時英文對話進(jìn)行訓(xùn)練的。ChatGPT學(xué)著模仿寫作的語法和結(jié)構(gòu)，并使用常用語。
事實上，這也是ChatGPT的主要特征之一。某跨國互聯(lián)網(wǎng)企業(yè)工程師王澤對《環(huán)球時報》記者表示，ChatGPT引入了基于人類反饋的強(qiáng)化學(xué)習(xí)方式，大幅提升了AI在人機(jī)對話時的準(zhǔn)確度和可控性，具有強(qiáng)大的語言理解能力和語言表達(dá)能力。
浙江大學(xué)國際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任盤和林也向《環(huán)球時報》分析，ChatGPT是通過和AI訓(xùn)練員對話來提升自己的自然語言處理能力的，尤其是提高回答的邏輯性，ChatGPT最大的特點就是會承認(rèn)自己的局限性，通過人類對話細(xì)節(jié)給出人類可能想要的答案。未來ChatGPT的數(shù)據(jù)積累會越來越大，能夠應(yīng)對的事情也越來越多。
具有哪些技術(shù)突破
輸入問題，得到回答，人機(jī)對話的交流模式并不是新鮮事物，但ChatGPT卻依靠先進(jìn)的模型、龐大的算力和海量的數(shù)據(jù)，向用戶展示了一種不同的圖景。據(jù)外媒報道，GPT-3.5的升級版GPT-4有望于近期發(fā)布，業(yè)界甚至傳出該模型可以通過“圖靈測試”的說法。
新智元創(chuàng)始人楊靜在接受《環(huán)球時報》記者采訪時稱，ChatGPT是自然語言處理（NLP）的新突破，是將算法、算力和數(shù)據(jù)結(jié)合產(chǎn)生的強(qiáng)大AI引擎，是“顛覆性”的。王澤也認(rèn)為，ChatGPT是一個AI由量變向質(zhì)變發(fā)展的開端。
楊靜表示，此前的聊天機(jī)器人大多只能進(jìn)行單輪、一次性的對話，而且普通的客服機(jī)器人只會給予固定答復(fù)。而ChatGPT通過模型和大規(guī)模的語料訓(xùn)練，可以實現(xiàn)與用戶的多輪對話，不僅能理解上下文，也可以根據(jù)用戶特征不斷適應(yīng)新的需求。楊靜認(rèn)為，ChatGPT的背后是人類語言的龐大知識庫，而它本身則是一個輸出窗口。
盤和林對《環(huán)球時報》記者表示，ChatGPT作為AI的問答邏輯和性能非常優(yōu)秀，證明AI已經(jīng)擺脫了玩具定位，逐漸成為一款有用的工具。和之前技術(shù)的不同點在于，ChatGPT是一個大模型，其對上下文語義的理解比其他AI算法更強(qiáng)，且數(shù)據(jù)積累速度比其他AI更快，具備成長性和可用性。
另一名人工智能領(lǐng)域?qū)＜乙矊Α董h(huán)球時報》表示，相對于此前偏娛樂性質(zhì)的人工智能機(jī)器人，ChatGPT能更好地理解對話語境，輸出的文本不僅質(zhì)量更高，而且更符合語言邏輯與人類價值觀，擁有更強(qiáng)實用性和更廣闊的應(yīng)用場景。
IDC中國研究總監(jiān)盧言霞告訴《環(huán)球時報》記者，ChatGPT不是唯一的語言模型。OpenAI自2020年6月發(fā)布GPT-3模型，在自然語言處理領(lǐng)域被業(yè)界廣泛采用，同時也掀起預(yù)訓(xùn)練模型、大模型的浪潮。全球主流人工智能廠商都發(fā)布了相應(yīng)的大模型。
但接受記者采訪的專家普遍認(rèn)為，雖然ChatGPT在技術(shù)層面沒有革命性的突破，但其在算法上的先進(jìn)性、長期大規(guī)模數(shù)據(jù)訓(xùn)練的積累以及投入的強(qiáng)大算力，都是短時內(nèi)難以復(fù)制和超越的。
將成“互聯(lián)網(wǎng)傳播錯誤信息的最強(qiáng)大工具”？
但ChatGPT距離“完美”依然有著不小的距離，用戶反映最多的問題是它經(jīng)常“一本正經(jīng)地胡說八道”。《華爾街日報》稱，AI聊天機(jī)器人和其他生成式AI程序能夠像鏡子一樣反映“投喂給”它們的數(shù)據(jù)。它們對這些數(shù)據(jù)進(jìn)行“反芻”并將其重新混合，有時結(jié)果令人驚艷，有時則一塌糊涂。
報道稱，ChatGPT有時能正確回答一些問題，因為對于這類話題“攝入”了高質(zhì)量的信息來源，并經(jīng)常與人類訓(xùn)練員對話。而對于互聯(lián)網(wǎng)上含有大量錯誤信息的話題，以及非英語語言，比如中文，它有時就會胡言亂語。事實上，ChatGPT自己也強(qiáng)調(diào)，“盡管我可以生成大量的信息，但我不是一個絕對可靠的信息來源，并且我的答案有時可能不準(zhǔn)確或不完整。”
據(jù)《紐約時報》8日報道，美國新聞可信度評估與研究機(jī)構(gòu)NewsGuard對ChatGPT進(jìn)行了測試，虛假信息的研究人員向ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問題，發(fā)現(xiàn)它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻無信源的內(nèi)容。NewsGuard聯(lián)合首席執(zhí)行官克羅維茨形容稱，ChatGPT將成為互聯(lián)網(wǎng)傳播錯誤信息的最強(qiáng)大工具。
此外，《環(huán)球時報》記者在使用ChatGPT時發(fā)現(xiàn)，其學(xué)習(xí)的數(shù)據(jù)截止到2021年，因此對于2022年及之后發(fā)生的事情難以進(jìn)行準(zhǔn)確回答。王澤表示，ChatGPT本身不具有和人一樣的創(chuàng)新能力，它的能力來源于大規(guī)模學(xué)習(xí)而不是算法的革新。這也是ChatGPT的局限之一，即只能提供接受過訓(xùn)練的信息，無法準(zhǔn)確回答訓(xùn)練數(shù)據(jù)之外的問題。
盧言霞對《環(huán)球時報》記者表示，ChatGPT所提供的答案在準(zhǔn)確性、廣泛性方面仍存在局限，因此現(xiàn)階段無法直接用于企業(yè)特定的場景中以替代之前的AI應(yīng)用，短期不可能徹底顛覆搜索市場，也很難改變?nèi)斯ぶ悄苁袌龈窬帧！?/p>
關(guān)鍵詞： 環(huán)球時報 人工智能 自然語言處理 錯誤信息
責(zé)任編輯：Rex_10
