電網(wǎng)領(lǐng)域也需有效應(yīng)對人工智能“幻覺”

　　當前，人工智能迅猛發(fā)展，其應(yīng)用范圍已滲透至社會生產(chǎn)與生活的各個領(lǐng)域。然而，人們在享受人工智能帶來的高效便捷體驗的同時，也難逃人工智能“幻覺”的困擾。這里的“幻覺”，指的是人工智能生成的看似合理但實際不準確或虛假的信息。

　　在電網(wǎng)領(lǐng)域，人工智能的應(yīng)用越來越廣泛、深入，其固有的“幻覺”現(xiàn)象可能給電網(wǎng)企業(yè)帶來風險與挑戰(zhàn)，是電網(wǎng)數(shù)字化、智能化發(fā)展進程中不容忽視的問題。

　　何為人工智能“幻覺”

　　人工智能大模型有時會編造一些并不存在的細節(jié)，生成與事實相悖的答案，給出一些并不準確的鏈接……這些現(xiàn)象都可以歸為人工智能“幻覺”。

　　人工智能“幻覺”主要發(fā)生在生成式人工智能大模型中，是指模型在輸出過程中生成看似合理、邏輯通順，但與客觀事實不一致的內(nèi)容，就像人類在認知過程中出現(xiàn)錯覺、虛構(gòu)記憶一樣。一項調(diào)研顯示，對于“公眾認為使用人工智能過程中有哪些突出問題”，反饋最多的是“內(nèi)容不準確，或含虛假信息”，占比高達42.2%。

　　值得注意的是，“幻覺率”并非越低越好，模型需要在準確性、創(chuàng)造性與應(yīng)用場景之間進行權(quán)衡。高“幻覺”模型在開放性任務(wù)中會展現(xiàn)出更強的推理能力，但容易產(chǎn)生錯誤事實;低“幻覺”模型則更依賴訓練數(shù)據(jù)，靈活性受限。

　　人工智能會產(chǎn)生“幻覺”

　　源于數(shù)據(jù)、算法與環(huán)境等多重因素

　　生成式人工智能的工作原理類似于“成語接龍”游戲，模型通過預(yù)測下一個詞語的概率分布來生成輸出內(nèi)容。人工智能“幻覺”的產(chǎn)生并非單一因素所致，而是數(shù)據(jù)基礎(chǔ)、算法機制與交互環(huán)境等多重因素交織作用的結(jié)果。

　　模型的學習過程高度依賴訓練數(shù)據(jù)，而數(shù)據(jù)本身的質(zhì)量、完整性與準確性直接決定了模型的輸出結(jié)果。數(shù)據(jù)缺陷是導致人工智能“幻覺”的重要原因之一。如果訓練數(shù)據(jù)中存在錯誤、片面或未發(fā)布的內(nèi)容，模型就可能在學習過程中建立起錯誤的關(guān)聯(lián)。例如，某模型基于尚未正式發(fā)布的行業(yè)標準進行訓練，輸出的內(nèi)容就可能與現(xiàn)行規(guī)范不符。知識固化也是人工智能“幻覺”的誘因之一。部分模型過度依賴參數(shù)化記憶，缺乏動態(tài)更新能力，在面對訓練數(shù)據(jù)之外的新問題時，往往無法準確應(yīng)答。例如，某模型僅基于2024年之前的數(shù)據(jù)進行訓練，那么在面對2024年之后的事件時，可能會虛構(gòu)信息來填補“知識空白”。

　　盡管模型具備強大的文本生成能力，但其算法機制仍有局限性，在一定程度上加劇了“幻覺”的產(chǎn)生。長文本處理不足可能使模型過于關(guān)注局部詞句而忽視整體邏輯結(jié)構(gòu)，陷入“只見樹木不見森林”的困境，導致生成的內(nèi)容前后矛盾、邏輯混亂。數(shù)據(jù)壓縮與信息丟失也是關(guān)鍵問題。為提升處理效率，模型在處理海量數(shù)據(jù)時通常會壓縮，舍棄看似冗余的細節(jié)信息，而這一過程可能導致關(guān)鍵信息丟失。為填補這些“空白”，模型可能會虛構(gòu)內(nèi)容來“自圓其說”。同時，目前大多數(shù)模型缺乏對生成內(nèi)容真實性的驗證機制，錯誤信息可能在生成過程中不斷被合理化，最終導致“幻覺”的產(chǎn)生。

　　模型的輸出內(nèi)容不僅取決于其內(nèi)部機制，還深受用戶輸入的影響。在實際應(yīng)用中，環(huán)境因素往往成為人工智能“幻覺”的“放大器”。用戶提問模糊、提示不清或邏輯矛盾的情況下，模型難以準確理解用戶意圖，可能會“自由發(fā)揮”，生成偏離實際需求的內(nèi)容。在多輪對話中，偏差的累積放大現(xiàn)象尤為明顯。某一環(huán)節(jié)生成的內(nèi)容存在偏差，后續(xù)生成的內(nèi)容可能會基于這一錯誤進行推理，最終使輸出內(nèi)容與事實嚴重偏離。

　　面對人工智能“幻覺”

　　需從數(shù)據(jù)、技術(shù)、管理、人才等方面發(fā)力

　　面對人工智能“幻覺”帶來的潛在風險，電網(wǎng)企業(yè)需采取系統(tǒng)性、多層次的應(yīng)對策略，構(gòu)筑起堅實的安全防線。

　　優(yōu)化數(shù)據(jù)治理。通過構(gòu)建電力專業(yè)語料庫，持續(xù)更新技術(shù)標準、行業(yè)規(guī)范及最新研究成果、實踐案例等專項數(shù)據(jù)，提升數(shù)據(jù)的行業(yè)針對性和時效性。強化數(shù)據(jù)清洗與標注，引入機器學習算法，全面提升數(shù)據(jù)質(zhì)量。加強多源數(shù)據(jù)融合校驗，整合傳感器數(shù)據(jù)、設(shè)備圖像、運維文本等多模態(tài)信息，通過交叉驗證機制降低單一數(shù)據(jù)源偏差影響。建立全生命周期數(shù)據(jù)追溯體系，實現(xiàn)從數(shù)據(jù)采集、模型訓練到模型迭代全程可控、可追溯。

　　創(chuàng)新模型架構(gòu)。調(diào)整模型參數(shù)，降低隨機性，通過設(shè)置關(guān)鍵參數(shù)，明確要求模型“僅基于已有知識回答，如不知道請明確說明”，減少編造傾向。引入檢索增強生成技術(shù)，將電力規(guī)程、設(shè)備參數(shù)、運行經(jīng)驗等專業(yè)知識嵌入模型推理過程，進一步約束模型生成邊界，提升模型的準確性和專業(yè)性。開啟思維鏈模式，讓模型展示推理步驟和邏輯過程，便于發(fā)現(xiàn)并糾正潛在的邏輯跳躍或事實錯誤。構(gòu)建“大模型+小模型”混合架構(gòu)，根據(jù)業(yè)務(wù)場景靈活調(diào)整功能分配，實現(xiàn)語義理解和精準計算的高效協(xié)同。

　　健全體制機制。在應(yīng)用人工智能過程中，優(yōu)化雙軌驗證制度，明確人工經(jīng)驗驗證和人工智能推理校驗流程。針對電網(wǎng)調(diào)度、故障診斷等關(guān)鍵場景，合理設(shè)置人工復核節(jié)點，形成更高效、更可靠的人機協(xié)作模式。優(yōu)先選取中低風險場景開展人工智能試點應(yīng)用，待技術(shù)成熟后逐步推廣。

　　提升員工素養(yǎng)。提升員工核查事實的技能，組織員工參與人工智能項目開發(fā)實施，通過模擬演練提高實戰(zhàn)能力。推廣多源比對驗證方法，引導員工利用不同人工智能工具對同一問題提問，比對答案差異識別潛在“幻覺”。搭建人工智能應(yīng)用最佳實踐共享平臺，促進跨部門、跨單位溝通合作，推動企業(yè)人工智能應(yīng)用整體水平提升。(作者：趙三珊 華珉 單位：國網(wǎng)上海市電力公司電力科學研究院)