以大模型為代表的新一代人工智能技術變革仍在加速迭代，為“新質生產力”的發展注入強勁動力， 助力產業智能化升級和經濟發展。大模型在產業端已經開始在任務簡單、容錯率高的場景得到廣泛地使 用，例如智能客服、文案生成等場景，但是在醫療疾病診斷、金融投資理財等任務復雜度高、容錯率低的 場景，大模型的規模化落地仍然遇到不少阻礙。為進一步釋放以大模型為核心的人工智能新技術范式生產 力，需要解決大模型的“可信應用”問題，支撐大模型在金融、醫療、政務等專業領域的深化應用。為此 本報告提出了面向專業領域的大模型可信應用框架，即大模型為核心的智能系統在面向金融、醫療、政務 等專業領域的應用中，為確保應用的專業性、可控性、真實性和安全性，應當如何構建系統的技術架構和 體系。

從技術實現來看，企業建設一體化的大模型可信應用框架目標是在大模型開發和應用的不同環節，施 加相應的技術保障手段，以提升落地應用的可信程度。目前主要手段包括提升數據供給質量、增強模型在 應用領域的專業能力、提高模型生成內容的可控可信、提升智能體推理的可信、使用圍欄工具和安全保障 措施、建立全面充分的評測體系、構建“反饋-迭代”的良性循環體系等手段，綜合實現大模型在專業領域 中的穩妥應用和持續深化拓展。從產業應用實踐來看，目前在金融、醫療、政務等行業中已有大模型應用 框架的落地實踐，提升了推理結果的準確專業真實性，并增強了推理過程的透明安全可控，提高了客戶對 于大模型應用的信賴程度。

展望未來，本報告中提出的大模型應用框架是推動大模型在產業中規模化落地應用釋放價值的初步探索，未來的產業化突破還需要從前沿技術創新探索、可信應用框架落地實施、行業治理體系搭建、產業生 態合作完善等多個維度統籌推進。我們期待產業上下游各方通力協作，共同推動大模型在產業中的規模化 可信應用落地，助力產業智能化升級。

附件：2024大模型行業可信應用框架研究報告-前沿技術創新探索、可信應用框架落地實施