螞蟻集團副總裁、螞蟻金融大模型負責人王曉航

11月11日，2023金融街論壇年會“金融科技創新與合規安全”平行論壇在北京舉辦，螞蟻集團副總裁、螞蟻金融大模型負責人王曉航在發表 “跨越大模型金融產業落地鴻溝” 主旨演講時表示，大模型對金融產業的價值顯著，但通用大模型無法開箱即用，需要彌補許多不足之處，并在可靠性方面進行全周期加固。

1 大模型價值日漸凸顯，將重塑金融產業全鏈條

王曉航表示，規模化的產業技術變革和價值兌現不會一蹴而就，必然經歷階梯式的迭代向上過程。螞蟻作為普惠金融的踐行者，一直走在人工智能和金融結合的最前沿。

早在2013年，螞蟻推出了余額寶和小微金融等國民產品，為金融AI打開了巨大的價值空間。螞蟻首創的小微金融310模式，成功解決了小微長尾用戶的風險識別問題，展現了金融AI的普惠價值。

隨著AI技術逐漸深入各類金融場景，金融科技在2017年開始出現平臺模式。以“螞蟻財富”、“螞蟻?！焙汀熬W商銀行”為代表的數字金融平臺以開放姿態連接機構，通過科技賦能實現更豐富的金融供給和更深入的產業鏈。在這一階段，AI場景全面爆發，成為營銷、服務、投研、風管和資管各領域降本增效的關鍵手段。

到了2023年，大模型在金融產業的落地過程中展現出巨大的潛在價值，并具備以下三個重要特征：（1）能力深度，大模型憑借出色的語言和認知能力，在各種金融場景任務中不斷刷新前沿技術水平，并在許多高階任務中達到甚至超過人類專家水平；（2）迭代速度，大模型統一的算法架構降低了AI應用的復雜性，大幅加快了迭代速度；（3）創新寬度，大模型的專業知識生產和推理能力遠遠越出了上一代深度學習AI的擅長領域，推動了各類應用創新蓬勃出現，顯著提升用戶體驗和生產效率。

綜上所述，大模型已經展現出明確的產業價值：“金融服務鏈條上的每一個環節，都值得用大模型重做一次”。

2 不存在開箱即用，大模型落地金融產業是復雜系統工程

2.1 大模型落地金融產業挑戰

金融領域具有高度專業性、復雜的決策和極致的合規和可靠性要求。盡管大模型在能力方面取得了顯著進步，但在金融行業中無法直接應用，仍需克服領域知識、復雜決策和可靠性等三個方面的挑戰。

（1）首先，領域知識的短板。

通用大模型雖然能夠有效壓縮數萬億的世界知識，具備較強的通識能力，但金融通識相對薄弱，對金融原理的理解不夠深入，缺乏企業私域知識，并且無法實時更新和把握市場動態。例如，當用戶詢問“請推薦一只既能保本又能高收益的理財產品”時，大模型往往無法理解金融資產的“流動性、收益和風險”之間的不可能三角關系，也難以正確引導用戶。

（2）其次，復雜決策短板

通用大模型是個優秀的文科生，理解、溝通、推理能力強大，但是在復雜的專業問題上差強人意，無法勝任量化分析、資源運籌優化、精細化匹配這幾類問題。

（3）第三，可靠性不足

通用大模型除了眾所周知大模型幻覺與金融嚴謹性的沖突，也亟須有效識別金融業務常見的合規性陷阱，比如 用戶詢問“我怎么買這款信托產品”的背后，蘊藏了一個合格投資者判別問題。此外，大模型亦需要遵循金融企業的價值主張，如價值投資、風險平衡、科學配置等。

2.2 認知邊界，跨越邊界

在當前可得技術約束中，為了金融場景落地大模型順利補齊上述短板，除了對通用大模型注入金融通識和私域知識，還需要以系統工程解決方案，通過有效的技術組合，跨越鴻溝。

（1）“大模型+小模型”協作

大模型在感知、認知和交互領域具有顯著優勢。而各專業小模型專注于特定問題或任務，在特定領域（運籌、量化、圖算法）表現更為專精。在實際應用中，我們可以將大模型作為認知和交互的核心，而小模型則負責專業判斷和決策。通過大模型向小模型的任務分發，共同完成復雜的推理和決策工作。 

（2）“大模型隱性知識+圖譜顯性知識”互補

大模型通識覆蓋廣，但不夠嚴謹可靠，容易出現幻覺和答非所問現象。相比之下，圖譜顯性知識專業性和可靠性強，但生產維護成本較高。鑒于金融領域的頭部問題是收斂的，應用中可用圖譜覆蓋嚴謹性和價值雙高場景（比如主流保險產品的條款，核保核賠知識），大模型覆蓋低頻和長尾場景，以實現服務質量與服務成本的平衡。

（3）“Open QA+Closed QA”結合

需要嚴謹答案的很多問題，可以轉化為“檢索增強”問題：系統接到用戶問題，檢索返回專業內容，大模型基于檢索結果生成問題答案（Closed QA）。這就像讓大模型從專業書籍尋找答案，適用于財經問答、客服和投教問答等場景。而基于大規模的參數知識進行問答，能夠回答開放性問題（Open QA），適用于需要理解和推理的復雜問題。

2.2滿足可靠性，還需要全周期強化

大模型落地金融產業的主要挑戰是可靠性，涉及內容安全性、金融合規、科技倫理和金融價值觀等領域。雖然上述技術組合可以有效彌補大模型的不足，但在消費級金融應用方面仍有待提高。螞蟻在為數千萬消費者提供服務的過程中，積累了豐富的安全和合規技術，并基于此構建了一套全生命周期的可靠性加固技術，以確保大模型的訓練和推理過程的可靠性。

（1）離線訓練階段

數據治理是關鍵，需要“高大正”（ 高質量、大規模、價值觀正確）的數據。螞蟻通過模型和人工結合方式，從近2千億token中篩選出171億token優質金融語料，在源頭上保障大模型的學習質量和價值取向。

價值對齊亦至為關鍵，螞蟻建立了多達60萬以上的合規和價值對齊指令集，并配備了300多人的安全運營和標注團隊參與對齊工作。

（2）線上推理階段

螞蟻為金融大模型設立了專用安全圍欄：在請求和生成兩端都進行嚴密的風險判別和攔截，這個系統稱為蟻鑒，由數百個識別模型和數十萬判別規則組成。

檢索增強、圖譜增強：涉及到合規性、專業性要求高的內容，螞蟻金融大模型會優先Closed-QA，從可靠內容檢索尋找答案。

（3）持續攻防演練

螞蟻通過模型和人工結合方式，建立了數百萬負向樣本，在模型上線前后，持續自動化攻擊金融大模型可能的可靠性薄弱點，檢測安全能力。

經過上述加固，螞蟻金融大模型在可靠性各維度達到99%及以上的可靠性，媲美人工專家，具備了對消費者開放的可靠性要求。

3 螞蟻金融大模型實踐

王曉航在演講中強調人工智能是螞蟻金融科技的核心，并介紹了螞蟻金融大模型的實踐。

3.1螞蟻1+2技術布局

螞蟻自主開發了全棧技術體系，用于訓練金融大模型，并成功打造了代表性的AI原生應用 —— “支小寶”智能顧問（2C）和“支小助”智能業務助手（2B）。

金融大模型：擁有千億量級的金融通識知識、60萬+金融專屬指令集和320+金融專業工具；基于萬卡規模的異構算力，在金融“認知、生成、知識、決策、安全”維度優勢明顯。

支小寶：基于金融大模型，已經服務了超過4000萬用戶。它在金融領域能夠提供個性化的理財和保險服務，用戶意圖識別準確率達到95%。支小寶關聯著千萬級別的金融知識圖譜，具備媲美專家的市場研判和熱點解讀的能力。

支小助：作為金融服務鏈條上的智能業務助手，支小助顯著提高了金融顧問、投研、理賠、營銷和風控等專家的專業水平和服務效率。其中，“支小助顧問版”已經幫助理財顧問和保險代理人擴大了70%的服務半徑；“支小助投研版”助力金融分析師每天能夠提取超過100+篇研報的信息，將市場事件解讀的效率從每周10篇提升到每日超過400篇；“支小助理賠版”實現了醫療險理賠的全流程自動化，并創造了便捷的“秒賠”理賠體驗。

3.2 開源金融Agent框架

    為了更好地服務行業生態，助推行業智能化升級，螞蟻將開源金融大模型應用開發框架—— 金融大模型智能體（Agent）框架。該框架的核心優勢在于充分利用螞蟻金融大模型卓越的語言、金融認知和推理能力，提供了豐富的金融知識和專業工具，及知識增強和工具增強套件。并融入螞蟻對金融大模型落地實踐的經驗，通過金融大模型智能體框架，金融企業能夠更高效構建金融智能服務系統，提升用戶提升和生產效率。