AI大模型在券商業(yè)務中的場景應用大有可為，但券商大規(guī)模使用AI大模型仍面臨數(shù)據(jù)安全性、合規(guī)性及穩(wěn)定性等多個方面的痛點。在業(yè)內(nèi)人士看來，未來隨著相關技術的不斷成熟和應用場景拓展，相關痛點將逐步解決，券商與AI大模型將縱深融合。

　　面臨多個痛點

　　作為金融機構(gòu)，券商擁有高價值的領域數(shù)據(jù)資產(chǎn)，在布局AI大模型過程中，面臨合規(guī)性、安全性等多重挑戰(zhàn)。

　　國金證券研究所計算機行業(yè)首席分析師孟燦表示，AI大模型的應用可能需要將數(shù)據(jù)傳輸至外部服務器進行處理，而券商所涉及處理的是高度敏感和機密的數(shù)據(jù)，數(shù)據(jù)安全成為一個關注的焦點。此外，許多證券公司的數(shù)據(jù)治理體系尚未完全建立或優(yōu)化，這意味著數(shù)據(jù)可能存在分散、不一致或質(zhì)量不高的問題。由于大型語言模型高度依賴數(shù)據(jù)的質(zhì)量和結(jié)構(gòu)，這些問題可能導致模型性能不佳或產(chǎn)生誤導性的輸出。

　　“證券行業(yè)涉及大量敏感數(shù)據(jù)，包括客戶信息、交易數(shù)據(jù)等，在處理數(shù)據(jù)時可能會泄露敏感信息?！眹┚脖硎荆瑫r，金融行業(yè)數(shù)據(jù)具有復雜性和多樣性，AI大模型在訓練過程中可能出現(xiàn)過擬合現(xiàn)象，同時存在AI大模型幻覺問題，難以滿足金融行業(yè)對數(shù)據(jù)、內(nèi)容準確性的高要求。

　　此外，證券公司IT穩(wěn)定性要求與新技術日新月異變化之間存在矛盾。孟燦表示，證券公司信息系統(tǒng)的穩(wěn)定性要求很高，將AI大模型集成到證券公司現(xiàn)有的IT架構(gòu)和工作流程中可能遇到技術挑戰(zhàn)，包括系統(tǒng)兼容性問題、成本問題和合規(guī)性問題，而且新技術的引入也會干擾現(xiàn)有工作流程的穩(wěn)定性和效率。

　　國泰君安還強調(diào)，AI大模型的訓練和推理過程需要強大的計算資源作為支持。如果算力供應不足或不穩(wěn)定，可能導致模型訓練時間過長、推理速度過慢等問題，影響模型在實際應用中的效果。

　　加強數(shù)據(jù)治理

　　針對數(shù)據(jù)安全風險，國泰君安認為，需要加強數(shù)據(jù)治理，明確數(shù)據(jù)源的范圍、目的和用途，確保數(shù)據(jù)來源合法合規(guī)，在數(shù)據(jù)全流程中確保數(shù)據(jù)的安全性和隱私性，防止數(shù)據(jù)泄露和濫用。準確性方面，可結(jié)合訓練微調(diào)，并通過加強合規(guī)監(jiān)測等方式規(guī)避AI大模型幻覺所帶來的相關問題。

　　孟燦認為，券商需不斷夯實數(shù)字技術應用的安全基礎：制定應急處置預案，常態(tài)化開展應急演練，及時有效處置突發(fā)事件；深入研究開源軟件治理，建立健全開源軟件評估體系，妥善應對開源風險；建設行業(yè)網(wǎng)絡和信息安全態(tài)勢感知平臺，防范化解數(shù)據(jù)隱私和安全風險。

　　為解決AI大模型的合規(guī)性、安全性等問題，國金證券原創(chuàng)性地提出“AI友好”型組織以及“AI友好”業(yè)務流、數(shù)據(jù)流的設計理念，如可重復驗證的場景，包括合同是否符合某些合規(guī)性要求、身份證和人臉識別、軟件運行是否符合預期，這類場景的追求目標是將暫且只能由人工執(zhí)行的流程，通過“AI友好”設計為“AI可重復驗證”，通過自動化執(zhí)行不斷提升AI的應用力度。

　　國泰君安也多措并舉建立輸出內(nèi)容的可控技術架構(gòu)，實現(xiàn)內(nèi)容的可信、可控輸出。包括建立可信的輸出內(nèi)容倉庫，賦能AI大模型可信數(shù)據(jù)源；AI大模型與小模型結(jié)合，并輔以Agent平臺和實時API接口，控制AI大模型結(jié)構(gòu)化輸出；建設AI大模型對結(jié)構(gòu)化、非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)的統(tǒng)一支持，將異構(gòu)數(shù)據(jù)一體化一站式處理變成現(xiàn)實，實現(xiàn)數(shù)據(jù)能力的全面提升。