GenAI 與 LLM 在金融產業的應用分析

本文字多,陸續設計了幾個 Agentic Workflow 串到 Line、Slack、Discord,就同步整理已知的金融業在 GenAI 的報導 (持續更新),再順手匯整陸續搜集跟瞭解到需求和開發可行性的想法;單純因為略能體會踩的坑;歡迎一起深入探討交流跟體驗一下相關概念應用

生成式 AI (GenAI) 和大型語言模型 (LLM) 正以驚人的速度重塑金融產業,為金融產品的創新和發展帶來無限可能。這篇文章將深入探討 GenAI 和 LLM 在金融產業的應用,並分析其潛在效益、設計方案、技術挑戰和競爭格局,同時結合最新的產業趨勢,例如金融生態圈的合作和永續金融的發展,提出更具體的整合策略。 GenAI 是一種能夠生成全新內容的 AI 技術,例如文本、圖像、程式碼等,其核心技術包含生成對抗網路 (GANs)、變分自編碼器 (VAEs) 和 Transformers 等。LLM 則是一種基於深度學習的語言模型,能夠理解和生成人類語言,並執行翻譯、摘要、問答等任務。近期,技術發展更進一步走向 AI 代理人 (AI Agent) 和代理人工作流 (Agentic Workflow),透過讓多個 AI 模型或代理人協同作業,處理更複雜的任務。然而,即使是最先進的模型也常因與數據隔離而受限。為了解決此問題,業界正推動如模型上下文協定 (Model Context Protocol, MCP) 這樣的開放標準,旨在提供一個統一、安全的方式來連接 AI 系統與企業內外部的數據源(如資料庫、CRM、內容儲存庫等)。這使得 AI Agent 能夠獲取執行任務所需的即時、相關上下文信息,從而顯著提升其能力與可靠性,為金融創新帶來更深遠的影響。 

PDF 版

  • 2025/03/26,凱基金控揭集團AI發展藍圖,2025年要建集團AI平臺、發展商用金融AI服務
    • 四大核心領域:商業應用 (Commercial Applications)、智能助手 (Intelligent Assistants)、金融智慧 (Financial Intelligence - 研發投入)、平臺科技 (Platform Technology - 研發投入)
    • 2025 年的重點將是擴大 AI 應用、開發具體金融服務、整合集團平台,並由子公司在證券端發展主動式助理、布局虛擬資產,在銀行端強化 AI 防詐、試點數位資產保管及優化國際支付

  • 2024/11/02,臺北金融科技展登場,多家國內金融業者公開展示GenAI應用
    • 各大金控積極佈局生成式AI (GenAI) 應用
      • 台新金控 (Taishin)
        • 運用雲端資源訓練37B參數量的LLM模型,訓練完成後,再將模型放置於台新內部的地端環境運作。
        • 預估投入約3,000萬發展AI,光是硬體資源就包含16片Nvidia H100 GPU。
      • 中信金控 (CTBC)
        • 升級既有AI應用,強化對話式互動與個人化服務
        • 透過對話理解客戶投資習慣,生成個人化投資報表
      • 玉山銀行 (E.Sun)
        • 以自建的GenAI平台「GENIE」為基礎,透過API將GenAI整合至不同應用場景
        • 投資小幫手及信用卡推薦服務等對話式諮詢服務
      • 新光金控 (Shin Kong)
        • AI商品助理(新壽):輔助業務員查詢、彙整商品資訊 
        • 智能業務對練(新壽):新人與虛擬客戶銷售演練、招募問題建議
      • 國泰產險 (Cathay P&C)
        • 首創「點數繳保費」服務,允許客戶使用小樹點折抵汽車險、旅遊險保費;與PayEasy合作,讓企業員工可用保險票券折抵保費
      • 金融聯合實證 (Joint Proof-of-Concept)
        • 多家業者採用聯合學習 (Federated Learning) 技術合作提升打詐能力,精進防詐鷹眼模型,預計2025年3月正式採用聯合學習精進後的模型

  • 2024/07/04,金融業轉型必看!金管會最新 AI 指南與生成式 AI 應用案例
    • AI 系統生命週期四階段:系統規劃及設計、資料蒐集及輸入、模型建立及驗證、系統佈署及監控
    • AI 風險評估考量因素:
      • 影響程度:是否直接影響客戶權益或營運
      • 個資使用:使用個人原始或機敏資料的程度
      • 自主決策程度:AI 自動化決策或學習的程度越高,風險可能越高
      • 複雜性: 模型越複雜、參數越多,可解釋性可能越低,風險越高
      • 利害關係人影響: 影響內外部利害關係人的程度與廣度
      • 救濟選項: 是否提供完整申訴、爭議處理機制
    • 六大核心原則:
      • 治理及問責:建立風險管理機制、確保人員 AI 素養、承擔責任
      • 公平性及以人為本:避免演算法偏見、維持人類可控
      • 隱私及客戶權益: 尊重隱私、妥善管理資料、提供客戶替代方案選擇權
      • 系統穩健性與安全性: 確保系統穩定安全、管理第三方業者風險
      • 透明性與可解釋性: 確保運作透明可解釋、主動向利害關係人揭露
      • 永續發展: 符合永續原則、提供員工培訓以適應變革、維護工作權益
    • 常見「傳統」AI 應用:語音轉文字、金融文件與影像辨識、異常檢測/預防詐欺
    • 常見「生成式」AI (GenAI) 應用:內部知識平台、自然客製化的 AI 客服助理、內容生成

  • 2024/05/28,生成式AI如何影響金融業?麥肯錫:銀行業利潤將因此增長600億
    • 調查顯示,台灣銀行業者普遍認為GenAI短期內主要價值在於: 降低營運成本 (93%)、提升業務收入 (59%)、強化品牌形象 (55%)
    • 台灣銀行業的GenAI應用現況,目前集中在營運與服務 (79%)、行銷活動 (66%) 及 IT開發 (52%)。常見應用如內部知識虛擬助手、優化智能客服等。

  • 2024/05/08,中信金、台新金引進 機器人客服變「聰明」銀行業導入LLM 新一波軍備賽開打
    • 正在利用 LLM 來加強內部知識管理,並通過 AI 驅動的聊天機器人和虛擬助理來改善客戶體驗。
    • 創建更複雜和個性化的客戶服務工具,這些工具能夠理解和回應複雜的查詢

  • 2024-04-26,玉山怎麼用GenAI?12項應用服務大解析

  • 2024/01/08,銀行保險金融機構生成式人工智慧(GenAI)策略報告

2023/08 公司添購 RTX 6000 Ada 48 GB * 2 和 A 100 80GB * 4
2024/05 公司添購RTX 6000 Ada 48 GB * 8 * 2


GenAI 和 LLM 在金融產業的應用

GenAI 和 LLM 的整合,可為金融產業帶來了新的發展契機,可以提升產品功能、改善使用者體驗,並提供更個人化和客製化的服務。然而,在整合過程中也需要克服資料安全、模型可靠性和法規遵循等挑戰。展望未來,金融業的 AI 應用將從大型語言模型,進一步演化為由 AI Agent組成的複雜系統與工作流。而像 MCP 這樣的數據連接標準,將扮演關鍵的基礎設施角色,通過打通數據孤島,讓 AI Agent 能夠存取和利用更豐富、即時的上下文訊息,從而解鎖更強大的自動化、個人化與智能化服務潛力,但也對系統整合、標準實施、安全治理提出了更高的要求。


  • 整合 GenAI 和 LLM 的挑戰
    • 資料安全和隱私:金融資料的安全性至關重要,整合 GenAI 和 LLM 需要採取嚴格的資料加密和存取控制措施,確保用戶資料的隱私和安全
    • 模型的準確性和可靠性:GenAI 和 LLM 的輸出需要經過嚴格的驗證和測試,確保其準確性和可靠性,避免誤導投資決策
    • 監管和合規性:金融產品的開發和應用需要符合相關的監管法規,整合 GenAI 和 LLM 也需要遵守相關的規範,例如 KYC (認識你的客戶) 和 AML (反洗錢) 等
    • 道德和倫理:AI 的應用需要遵守道德和倫理原則,避免產生歧視、偏見等問題,並確保 AI 的決策過程是透明且可解釋的
    • 可解釋性挑戰:理解一個透過 MCP 獲取多源數據並進行複雜處理的代理人系統做出決策的原因,可能比單一模型更困難
    • 🚫 三大迷思 + ✅ 避坑指南
      • Dify是AI應用,讓想法快速落地,n8n是數位化的,讓流程堅如磐石
      • 💡迷思一:盲目追求技術先進
        • 用 n8n 做太複雜的流程,結果技術經驗不足,系統崩潰
        • 先用 Dify 驗證需求,資料超過 10 萬筆再考慮 n8n
        • 從簡單流程 (像郵件自動化) 做起,漸進式擴充
      • 💸迷思二:忽視成本與資料安全
        • 用 Dify 公有雲跑 GPT-4,結果費用爆表,還得搬家
      • 🧩迷思三:低估技術與團隊能力不匹配
        • 確認 AI 適用性(Dify 要資料結構好,n8n 要 API 清楚)
        • 業務懂提示詞寫法,開發懂 n8n 偵錯技巧
以下將陸續針對可能的開發方案從設計方案、技術還有已知可能競品來做分析
  • 人壽保險的應用
    • 智能核保
      • 設計方案
        • LLM 可以分析客戶的健康數據、生活習慣、家族病史等資訊,自動化評估風險,並生成核保報告,加速核保流程,降低核保成本
        • 用Dify開發智慧核保問答系統(解析使用者健康告知並產生風險評估),再透過n8n將核保結論同步至理賠系統與財務系統,實現「使用者提昇財務心包決策」
      • 技術
        • 自然語言處理 (NLP) 技術:用於分析醫療報告和健康數據;機器學習 (ML) 演算法,用於建立風險評估模型
        • 代理人工作流 (Agentic Workflow):由一個數據收集代理人專責收集和驗證客戶數據,另一個代理人專門評估特定醫療風險,第三個代理人分析生活習慣風險,最後由一個整合代理人匯總資訊、生成報告,並將複雜案件標記給人類專家複審,這種分工能更有效處理複雜的核保流程
          • Dify負責認知層任務(語意理解、內容生成)
          • n8n負責執行層任務(資料流轉、系統觸發)
        • Model Context Protocol (MCP):作為標準接口,讓數據收集代理人能夠安全、有效地連接並提取來自不同系統 (如內部健康記錄資料庫、需授權的外部數據API) 的資訊。同樣地,AI Agent在生成報告前,也可透過 MCP 提取最新的規則或範本
      • 競品分析:目前市場上已有不少保險科技公司開始應用 GenAI 和 LLM 技術於人壽保險領域,例如
        • 保誠人壽:推出 AI 核保服務,可自動化評估客戶風險,加速核保流程
        • 富邦人壽:與 iKala 合作,導入 AI 客服機器人,提供 24 小時線上保單諮詢和理賠服務
    • 個人化保單推薦
      • 設計方案:GenAI 可以根據客戶的年齡、性別、健康狀況、財務狀況等資訊,生成個人化的保單推薦,例如推薦適合的險種、保額、繳費方式等
      • 技術: 
        • 自然語言處理 (NLP) 技術:用於理解客戶的需求和偏好;推薦系統技術,用於推薦適合的保單產品
        • 藉由MCP,讓AI Agent安全地查詢這些內部系統,獲取推薦所需的數據來存取客戶資料 (可能在 CRM 中) 和即時的保單產品資訊;如此,將不僅是被動推薦,而是讓AI Agent 扮演長期財務顧問的角色,主動監測客戶的人生大事 (需客戶授權或互動提供,如結婚、新生兒、換工作),並結合持續更新的客戶畫像,主動提出保單調整或新增保障的建議
      • 競品分析: 除了上述保險公司,其他業者也積極投入 AI 技術的應用
        • 台灣人壽:利用 AI 技術分析客戶數據,提供個人化保險規劃建議
    • 理賠自動化
      • 設計方案:LLM 可以分析理賠申請文件,自動化審核理賠案件,並生成理賠報告,加速理賠流程,提升理賠效率
      • 技術
        • 自然語言處理 (NLP) 技術:用於分析理賠文件;機器學習 (ML) 演算法,用於建立理賠審核模型
        • 透過 Agentic Workflow 實現高度自動化:例如,文件驗證代理人、詐欺偵測代理人、損失評估代理人 (可整合圖像辨識)、支付處理代理人等協同作業,加速理賠並提高準確性;而MCP 可作為統一的協議,各個代理人可視需求存取不同數據源,如文件管理系統、保單管理系統、外部詐欺資料庫、影像分析結果儲存庫等
      • 競品分析:AI 技術的應用也加速了理賠流程的自動化,例如: 
        • 國泰產險:利用 AI 技術判讀車損照片,自動化估算維修費用,加速理賠流程。
    • 客戶服務
      • 設計方案:LLM 可以驅動聊天機器人,即時回答客戶的保險問題,例如保單查詢、理賠諮詢等,提供 24/7 的客戶服務
      • 技術
        • 自然語言處理 (NLP) 技術:用於理解客戶的提問和意圖;知識圖譜 (KG) 技術,用於構建保險知識庫,提供更準確的資訊
        • 未來的智能客服將進化為更強大的 AI Agent,不僅能回答問題,更能理解複雜的多輪對話意圖,存取並操作多個後端系統 (查詢保單、帳單、理賠進度),甚至根據對話自主啟動服務流程 (如協助客戶線上申請理賠)
        • 為了提供準確且個人化的服務,AI Agent 需要即時存取知識庫、客戶帳戶資料、交易歷史等。MCP 使得代理人可以透過標準化接口,安全地連接到這些後端系統,獲取回應客戶所需的上下文
      • 競品分析:許多保險公司已導入 AI 客服機器人,例如
        • 國泰人壽::推出 AI 客服機器人「阿發」,提供線上保單諮詢和理賠服務
  • 個人化投資組合
    • 設計方案
      • 建立用戶畫像:透過收集用戶的風險承受能力、投資目標、財務狀況、投資偏好等資訊,並結合市場數據和投資策略,利用 GenAI 建立用戶畫像
      • 生成投資組合:根據用戶畫像,生成客製化的投資組合建議,例如參考 RBC Wealth Management 的報告,根據用戶的年齡、收入、投資經驗等因素,調整投資組合中股票、債券、ETF 等資產的比例,並推薦符合用戶風險承受能力的投資標的
      • 動態調整:持續追蹤用戶的投資行為和市場變化,並利用 GenAI 動態調整投資組合,確保投資組合始終符合用戶的需求和市場狀況
    • 技術
      • 自然語言處理 (NLP) 技術:用於理解用戶的投資需求和偏好
      • 機器學習 (ML) 演算法,用於分析市場數據和預測投資趨勢
      • 深度學習 (DL) 模型,用於生成個人化投資組合
      • AI Agent 可作為更主動的個人化投資顧問,不僅生成初始投資組合,更能持續監控績效、市場變化及客戶目標變動 (透過互動或客戶提供的更新資訊,連接多種數據源,如即時市場數據 API、客戶投資組合數據庫、風險評估模型輸入源等),主動提出調整建議並清晰解釋原因。背後可由一個Agentic Workflow 支持:市場分析代理人、風險評估代理人、投資組合建構代理人、客戶互動與解釋代理人等各司其職
    • 競品分析
      • 國泰智能投資:國泰世華銀行提供的機器人理財服務,根據用戶的風險承受能力和投資目標,提供個人化投資組合建議
      • 永豐ibrAin:永豐銀行提供的機器人理財服務,採用 AI 技術,根據用戶的投資目標和財務狀況,提供客製化投資組合建議
  • 優化投資策略
    • 設計方案
      • 資訊整合:利用 LLM 整合大量的市場數據、經濟指標、新聞事件、社群媒體輿情等資訊,建立全面的市場資訊庫
      • 策略生成:根據市場資訊庫,生成多種投資策略,並進行回測和評估,選擇最優的投資策略
      • 動態調整:持續追蹤市場變化和投資績效,並利用 LLM 動態調整投資策略,確保投資策略始終保持最佳狀態
    • 技術
      • 自然語言處理 (NLP) 技術:用於分析新聞事件和市場情緒。 ● 時間序列分析 (TSA) 技術,用於預測市場趨勢
      • 强化學習 (RL) 演算法,用於動態調整投資策略
      • 設計多個 AI Agent:有的監控特定產業,有的分析宏觀經濟數據,有的處理新聞與社群情緒,有的執行回測與模擬,有的專注風險管理。這些代理人協同工作,形成更全面、更即時的市場洞察與策略建議;這些協同工作的代理人需要從大量不同的來源獲取資訊,例如市場數據供應商、新聞 API、經濟數據庫、甚至是內部研究報告資料庫
    • 競品分析
      • 鉅亨買基金:鉅亨網提供的線上基金交易平台,運用 AI 技術,提供基金診斷和投資組合建議
      • SmartM:提供 AI 驅動的投資策略建議,協助用戶進行投資決策
  • 提升使用者互動
    • 設計方案
      • 智能客服:利用 LLM 驅動聊天機器人,即時回答用戶的投資問題,提供 24/7 的客戶服務,並可串接後端 API 系統,查詢用戶帳戶狀態、協助解決登入問題等
      • 客服信箱 QA 處理:利用 LLM 自動化處理客服信箱的用戶提問,例如帳戶查詢、密碼重置等,提升客服效率
      • 個人化推薦:根據用戶的投資偏好和行為,提供個人化的產品推薦和投資建議
      • 社群互動:建立線上社群平台,讓用戶可以互相交流投資經驗,分享投資心得
    • 資料安全
      • 身份驗證:透過多因素驗證 (MFA) 等方式,驗證用戶身份,確保只有授權用戶才能存取敏感資訊
      • 資料加密:對聊天內容和用戶資料進行加密,防止資料洩露
      • 存取控制:設定不同的權限等級,限制不同角色的用戶可以存取的資訊範圍
      • 安全審計:定期進行安全審計,檢查系統是否存在漏洞,並及時更新安全策略
    • 技術
      • 自然語言處理 (NLP) 技術:用於理解用戶的提問和意圖
      • 語音辨識 (ASR) 和語音合成 (TTS) 技術,用於實現語音互動
      • 知識圖譜 (KG) 技術,用於構建投資知識庫,提供更準確的資訊
      • 如前述客服應用,AI Agent 能處理更複雜的互動,提供更深入的解答,甚至能主動發起新對話內容 (例如:『偵測到您關注的科技股近期波動較大,是否需要檢視相關資訊或調整策略?』)。使用者的一個請求可能觸發一個工作流:互動代理人理解需求後,可能需要調度數據查詢代理人、分析建議代理人,最後再將結果匯總呈現
    • 競品分析
      • 中信金控智能客服:中信金控利用 LLM 搭配自家銀行產品知識庫,打造理財與信用卡諮詢「AI 智能助理」
      • 台新銀行 Richart Life:台新銀行的 Richart Life App 提供智能助理服務,可以根據用戶的指令,執行多種任務,例如查詢帳戶餘額、轉帳等
  • 自動化報告生成
    • 設計方案
      • 資料整合:整合來自不同來源的數據,例如市場數據、用戶數據、交易數據等
      • 報告生成:利用 LLM 自動生成各種投資報告,例如投資組合報告、市場分析報告、風險評估報告等
      • 個人化定制:根據用戶的需求,定制報告的內容和格式
    • 技術
      • 自然語言生成 (NLG) 技術,用於生成流暢且易懂的報告文本
      • 資料視覺化技術,用於將分析結果以圖表、表格等形式呈現
      • 範本生成技術,用於根據不同的分析結果,生成不同類型的報告
      • Agentic Workflow 優化報告生成:數據收集代理人、數據分析代理人、圖表生成代理人、自然語言報告撰寫代理人 (可根據不同讀者調整語氣和深度) 協作完成
    • 競品分析
      • Bloomberg GPT:彭博開發了一個基於 OpenAI 的 GPT 的人工智慧模型,並計劃將其整合到透過其終端軟體提供的功能中,使得市場情感分析、專有名詞辨識、新聞分類與問答等功能利用 AI 增強了其數據分析和財務報告能力,讓體驗更加智能化
  • 預測市場趨勢
    • 設計方案
      • 資料收集:收集大量的歷史數據、市場資訊、經濟指標等
      • 模型訓練:利用 GenAI 訓練預測模型,例如時間序列模型、深度學習模型等
      • 趨勢預測:根據預測模型,預測未來的市場趨勢,例如股票市場的漲跌趨勢、利率的變化、匯率的波動等
    • 技術
      • 時間序列分析 (TSA) 技術,用於分析歷史數據和預測未來趨勢
      • 機器學習 (ML) 演算法,用於建立預測模型
      • 深度學習 (DL) 模型,用於捕捉複雜的市場模式
      • AI Agent 可試需求連接到存放歷史數據、即時市場資訊、經濟指標等的各種數據庫或 API;類似投資策略優化,可由多個專精不同數據類型(經濟指標、市場情緒、技術分析)或預測模型的代理人協作,產生更穩健的綜合預測結果
    • 競品分析
  • 提供客製化建議
    • 設計方案
      • 需求分析:透過與用戶互動,了解用戶的投資需求、風險承受能力、投資目標等
      • 建議生成:結合 GenAI 和 LLM,根據用戶的需求,生成客製化的投資建議,例如推薦適合的投資產品、調整投資標的、分散投資風險等
      • 解釋說明:提供清晰的解釋說明,幫助用戶理解投資建議的理由
    • 技術
      • 知識圖譜 (KG) 技術,用於構建投資知識庫,提供更全面的資訊
      • 推薦系統技術,用於根據用戶的偏好,推薦適合的投資產品
      • 自然語言生成 (NLG) 技術,用於生成客製化的投資建議文本
      • AI Agent 需要整合客戶在不同系統中的數據 (如銀行帳戶、投資組合、保險單、貸款狀況等)