(資料圖片)

隨著生成式人工智能浪潮全面興起，金融行業(yè)在加速邁向“AI原生”時代的同時，也面臨多模態(tài)深度偽造內(nèi)容帶來的新型安全挑戰(zhàn)。利用生成式AI合成的語音、圖像、視頻與文本，已能夠高度模擬真實身份與業(yè)務(wù)材料，對遠(yuǎn)程開戶、線上信貸、大額交易授權(quán)等核心業(yè)務(wù)構(gòu)成隱蔽性、系統(tǒng)性攻擊，嚴(yán)重威脅金融安全與用戶信任。在此背景下，行業(yè)亟需構(gòu)建體系化的內(nèi)容鑒偽與安全防御能力。

近日，工商銀行聯(lián)合騰訊云、北京金融科技產(chǎn)業(yè)聯(lián)盟聯(lián)合發(fā)布《中國金融生成式AI多模態(tài)內(nèi)容鑒偽與安全防御白皮書（2025）》。白皮書以“風(fēng)險識別+體系防御+生態(tài)共建”為核心思路，系統(tǒng)分析生成式AI多模態(tài)偽造的攻擊原理、技術(shù)路徑與業(yè)務(wù)場景，提出覆蓋“風(fēng)險場景渠道—風(fēng)險分析與決策—風(fēng)險處置運(yùn)營”三層架構(gòu)的端到端防御體系，并融合了工商銀行等行業(yè)領(lǐng)先實踐案例，為金融機(jī)構(gòu)打造前瞻性、自適應(yīng)、協(xié)同聯(lián)動的安全防線提供理論框架與實踐指引。

生成式AI機(jī)遇與挑戰(zhàn)共存

金融機(jī)構(gòu)正在積極擁抱生成式AI。IDC報告顯示，從市場表現(xiàn)來看，金融行業(yè)對生成式AI的投資意愿較高，2024年中國金融行業(yè)生成式AI投資規(guī)模已達(dá)36.26億元，預(yù)計到2028年將增長至238.04億元，增幅高達(dá)556.5%。

生成式AI在惡意內(nèi)容生成方面的迅猛演進(jìn)，其核心威脅在于通過多模態(tài)生成模型以及多元化技術(shù)的協(xié)同，系統(tǒng)性地構(gòu)建高可信度的欺詐證據(jù)鏈。此類攻擊已非單點技術(shù)突破，而是深度融合了感知逼真性、跨模態(tài)語義對齊、信息融合增強(qiáng)與動態(tài)交互協(xié)調(diào)等多層次技術(shù)能力，旨在從邏輯一致性、物理真實性與行為合理性等多個維度同時突破風(fēng)控防線。它不僅能夠偽造單一模態(tài)數(shù)據(jù)，更可生成相互印證、無縫銜接的多模態(tài)組合攻擊內(nèi)容，金融安全中高度依賴多因素驗證與生物識別的核心業(yè)務(wù)（如遠(yuǎn)程開戶、線上信貸、大額支付等）構(gòu)成了前所未有的結(jié)構(gòu)性威脅，傳統(tǒng)基于單一特征識別或靜態(tài)規(guī)則的風(fēng)控體系正面臨根本性挑戰(zhàn)。

關(guān)鍵詞： 消費導(dǎo)報網(wǎng) 24小時資訊