大模型在金融领域的应用技术与安全白皮书

zwb779

大模型在金融领域的应用技术与安全白皮书

大模型技术带来了AI的新一轮技术变革和产业应用。构建大模型在金融领域完善的开发框架和应用框架，可助力现有金融业务进行数字化转型。但其应用也面临着诸多风险，需要进行进一步防控。除了针对通用的大模型幻觉风险的防护围栏，还需要针对金融领域的应用进行隐私风险防控、大模型攻击防御、可解释性增强、可溯源性增强以及有害内容防控，从而更好的助力传统金融业务。除此之外，金融领域大模型治理框架的搭建、评测集的构建和人才体系的培养则有利于促进大模型在金融领域的生态体系构建。

基于此，本白皮书主要围绕大模型在金融领域的应用技术及安全防控研究，延伸至大模型在金融领域的评测框架及人才培养体系进行分析。应用技术方面，主要基于大模型的开发框架和应用框架及应用实践进行了探讨。在应用风险防控方面，主要聚焦在大模型金融领域的风险及安全防控手段，同时借鉴了国外的人工智能应用风险治理框架:而大模型评测主要聚焦在大模型的评测框架以及大模型在金融领域的评测;最后大模型人才培养体系构建则强调了人才需求、人才教育体系、跨界合作及人才评估认证。

本篇白皮书为本系列的第一本，主要围绕大模型的应用技术及风险防控技术进行撰写，分为五个章节。第一章节主要为大模型的概述，第二章节主要聚焦于大模型的技术分析，第三章节主要聚焦于大模型的风险与防控，第四章节给出了大模型的评测方式，第五章节则衍生到大模型发展中的人才培养。