重庆两江新区举行金融大模型发展论坛 院士专家建言金融大模型需更注重可信安全

科技日报记者 雍黎

(相关资料图)

“金融行业作为人工智能应用要求高、场景丰富，是大模型技术和算法突破的沃土。”8月28日，在重庆两江新区举行的金融大模型发展论坛暨马上消费金融大模型发布会上，中国工程院院士倪光南表示。

中国工程院院士、浙江大学求是特聘教授谭建荣在论坛上作报告。受访者供图

论坛上，多位院士专家围绕生成式人工智能和金融大模型展开了讨论。

中国工程院院士、浙江大学求是特聘教授谭建荣，讲解了大模型的关键技术与发展趋势。他介绍，过去的人工智能强调因果关系，而现在大数据强调关联关系，从不确定性中寻找确定性，从变量中找出不变量。

“生成式人工智能三大技术特征就是大数据、大模型和大算力。”谭建荣表示，生成式人工智能是基于知识工程和知识图谱的大模型，知识工程就是从数据里凝练出知识，这是人工智能的核心，其目的还是提高人们借助现代化工具利用信息的能力。

“生成式人工智能的基本定位还是智力劳动者的助手。”欧洲科学院外籍院士、清华大学人工智能研究院常务副院长孙茂松表示，生成式人工智能不会把一个行业整体取代。它的特点是一定会出错，如ChatGPT是通用大模型对文本语言比较重视，对数字其实不敏感，所以有时候会答非所问。通用大模型的落地也是一大挑战，如用在金融领域就很有可能出现“鸡同鸭讲”的情况。

“坦诚地讲，在工业领域、金融领域，通用大模型还有四个关键的难题。”马上消费首席信息官蒋宁表示，通用大模型目前还面临关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信和基础设施的能力四大难题。

应对人工智能风险方面，国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民表示，随着大模型的开放开源，深度合成技术的非法使用存在加速积聚的风险。

针对提升大模型应用的可信实践，中国信息通信研究院副总工程师王爱华在致辞中表示：“可信人工智能实践的路径逐步清晰。人工智能发挥作用越大，它对于安全可信的要求也是越高的。当从业者自身把安全和一些问题作为发展第一要务的时候，说明这个技术在整个领域会进行应用。”

全国首个零售金融大模型——“天镜”发布。受访者供图

会上，马上消费金融股份有限公司（以下简称马上消费）发布全国首个零售金融大模型——“天镜”。“我们希望在任何情况下‘天镜’给客户的回答，给所有的员工的回答是合规的，并且在任何不可预期的情况下它的结果是稳定的。”蒋宁表示，马上消费已形成“三纵三横”的大模型发展技术布局。所谓三纵，是指实时人机协作、多模态智能、数据决策智能，在数据领域实现智能化，实现结构性数据判别式模型的综合能力。三横即是指持续学习、模型合规、组合式AI形成安全、合规、可信的鲁棒性技术能力，确保让模型越用越聪明，同时更稳定、更安全可控。

基于此，中国信通院、重庆国家应用数学中心和马上消费牵头发起，阿里云、复旦大学金融科技研究院、腾讯云、中国科学院自动化研究所等单位联合倡议发起“金融大模型可信安全验证与联合创新行动计划”。

关键词：