人民政协网8月28日电 8月28日，在主题为“数智融合，渝见未来”的金融大模型发展论坛上，马上消费金融股份有限公司（以下简称“马上消费”）发布了其零售金融大模型——“天镜”，寓意大模型是人类智慧的镜像，推动金融机构高质量发展。与此同时，由中国信通院、重庆国家应用数学中心和马上消费牵头发起，阿里云、百行征信、北京火山引擎科技有限公司、中关村科金、毕马威、复旦大学金融科技研究院、朴道征信、腾讯云、中国科学院自动化研究所等联合倡议发起的“金融大模型可信安全验证与联合创新行动计划”正式亮相。

“今年年初引发热议的ChatGPT让我们感受到了大模型的无所不能，但在工业领域、金融领域，大模型还有四个关键性难题。”据马上消费首席信息官蒋宁介绍，大模型目前还面临关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信和基础设施的能力四大难题。他举例表示，生成式模型所面对的一大困难是即使自身满腹经纶，但在回答错问题时可以不承担风险，比如自动驾驶，它的刹车、提速、转弯、看灯，外界环境都在变化，对向车也在变化，因此1%的错误都会造成生命财产损失，这就是金融大模型和传统大模型最大的区别。生成式模型它不能做解释，但金融大模型最主要的特点是具备判别性，它需要做出交易决策。

“以马上消费的风控来讲，我们有将近2000个模型，20万张表，每天都在变化，但环境不管如何发生变化，让模型犯一次错都是非常不容易的。这背后是马上消费作为以科技驱动的头部持牌消费金融机构，积累了1.79亿的用户，有超2000个模型，10万+变量，近50PB的多模态、高质量的数据等，通过在这些自身数据上做模型精调对齐训练，同时再用推理加速技术实现模型可控，从而做到更懂金融。”蒋宁这样说。

而关于安全的风险，中国工程院院士、浙江大学求是特聘教授谭建荣举了这样一个例子——北京一位老人接到远在美国孙子的视频电话，图像、声音都是孙子的，结果却被诈骗了，说明在人工智能时代，眼看的不一定是事实。而马上消费能探索金融大模型，说明只有拿到数据和模型，才能将不确定的关系转变为确定的关系，从变量中找出不变量。

应对AI风险方面，全国政协委员，国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民表示，随着大模型的开放开源，深度合成技术的非法使用存在加速积聚的风险。他特别提到了加强深度防伪验证系统的重要意义，这里包括人脸识别及生物特征识别验证系统的活体检测、Deepfake伪造检测、对抗攻击与防御、深度学习可解释性等。

针对提升大模型应用的可信实践，中国信息通信研究院副总工程师王爱华在致辞中表示，可信人工智能实践的路径逐步清晰，当从业者自身把安全问题作为发展的第一要务时，说明这一技术将会在整个领域进行应用。

蒋宁表示，马上消费已形成“三纵三横”的大模型发展技术布局，并领航构建可信、合规、多模态、适配全域、泛化的金融大模型技术能力体系，聚焦行业领先的基础语言特性能力、逻辑和推理能力、语义理解、生成与创作、金融领域能力、安全与合规能力等六大核心领域，进一步推动金融数字化转型产生实质性的飞跃。

所谓三纵，是指实时人机协作、多模态智能、数据决策智能，在数据领域实现智能化，实现结构性数据判别式模型的综合能力。三横即是指持续学习、模型合规、组合式AI形成安全、合规、可信的技术能力，确保模型越用越聪明，同时更稳定、更安全可控。

“我们希望在任何情况下，它给客户的回答都是合规的，并且在任何不可预期的情况下它的结果是稳定的。”蒋宁这样说。

欧洲科学院外籍院士、清华大学人工智能研究院常务副院长孙茂松认为，大模型的基本定位是智力劳动者的助手，而非行业颠覆者。生成式人工智能的一个特点就是会出错，因为通用大模型对文本语言比较重视，对数字却不敏感，因此ChatGPT“经常乱说”，而金融数据又多为结构化知识图谱，因此大模型在金融领域有很多挑战，“马上消费做了一个很好的示范作用，开了一个好头”。（崔吕萍）