12月6日，2024 AI+数字笔迹创新应用发展论坛在重庆召开。阿里云副总裁张磊指出，大模型产业将经历三个阶段，逐步深入生产生活，重塑业务流程。电子科技大学网络空间安全学院院长张小松强调，大模型背后的机器学习存在脆弱性和安全风险隐患，需加强防护。

　　12月6日，2024 AI+数字笔迹创新应用发展论坛在重庆举行。《每日经济新闻》记者在现场注意到，阿里云副总裁、产业智能首席科学家张磊表示，大模型真正变成生产力可能会经历三个阶段，最终将打破固有的生产关系，越往深层走，大模型作为一个新质生产力产生的业务价值、社会价值将会慢慢的大。

　　随着大模型的应用进入到日常生活以及生产经营领域，其安全短板也亟待解决。电子科技大学网络空间安全学院院长、俄罗斯工程院外籍院士张小松认为，大模型的背后是机器学习，而机器学习存在脆弱性，需通过多种措施加以应对。

　　过去的一年时间，国内的大模型领域经历了“百模大战”，各行各业的开源、闭源大模型层出不穷。

　　在张磊看来，大模型产业中长期可能有两个较为重要的发展的新趋势，一是从大模型利用或者需求的角度来说，肯定会呈现大模型慢慢的变多、百花齐放的普惠效应趋势；二是在整个大模型技术、基础设施的供给上，全世界内又将是一个比较极化的效应趋势，即寡头格局、强者愈强。

　　因此，张磊认为，在大模型的供给方面，需要生态圈里最头部的厂商进行抱团，包括云计算厂商、运营商、硬件厂商等，从而形成一个完整的产业链。

　　与此同时，有必要注意一下的是，随着“百模大战”带来的投入慢慢的变大，行业发展的重点也逐渐向应用层迁移。

　　张磊表示，大模型真正变成生产力可能有三个阶段，第一个阶段是没有行业属性的大模型应用，包括客服、问答、数据分析、报表总结，文本、图片生成，会议纪要生成，招聘辅助等，各行各业都可以用；第二个阶段是大模型通过智能体、私域数据库、小助手的方式进入有行业属性的实际场景的业务流程中，开始为现有的业务流程进行降本提效；第三个阶段是大模型将产生新的能力，开始去重构业务流程，打破固有的生产关系。

　　而对于推动大模型产业的发展，张磊也给出了自己的建议，包括统筹算力、构建高质量的数据集、大力推动人才教育培训以及加速示范应用。

　　在大模型逐渐进入应用阶段之际，大模型的数据安全和算法漏洞等问题也愈发受到各方关注。

　　张小松指出，大模型的实践手段是机器学习。在机器学习的早期，存在几个威胁：一是机器学习的算法非常脆弱，脆弱到甚至还不如几岁的小孩，稍微把图形图像的内容做篡改就会发生识别错误；二是经常有利用机器学习的错误，用来操纵大模型，例如有意喂错误样本做投毒攻击或对抗攻击，通过有选择性地学习进行逃逸攻击。

　　“所以一是要对学习过程进行完整性的检测，二是要对推理过程进行防错性的检测，三是要对机器学习内容样本做隐私保护的处理。”张小松补充道。

　　值得一提的是，在AI时代，由深度伪造等带来的挑战也愈发显现，网络安全中的身份认证问题也亟待解决。

　　《2024人工智能数字笔迹技术白皮书》在论坛现场发布。根据白皮书内容，AI数字笔迹将成为多模态生物特征识别的重要手段之一，并作为数字交易中确权和授权的底层基础技术，在数字化的经济高水平质量的发展中发挥很重要的作用。

　　“AI在提高数字笔迹识别准确率方面可发挥关键作用，通过卷积神经网络（CNN）等深度学习模型，未来本人数字笔迹识别的识别通过率将提高到99.99%。”白皮书显示。

　　如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权，严禁转载或镜像，违者必究。

　　特别提醒：如果个人会使用了您的图片，请作者与本站联系索取稿酬。如您不希望作品出现在本站，可联系我们要求撤下您的作品。

　　川企大调研·寻找新质生产力丨“百模大战”风起云涌，四川如何破局行业大模型 “墙内开花墙外香”？

　　中兴通讯徐子阳：生成式AI发展仍面临算力、能耗、标准化及商业应用等挑战

　　数智早参｜OpenAI CEO奥特曼：GPT-5将有重大飞跃但还要等很久；工业与信息化部拟筹建人工智能标准化技术委员会

　　未来商业早参 无忧传媒回应直播销量差问题；T3出行领行阡陌大模型通过国家网信办算法备案

　　中国地震台网正式测定：12月31日16时05分在新疆克孜勒苏州乌恰县（北纬39.99度，东经75.75度）发生3.1级地震，震源深度10千米

　　民生银行公司业务部更名为公司业务部/科技金融部 科创企业融资迎来新机遇？

　　雷军跨年直播，定下2025年大目标！谈及股价曾跌到8元多，直言“我也很无奈”

　　全天仅卖出4张票，票房124元！范伟、徐帆、陈乔恩主演也带不动？影城经理：没听说过这一部优秀的电影；出品方：是正常上映