大模型应用探索加速,数据安全成焦点
AI导读:
“百模大战”后,国内大模型领域进入应用探索阶段,阿里云副总裁张磊指出大模型向生产力转化需经历三阶段,同时数据安全成为行业关注焦点,电子科技大学张小松院士提出应对措施。
“百模大战”已告一段落,国内大模型领域正步入各行各业的应用探索新篇章。12月6日,重庆迎来了“2024 AI+数字笔迹创新应用发展论坛”,《每日经济新闻》记者亲临现场,捕捉到行业前沿动态。
阿里云副总裁、产业智能首席科学家张磊在论坛上透露,大模型向生产力的转化需经历三个阶段,最终有望颠覆传统生产关系。他强调,随着大模型深入各行各业,其产生的业务价值与社会价值将日益显著。
电子科技大学网络空间安全学院院长、俄罗斯工程院外籍院士张小松则指出,大模型背后的机器学习存在脆弱性,数据安全和算法漏洞等问题不容忽视。他呼吁业界通过多种措施加强防范,确保大模型应用的稳健发展。
近年来,国内大模型领域经历了“百模大战”的洗礼,开源、闭源大模型如雨后春笋般涌现。张磊认为,未来大模型产业将呈现普惠效应与极化效应并存的趋势。他建议,生态圈内的头部厂商应携手合作,形成完整产业链,共同推动大模型产业的发展。
随着“百模大战”投入的不断加大,行业发展的重点已逐渐转向应用层。张磊详细阐述了大模型向生产力转化的三个阶段:从通用应用到行业场景融入,再到业务流程重构。他强调,推动大模型产业发展需统筹算力、构建高质量数据集、加强人才培养并加速示范应用。
张小松进一步指出,机器学习算法的脆弱性可能导致识别错误,甚至被恶意利用进行投毒攻击或对抗攻击。他建议对学习过程进行完整性检测,对推理过程进行防错性检测,并对机器学习内容样本进行隐私保护处理。
此外,人工智能时代深度伪造等挑战日益凸显,网络安全中的身份认证问题亟待解决。论坛上发布的《2024人工智能数字笔迹技术白皮书》指出,AI数字笔迹将成为多模态生物特征识别的重要手段之一,并在数字交易中发挥确权和授权的底层基础技术作用。
白皮书显示,通过卷积神经网络(CNN)等深度学习模型,未来本人数字笔迹识别的识别通过率将高达99.99%,为数字经济高质量发展提供有力支撑。
(图片来源:论坛现场拍摄,文章来源:每日经济新闻)
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

