首页 | 综讯 | 财经 | 法治 | 影视 | 棸焦 | 公益 | 道德 | 教育 | 社会 | 科技
文化 | 廉政 | 房产 | 旅游 | 消费 | 网评 | 生态 | 医卫 | 地方 | 案件 | 监督
食品 | 民生 | 能源 | 文物 | 关注 | 权益 | 报道 | 健康 | 三农 | 汽车 | 图片
设为首页
加入收藏
联系我们
滚动新闻: ·特朗普:美国将很快宣布对药品进口征收关税 ·新关税,美国究竟怎么收?美媒:成本将转嫁消费者 ·新华网国际看点|加拿大新总理能否顶住美国“极限施压”? ·国际观察丨破坏多边体制 损害全球经济——美“对等关税”错在哪里 ·外交部谈中方对伊朗核问题中俄伊北京会晤期待 ·美国暂停对乌克兰军事援助 ·古特雷斯呼吁立即恢复向加沙提供人道援助 ·美国关税的前车之鉴:“大聪明”如何加剧“大萧条” ·多国领导人伦敦峰会宣布支持乌克兰四个步骤 ·洛杉矶山火未灭 有人趁乱纵火  
  您现在的位置:网站首页 > 科技 > 内容  

探索新路径 筑牢AI产业安全根基

发布日期:2025-3-3  查看次数:956 来源:经济参考报  作者:吴蔚

 
 
    核心提示:近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破
 

   近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

  不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

  这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

  有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

  比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

  今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

  对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

  更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

  业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。(吴蔚)

 

 
热门·推荐    
暂无图片信息
· 我国将构建运转高效的农业科技创新体系

点击·排行    
DeepSeek带动大模型“免费潮”
多部门就房地产市场密集发声 在因城施策方
习近平在湖北考察调研
清华、北大、人大等多所高校宣布扩招计划
境外电信诈骗犯罪集团有哪些圈套?
雷佳音:想演好戏,就做个有心人
上半年全国共追回外逃人员582人 追赃1
多一分体谅 生一分清凉
自然资源部印发通知:打通老旧小区改造更新
以案说法|河南信阳:划拨的养殖农用地能否

热门·图文    
多部门就房地产市场密集发声 在
清华、北大、人大等多所高校宣布
境外电信诈骗犯罪集团有哪些圈套
雷佳音:想演好戏,就做个有心人

投票·调查    
你是从哪里知道本网站的?
  • 网友介绍的
  • 百度搜索的
  • Google搜索的
  • 其它搜索过来的
  • 网址输错了进来的
  • 太忙了不记得了
  •  

     

    新华瞭望网版权所有 京ICP备108655196号 

    Copyright@2024 by www.snxinhua.com all rights reserved