AD
首页 > 财经资讯 > 正文

中金 | AI安全初探:耦合共生,相辅相成

[2023-05-23 09:22:20] 来源:券商研报精选 编辑:佚名 点击量:
评论 点击收藏
导读:李虹洁袁佳妮等  ChatGPT自然语言处理模型带动下游应用百花齐放,AI技术突破对安全产业同样带来

  李虹洁袁佳妮等

  CHATGPT自然语言处理模型带动下游应用百花齐放,AI技术突破对安全产业同样带来变革,包括产品检测效率的提升、赋能安全运营降本增效;同时安全问题随之出现,对数据、模型的保护,对AIGC的鉴伪等均对安全产品、技术提出了新需求。本篇报告我们主要梳理了海内外云厂商、安全厂商如何依托AI技术赋能安全产品,以及对数据、模型安全保护的思考。

  摘要

  大模型作为新型数字基础设施,安全保驾护航。海内外云厂商对于云基础设施从IDC机房、硬件服务器、虚拟机,到云上应用、数据都进行了全方位的深度安全保护。推演至大模型,作为与云同等的新型数字基础设施,同样需要安全防护。从模型训练所需的数据、模型本身、AIGC的鉴伪,对安全产品、技术、形态、应用场景、商业模式都提出新的需求,也为安全行业带来新增量市场。同时,AI的突破使得攻击手段更为多样复杂,安全厂商也需要提升创新水平、攻防能力,来面对AI新纪元下的安全挑战。

  大模型及AIGC内容监管,海内外厂商提出新策略。OpenAI推出ChatGPT后,对安全的投入也持续加强,包括招募专家进行对抗性测试、对预训练数据筛选过滤、微调模型优化输出结果、持续监控模型滥用等,从策略层面保障模型安全问题。国内从政策层面对AIGC进行相应监管,对模型的安全评估审查、生成式内容标识、用户数据保护等提出了多项要求。国内厂商也对AIGC内容监管、鉴伪布局相应产品。我们认为,随着大模型的落地、AIGC的应用丰富,生成式内容监管的要求和产品需求有望提升。

  依托AI技术,提升安全产品检测能力与运营效率。微软将安全与GPT融合发布Security Copilot,依托强大的威胁情报能力通过关联内容发现潜在攻击信号,加强安全检测能力,同时以自然语言形式交互,提升安全运营人员体验的同时降本增效;其他海外安全头部厂商将AI能力嵌入核心产品,例如Palo Alto Networks、Fortinet基于AI赋能防火墙,CrowdStrike、Zscaler以AI加强云安全,并实现以AI能力作为单独组件或集成至平台收费。国内厂商如深信服基于大模型算法+海量安全数据+威胁情报+安全知识训练出安全GPT模型,对标Security Copilot,公司预计下半年将安全GPT接入全线安全产品,提升整体竞争力。

  风险

  政策落地不及预期,技术发展不及预期,下游需求不及预期。

查看更多:模型   厂商   数据   能力   安全产品

为您推荐