奇安信发布Q-GPT安全机器人和大模型卫士 齐向东:大模型大范围的应用必然带来不可忽视的安全隐患
2024-07-11 01:27:10视觉测量

  ◎安全机器人未来是否会替代网络安全专家?奇安信副总裁、AI研究院院长张勇在接受包括《每日经济新闻》记者在内的媒体采访时表示,安全机器人不会代替安全专家,相反,将解放这批专家,更多地投入到其他更深、更高级的工作中。

  8月25日,奇安信集团宣布推出Q-GPT(奇安信大模型)安全机器人和大模型卫士。

  奇安信方面介绍,Q-GPT安全机器人是基于奇安信大模型的虚拟安全专家,可以全天候工作。一台机器人等于60多位安全专家,可产生约2000万元的运营效益。大模型卫士则集安全风险发现、大模型访问控制、数据泄露管控、违反法律法规行为溯源、大模型应用分析等于一体。

  关于推出上述产品的原因,奇安信董事长齐向东表示,大模型的广泛应用在提高生产力的同时,也必然带来不可忽视的安全隐患。

  安全机器人未来是否会替代网络安全专家?奇安信(SH688561,股价48.11元,市值330亿元)副总裁、人工智能研究院院长张勇在接受包括《每日经济新闻》记者在内的媒体采访时表示,安全机器人不会代替安全专家,相反,将解放这批专家,更多地投入到其他更深、更高级的工作中。

  大模型热潮持续,Microsoft365 Copilot、WPS AI和钉钉等办公产品与大模型加速结合,同时,用友网络(600588.SH,股价16.89元,市值579.85亿元)和金蝶云等企业服务公司也先后推出针对企业服务的企业级大模型。

  大模型在企业端的应用正在不断加速,与此同时,背后的安全问题也引发行业关注。

  “ChatGPT等大模型,会泄露企业的商业秘密,已经引起广泛关注。据统计,在使用ChatGPT的员工中大多数会泄露数据,其中11%的数据为企业敏感数据。解决大模型数据泄露难题,迫在眉捷。”奇安信集团副总裁张卓表示。

  张卓认为,这些数据泄露,长此以往,可能会导致企业的竞争力逐步丧失。举例而言,一家拥有核心知识产权与专利的某龙头企业A,当员工大量使用大模型来处理日常工作时,可能会导致公司的一些敏感技术信息在此过程中不断提交给大模型;而大模型经过不停地迭代、演化、训练,掌握了这些行业的一些先进经验和知识,而后帮助中下游某些研发能力欠缺的企业,通过灵活使用大模型,快速掌握先进生产力,逐步提升公司能力,进而导致龙头企业A的核心竞争力丧失。

  对于大模型在企业中的应用,张卓建议,企业应当关注大模型使用带来的安全风险;管控使用GPT类产品的人员、应用、数据;监控并记录GPT类应用访问行为,保护关键业务数据不泄露;对于使用GPT类工具的内部人员,做好相应权限限制;限制在GPT类工具上使用复制粘贴等行为。

  齐向东也表示,大模型的广泛应用在提高生产力的同时,也必然带来不可忽视的安全隐患。这可能造成企业对大模型陷入想用而不敢用的两难境地。这也是奇安信发布大模型卫士的原因,即希望通过大模型卫士帮助企业规范员工,正确使用大模型产品协助工作。

  齐向东介绍,在网络安全方面,政企机构长期面临三大困扰:告警疲劳、专家稀缺以及效率瓶颈。

  首先,攻击者手法层出不穷,攻击频次日益密集,企业每天都会产生海量告警,有限的安全专家无暇应对,通常只有1%的告警被研判,99%的告警被无奈放弃,形成告警疲劳。

  其次,安全本就是一个对知识、技术和实战经验要求很高的行业,高水平人才难以快速培养,企业面临着专家少的难题。据教育部统计,到2027年,我国网络安全人员缺口将达到327万。

  第三,人本身受制于精力、情绪、状态等多方面因素,不可能全天候工作,形成效率瓶颈,也就是“加人不划算、不加人干不完”。

  奇安信方面称,Q-GPT安全机器人的推出,是为了解决网络安全行业面临的专家稀少、告警疲劳以及效率低的痛点。

  未来,安全机器人是否会替代网络安全专家?张勇表示,安全机器人会代替一部分安全专家的工作,但是不会替代安全专家。“大模型是个新技术,新技术肯定会造成一些原有岗位被代替,与此同时,它一定会创造更多、更新、更高价值的岗位。”他进一步表示,安全机器人可以代替一部分安全专家的常规告警分析、研判等工作,但同时,也是解放这批专家,让他们能够更多地投入到其他更深入、更高级的工作中,研判更高级的知识。另外,大模型也需要安全专家将自己的知识归纳、总结、提升,把它变成数据,进而对大模型进行训练。

  值得一提的是,当前,大模型热潮逐步转向专业大模型的竞争,头部企业对行业大模型的布局也在加速。

  8月初,三六零集团也发布安全行业大模型“360安全大模型”,以提升网络安全服务效果。彼时,三六零集团创始人周鸿祎称,该大模型“目前安全攻防判断准确率已超96%”。

  如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。

  特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。

  8月25日,奇安信集团宣布推出Q-GPT(奇安信大模型)安全机器人和大模型卫士。 奇安信方面介绍,Q-GPT安全机器人是基于奇安信大模型的虚拟安全专家,可以全天候工作。一台机器人等于60多位安全专家,可产生约2000万元的运营效益。大模型卫士则集安全风险发现、大模型访问控制、数据泄露管控、违法违反相关规定的行为溯源、大模型应用分析等于一体。 图片来源:企业供图 关于推出上述产品的原因,奇安信董事长齐向东表示,大模型的广泛应用在提高生产力的同时,也必然带来不可忽视的安全隐患。 安全机器人未来是否会替代网络安全专家?奇安信(SH688561,股价48.11元,市值330亿元)副总裁、AI研究院院长张勇在接受包括《每日经济新闻》记者在内的媒体采访时表示,安全机器人不会代替安全专家,相反,将解放这批专家,更多地投入到其他更深、更高级的工作中。 大模型时代,解决数据泄露问题迫在眉睫 大模型热潮持续,Microsoft365Copilot、WPSAI和钉钉等办公产品与大模型加速结合,同时,用友网络(600588.SH,股价16.89元,市值579.85亿元)和金蝶云等客户服务公司也先后推出针对企业服务的企业级大模型。 大模型在企业端的应用正在不断加速,与此同时,背后的安全问题也引发行业关注。 “ChatGPT等大模型,会泄露企业的商业机密,已经引起广泛关注。据统计,在使用ChatGPT的员工中大多数会泄露数据,其中11%的数据为企业敏感数据。解决大模型数据泄露难题,迫在眉捷。”奇安信集团副总裁张卓表示。 张卓认为,这一些数据泄露,长此以往,有几率会使企业的竞争力逐步丧失。举例而言,一家拥有核心知识产权与专利的某有突出贡献的公司A,当员工大量使用大模型来处理日常工作时,有几率会使公司的一些敏感技术信息在此过程中不断提交给大模型;而大模型经过不停地迭代、演化、训练,掌握了这一些行业的一些先进经验和知识,而后帮助中下游某些研发能力欠缺的企业,通过灵活使用大模型,快速掌握先进生产力,逐步提升公司能力,进而导致有突出贡献的公司A的核心竞争力丧失。 对于大模型在企业中的应用,张卓建议,企业应当关注大模型使用带来的安全风险;管控使用GPT类产品的人员、应用、数据;监控并记录GPT类应用访问行为,保护关键业务数据不泄露;对于使用GPT类工具的内部人员,做好相应权限限制;限制在GPT类工具上使用复制粘贴等行为。 齐向东也表示,大模型的广泛应用在提高生产力的同时,也必然带来不可忽视的安全风险隐患。这会造成企业对大模型陷入想用而不敢用的两难境地。这也是奇安信发布大模型卫士的原因,即希望能够通过大模型卫士帮企业规范员工,正确使用大模型产品协助工作。 齐向东图片来源:企业供图 网络安全专家稀缺,大模型补位 齐向东介绍,在网络安全方面,政企机构长期面临三大困扰:告警疲劳、专家稀缺以及效率瓶颈。 首先,攻击者手法层出不穷,攻击频次日益密集,企业天天都会产生海量告警,有限的安全专家无暇应对,通常只有1%的告警被研判,99%的告警被无奈放弃,形成告警疲劳。 其次,安全本就是一个对知识、技术和实战经验要求很高的行业,高水平人才难以快速培养,企业面临着专家少的难题。据教育部统计,到2027年,我国网络安全人员缺口将达到327万。 第三,人本身受制于精力、情绪、状态等多方面因素,不可能全天候工作,形成效率瓶颈,也就是“加人不划算、不加人干不完”。 奇安信方面称,Q-GPT安全机器人的推出,是未解决网络安全行业面临的专家稀少、告警疲劳以及效率低的痛点。 未来,安全机器人是否会替代网络安全专家?张勇表示,安全机器人会代替一部分安全专家的工作,但是不会替代安全专家。“大模型是个新技术,新技术肯定会造成一些原有岗位被代替,与此同时,它一定会创造更多、更新、更高价值的岗位。”他进一步表示,安全机器人能代替一部分安全专家的常规告警分析、研判等工作,但同时,也是解放这批专家,让他们可以更多地投入到其他更深入、更高级的工作中,研判更高级的知识。另外,大模型也需要安全专家将自己的知识归纳、总结、提升,把它变成数据,进而对大模型进行训练。 值得一提的是,当前,大模型热潮逐步转向专业大模型的竞争,头部企业对行业大模型的布局也在加速。 8月初,三六零集团也发布安全行业大模型“360安全大模型”,以提升网络安全服务效果。彼时,三六零集团创始人周鸿祎称,该大模型“目前安全攻防判断准确率已超96%”。

  奇安信董事长齐向东:在研类ChatGPT大模型高度结合客户的真实需求 目前暂无发布计划

  如何以新质生产力唱好“双城记”?川渝部分全国人大代表“问诊”高新技术企业

  掌上明珠家居信息化中心总监张浩:“川派家具”转变发展方式与经济转型需破解“断层”难题

  欧洲杯最新战况!西班牙2:1逆转法国挺进决赛!打出世界波,16岁亚马尔成最年轻进球者

  7月11日24时成品油价或再上调 加满一箱50L的92汽油预计将多花5元左右

  财经早参8人涉嫌绑架杀害中国公民,菲方披露;深圳暂未“将试管婴儿纳入医保报销”;广州:港澳台及外籍人士120平方米以上不限购

  “冀E5476W”轨迹引热议!金龙鱼最新回应:武汉厂装运时为新车状态,陕西厂进行了清罐、验罐

Copyright © 2018 乐鱼官网app平台游戏下载 All Rights Reserved
网站地图 备案信息: 湘ICP备14017517