AI的快速发展向人类展现了未来社会的多种可能性 AI的安全问题也越来越引起人们的关注

• 黄婷 2024年1月25日 来源：互联网 344 15
• 繁体

当前，新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。特别是在网络空间安全防护领域，人工智能在威胁识别、态势感知、风

1月22日，第七届西湖论剑·中国杭州网络安全技能大赛赛事组委会开展赛前直播，携手技术专家和大赛出题人共同探讨AI安全的应用发展，揭秘本届大赛在出题策略与赛项设置方面的亮点。

现代社会，AI技术随处可见：人脸识别、自动驾驶、智能推荐……AI的快速发展向人类展现了未来社会的多种可能性，但随之而来，AI的安全问题也越来越引起人们的关注。“我们需要在利用AI技术解决安全问题的同时，也要注意防范AI技术带来的新的安全威胁，这也是本届大赛我们出题的关键考虑点。”安恒信息研究院专家表示，要发挥好AI技术这把“双刃剑”的最大作用，人才的应用是关键。

据中研产业研究院《2024-2029年中国AI安全行业市场全景调研与发展前景预测报告》分析：

当前，新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。特别是在网络空间安全防护领域，人工智能在威胁识别、态势感知、风险评分、恶意检测、不良信息治理、骚扰诈骗电话检测、灰黑产识别等方面有其独特的价值和优势，应用需求呈现跨越式发展，产生了显著的溢出效应。

从产品布局和应用领域的角度，我国AI安全行业主要竞争对手在该领域的产品布局类似，都是以大数据分析驱动的安全管理类平台产品为主。从技术特点和技术水平的角度，我国企业的产品以大数据平台为基础，通过收集多元、异构的海量日志，利用关联分析、机器学习、威胁情报等技术，为安全运营人员提供安全运营工具。行业企业依靠关联、规则、统计等融合建模场景进行完整的构想、掌握和实施，通过主动监测、精准防护、智能分析、运营协同实现对安全对象的主动管理、安全事件的及时分析，与国内主要竞争对手差异不大。

根据2023年7月IPRdaily发布的《安全科技专利报告》显示，我国是全球安全科技发明专利最大布局国家，专利申请数为第二名美国的2.23倍;安全科技专利申请数前十名的申请主体中，中国企业占7席，蚂蚁集团、华为公司、腾讯集团位居前三。

研究团队认为，人工智能是未来生产力的发动机，将在各行各业数字化的基础上进一步实现智能化;安全科技作为方向盘，始终将各种新兴科技控制在向善的道路上，两者融合创新与发展。

AI技术的应用是机器人未来发展方向之一，AI技术的应用给我们带来了许多便利，但同时也引来了一系列的安全隐患。AI安全工作组的成立加强对AI技术安全的研究和防护，保障人们在使用AI技术时的安全和隐私。

我国AI安全产业现状分析

2023年我国AI企业新增368家，生成式AI的企业采用率已达15%，其中在制造业、零售业、电信行业、医疗健康等四大行业，采用率分别为5%、13%、10%和7%，生成式AI市场规模约为14.4万亿元。

人工智能在赋能产业过程中，带来的风险挑战有数据安全问题、算法安全问题、应用安全问题和行业安全问题。

当前，新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。

近年来，人工智能产业加速发展。据中国信通院测算，2022年我国人工智能核心产业规模达5080亿元，同比增长18%，企业数量超过4000家，中国人工智能产业已进入全球第一梯队。另据预测，2030年我国人工智能核心产业规模将超过1万亿元人民币，全球人工智能市场规模将达到16万亿美元。美国商会今年3月的报告指出，在未来20年里，“几乎所有企业和政府机构”都将使用人工智能，人工 智能将对社会、经济和国家安全产生深远影响。

业界人士预计，未来5至10年将是人工智能发展的关键期。仅就生成式人工智能而言，Gartner预计其将在2至5年内进入成熟期，并将带来大量的应用机会和商业潜力，是未来的重要技术趋势。

人工智能不断走入人们的工作和生活场景时，数据的采集、存储和应用也越来越面临诸多风险。概括来说，数据安全问题体现在五个方面：可复制、易泄露、来源广、危害大、监管难，这是由数据的特性决定的。

目前,AI已被应用于威胁分析、策略生成、态势感知、攻防对抗等方面,防护有效性得到充分验证。Capgemini研究结果显示,80%的公司都依靠AI来帮助识别威胁和阻止攻击。IBM指出,缺乏AI安全的企业,在抵御网络攻击方面的成本是部署了AI自动化防御系统的企业的三倍。

数字化技术发展、安全威胁加剧、国家政策法规分别构成我国AI安全产业发展的原动力、驱动力和推动力，使AI安全产业持续快速增长。

随着AI安全行业竞争的不断加剧，大型企业间并购整合与资本运作日趋频繁，国内外优秀的AI安全企业愈来愈重视对行业市场的分析研究，特别是对当前市场环境和客户需求趋势变化的深入研究，以期提前占领市场，取得先发优势。正因为如此，一大批优秀品牌迅速崛起，逐渐成为行业中的翘楚。中研普华利用多种独创的信息处理技术，对AI安全行业市场海量的数据进行采集、整理、加工、分析、传递，为客户提供一揽子信息解决方案和咨询服务，最大限度地降低客户投资风险与经营成本，把握投资机遇，提高企业竞争力。

想要了解更多中国AI安全行业详情分析，可以点击查看中研普华研究报告《2024-2029年中国AI安全行业市场全景调研与发展前景预测报告》。

本报告利用中研普华长期对AI安全行业市场跟踪搜集的一手市场数据，同时依据国家统计局、国家商务部、国家发改委、国务院发展研究中心、行业协会、中国行业研究网、全国及海外专业研究机构提供的大量权威资料，采用与国际同步的科学分析模型，全面而准确地为您从行业的整体高度来架构分析体系。让您全面、准确地把握整个AI安全行业的市场走向和发展趋势。

• 相关深度报告REPORTS

  

  2024-2029年中国AI安全行业市场全景调研与发展前景预测报告

  随着AI安全行业竞争的不断加剧，大型企业间并购整合与资本运作日趋频繁，国内外优秀的AI安全企业愈来愈重视对行业市场的分析研究，特别是对当前市场环境和客户需求趋势变化的深入研究，以期提前...

  查看详情

延伸阅读

推荐阅读

猜您喜欢