AI安全市场前景如何 AI安全行业市场发展分析2023

• 方蔓桃 2023年4月25日 来源：百度 521 28
• 繁体

日前，国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)公开征求意见，提出生成式人工智能产品提供服务前需申报安全评估和算法备案。从去年红极一时的AI绘画到近期备受关注的ChatGPT，人工智能生成内容(以下简称“AIGCA

AI安全市场前景如何 ?我国人工智能产业正在与实体经济深度融合，成为经济社会发展新的增长引擎。国家先后出台《新一代人工智能发展规划》《科技部关于支持建设新一代人工智能示范应用场景的通知》等政策，助力人工智能产业发展。中国信通院测算，2022年我国人工智能核心产业规模达5080亿元，同比增长18%。据预测，到2030年，我国人工智能产业规模将达到1万亿元。

日前，国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(以下简称《征求意见稿》)公开征求意见，提出生成式人工智能产品提供服务前需申报安全评估和算法备案。从去年红极一时的AI绘画到近期备受关注的ChatGPT，人工智能生成内容(以下简称“AIGC”)热度不减。然而，伴随着AIGC应用的不断落地，其暴露出来的数据安全、隐私保护等问题也日益显现。

据中研普华产业研究院出版的《2022-2027年中国AI安全行业市场全景调研与发展前景预测报告》统计分析显示：

AI安全行业市场分析

信息技术推动了万物互联，也极大地推动世界向更高效、环保、便捷的方向前进。特别是大数据、云计算、区块链、人工智能等信息技术迅速发展，与实体经济各行业领域进行深入交叉融合。

随着人工智能技术在金融场景的应用不断深化，数据、算法与应用层的安全可控问题逐渐凸显。当前数据安全问题仍然十分严峻，特别是信息恶意获取、篡改、伪造和乱用，成本级低，大规模的数据泄漏时有发生，数据安全应得到全世界的广泛关注。

2022年全球人工智能收入预计同比增长19.6%，达到4328亿美元，包括软件、硬件和服务。预计2023年可突破5000亿美元大关。

AIGC是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的人工智能技术。据Gartner预测，到2025年，AIGC将占所有生成数据的10%。

由于AIGC技术需要大量的数据来进行训练和优化，以ChatGPT为例，GPT3直接把数据模型参数量从15亿提升到1750亿，接近了人脑中神经连接的数量水平。然而，海量的数据也暴露出了更大的数据安全风险。

研报指出，生成型人工智能可能在获取数据时侵犯知识产权，在数据获取与保存上存在一定法律风险，生成内容被滥用可能带来巨大的伴生风险。

在人工智能软件分支行业，人工智能应用程序占2021年上半年支出的47%，其次是人工智能系统基础设施软件(35%)。在增长方面，人工智能平台预计表现最佳，五年复合增长率为34.6%。增长最慢的部分是人工智能系统基础设施软件，其五年复合增长率为14.1%。

在AI应用程序分支，AI ERM预计在未来几年内保持最快的增长速度。人工智能生命周期软件五年年均复合增长率为38.9%。

数据、算力、算法和知识、运用、理论六个要素彼此依赖，共同构成了我国人工智能2.0发展的新生态。其中，数据的地位不言自明。

然而，在人工智能不断走入人们的工作和生活场景时，数据的采集、存储和应用也越来越面临诸多风险。概括来说，数据安全问题体现在五个方面：可复制、易泄露、来源广、危害大、监管难，这是由数据的特性决定的。

在具体危害表现上，一方面，最常见的是对数据保密性的侵害，如在金融领域，通过网络窃取人工智能系统用户的交易账单、理财情况来了解其个人资产状况和基于在线行为的支付意愿，从而快速有效地定位金融诈骗的受害者和目标群体;或是通过各种网络漏洞，窃取大量用户的指纹、虹膜、面孔、身形等个人隐私信息数据用于犯罪;也有一些手机应用软件违法违规收集用户个人信息等用于商业目的。

当前，新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。特别是在网络空间安全防护领域，人工智能在威胁识别、态势感知、风险评分、恶意检测、不良信息治理、骚扰诈骗电话检测、灰黑产识别等方面有其独特的价值和优势，应用需求呈现跨越式发展，产生了显著的溢出效应。

AI安全行业市场发展前景分析

作为数字时代“抵御风险”的关键能力，AI安全可信技术的研究和应用，将被广泛地应用于反欺诈、反洗钱、反赌博、数字身份识别、企业联合风控等领域，极大地助力企业提升风险控制能力。

AI安全作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。特别是在网络空间安全防护领域，人工智能在威胁识别、态势感知、风险评分、恶意检测、不良信息治理、骚扰诈骗电话检测、灰黑产识别等方面有其独特的价值和优势，应用需求呈现跨越式发展，产生了显著的溢出效应。

目前隐私计算技术提供方的商业模式主要分为平台建设与数据运营两大类。在未来，平台建设不仅可以在现有的金融、通信、政务等核心行业的基础上继续扩大，也可以在医疗、能源、交通等创新领域进行拓展。对于数据运营而言，从传统数据集或API调用转向隐私计算模式进行升级改造将是未来的发展趋势。根据这两类商业模式的相关数据进行测算，预计到2025年我国隐私计算市场规模将达到百亿元。

2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益，又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

在国家层面，需要进一步强化相关政策引导和立法规范。中国信息经济学会副理事长、广州大学网络空间安全学院教授齐佳音表示，《征求意见稿》为AIGC的研发和应用第一次立了规矩，使得AIGC的研发和应用有了规制框架，对于规范和引导这一领域的发展具有十分重要的积极作用。

报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向;相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

随着AI安全行业竞争的不断加剧，大型企业间并购整合与资本运作日趋频繁，国内外优秀的AI安全企业愈来愈重视对行业市场的分析研究，特别是对当前市场环境和客户需求趋势变化的深入研究，以期提前占领市场，取得先发优势。正因为如此，一大批优秀品牌迅速崛起，逐渐成为行业中的翘楚。中研普华利用多种独创的信息处理技术，对AI安全行业市场海量的数据进行采集、整理、加工、分析、传递，为客户提供一揽子信息解决方案和咨询服务，最大限度地降低客户投资风险与经营成本，把握投资机遇，提高企业竞争力。

本报告利用中研普华长期对AI安全行业市场跟踪搜集的一手市场数据，同时依据国家统计局、国家商务部、国家发改委、国务院发展研究中心、行业协会、中国行业研究网、全国及海外专业研究机构提供的大量权威资料，采用与国际同步的科学分析模型，全面而准确地为您从行业的整体高度来架构分析体系。让您全面、准确地把握整个AI安全行业的市场走向和发展趋势。

未来行业市场发展前景和投资机会在哪?欲了解更多关于行业具体详情可以点击查看中研普华产业研究院的报告《2022-2027年中国AI安全行业市场全景调研与发展前景预测报告》。报告对行业相关各种因素进行具体调查、研究、分析，洞察行业今后的发展方向、行业竞争格局的演变趋势以及技术标准、市场规模、潜在问题与行业发展的症结所在，评估行业投资价值、效果效益程度，提出建设性意见建议，为行业投资决策者和企业经营者提供参考依据。

• 相关深度报告REPORTS

  

  2022-2027年中国AI安全行业市场全景调研与发展前景预测报告

  AI安全行业研究报告中的AI安全行业数据分析以权威的国家统计数据为基础，采用宏观和微观相结合的分析方式，利用科学的统计分析方法，在描述行业概貌的同时，对AI安全行业进行细化分析，重点企业...

  查看详情

延伸阅读

推荐阅读

猜您喜欢