生成式人工智能技术监管政策 2023年人工智能安全问题分析

• 黄江 2023年8月8日 来源：东方财富 927 58
• 繁体

生成式人工智能技术快速发展，应用场景不断拓展，产业生态不断完善，在给经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。

工信部公布的数据显示，中国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家，创新成果不断涌现。业内人士认为，一批行业龙头和独角兽企业的快速发展，带动中国人工智能产业集群加速成长。

生成式人工智能技术监管政策

今年以来，生成式人工智能技术快速发展，应用场景不断拓展，产业生态不断完善，在给经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。

近期，国家层面密集出台针对人工智能的监管政策，4月28日，中共中央政治局会议提出，要重视通用人工智能发展，营造创新生态，重视防范风险;7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广电总局公布《生成式人工智能服务管理暂行办法》，提出采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

地方层面也先后出台了促进人工智能规范发展的相关政策，北京市提出，探索对人工智能产业实行包容审慎监管，持续推动监管政策和监管流程创新，做好安全评估，推进算法备案，引导创新主体树立安全意识，建立安全防范机制;深圳市提出，建立健全公开透明的人工智能监管体系，依法依规、包容审慎开展监管，围绕网络安全、数据安全、科技伦理、就业促进等领域建立风险防范和应对机制，防范和打击违法行为，引导人工智能相关企业和组织健康发展。

2023年人工智能安全问题分析

人工智能是一把双刃剑早已成为全球共识。斯坦福大学发布的《2023年人工智能指数报告》提到，对127个国家的立法记录调研的结果显示，包含“人工智能”的法案被通过成为法律的数量，从2016年的仅1个增长到2022年的37个。

“要强化人工智能安全治理工作，从数据安全、网络安全、算法安全、算力安全等多方面入手，实现人工智能对经济的良性促进作用，发展负责任的人工智能产业。”北京交通大学中国高端制造业研究中心执行主任朱明皓表示。

实际上，发展大模型不只是在数据、算力、算法这三大要素的基础上进行，在不断优化训练的过程中，安全问题也不可忽视。在360集团创始人周鸿祎看来，人工智能大模型仿佛一把双刃剑，如今大模型的安全问题已经超越了内容安全。

目前大模型发展还处于快速变化和不断创新阶段，要更好地抓住大模型发展机遇，真正发挥出大模型的优势，除了加强监管、防范技术风险以外，也要加强创新，在更多的业务场景中加快落地。

根据中研普华研究院《2023-2028年AI安全行业市场深度分析及发展策略研究报告》显示：

早在2017年，国务院就印发《新一代人工智能发展规划》，提出“结合各地区基础和优势，按人工智能应用领域分门别类进行相关产业布局”，鼓励地方围绕人工智能产业链和创新链，打造人工智能产业集群和创新高地。

不少地方顺应人工智能发展势头，规划布局本地人工智能特色产业集群。2022年9月，《重庆市发展汽车软件与人工智能技术应用行动计划(2022—2025年)》发布，提出做大做强汽车软件与人工智能产业集群。今年6月，《北京市机器人产业创新发展行动方案(2023—2025年)》发布，提出到2025年培育100种高技术高附加值机器人产品、100种具有全国推广价值的应用场景，打造国内领先、国际先进的机器人产业集群。

《中国新一代人工智能科技产业发展 2023》指出，中国人工智能产业集群主要分布在京津冀、长江三角洲、珠江三角洲和川渝地区的重点城市。通过外部创新资源的引入和内部创新资源的激活，西部地区的西安、中部地区的武汉和长沙以及东北地区的沈阳、大连、哈尔滨等出现人工智能产业集群雏形。

人脸识别技术应用管理最新规定

为规范人脸识别技术应用，保护个人信息权益及其他人身和财产权益，维护社会秩序和公共安全，8月8日，国家网信办发布《人脸识别技术应用安全管理规定(试行)(征求意见稿)》(下称《规定》)，向社会公开征求意见。

目前，人脸识别技术已经被广泛运用于身份认证、移动支付、手机解锁、出入门禁等诸多方面。《人脸识别安全白皮书》数据显示，人脸识别应用最多是安防占54%，其次是金融占16%。此后分别是娱乐10%、医疗7%、电商零售6%、出行3%、政务2%、其他2%。但也要注意到，人脸识别技术在给个人身份认证提供便利的同时，也存在信息泄露和个人身份被盗用的风险。

《规定》明确，只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，方可使用人脸识别技术处理人脸信息。同时，除法律、行政法规规定不需要取得个人同意的情况外，使用人脸识别技术处理人脸信息应当取得个人的单独同意或者依法取得书面同意。

在人脸识别技术应用场所方面，《规定》要求，旅馆客房、公共浴室、更衣室、卫生间及其他可能侵害他人隐私的场所不得安装图像采集、个人身份识别设备。宾馆、银行、车站、机场、体育场馆、展览馆、博物馆、美术馆、图书馆等经营场所，除法律、行政法规规定应当使用人脸识别技术验证个人身份的，不得以办理业务、提升服务质量等为由强制、误导、欺诈、胁迫个人接受人脸识别技术验证个人身份。

同时，在公共场所安装图像采集、个人身份识别设备的建设、使用、运行维护单位，对获取的个人图像、身份识别信息负有保密义务，不得非法泄露或者对外提供。

随着人工智能、大数据的发展，人脸识别技术成为热门的AI技术。如今，从案件侦破、交通安检、课堂监控到金融支付、社区门禁、手机解锁，人脸识别技术不断拓展其应用场景。但超出普通人认知的是，人脸具有唯一性的生物识别信息，是敏感个人信息，它裸露在无处不在的摄像头下，极易获得。

根据国家市场监督管理总局发布的《个人信息安全规范》明确规定，人脸信息属于生物识别信息，也属于个人敏感信息，收集个人信息时应获得个人信息主体的授权同意。《民法典》第一千零三十五条明确规定，处理个人信息，应征得该自然人或者其监护人同意。显而易见，大部分情况下人们的“脸面”堂而皇之地被出卖了。

数字经济时代，只有尊重个人自由，强化个人信息保护，依法进行数字社会、智慧城市建设，方为人间正道。在面临数字化对个人信息安全的挑战时，管理部门应全面审视数字化发展的法治问题，推动建立健全相关法律法规，加强个人隐私保护力度。公民也得处处留心，提高维权意识。如此才能保住“脸面”，更好地享有现代智慧生活。

《2023-2028年AI安全行业市场深度分析及发展策略研究报告》由中研普华研究院撰写，本报告对该行业的供需状况、发展现状、行业发展变化等进行了分析，重点分析了行业的发展现状、如何面对行业的发展挑战、行业的发展建议、行业竞争力，以及行业的投资分析和趋势预测等等。报告还综合了行业的整体发展动态，对行业在产品方面提供了参考建议和具体解决办法。

• 相关深度报告REPORTS

  

  2023-2028年AI安全行业市场深度分析及发展策略研究报告

  AI安全行业研究报告主要分析了AI安全行业的市场规模、AI安全市场供需求状况、AI安全市场竞争状况和AI安全主要企业经营情况、AI安全市场主要企业的市场占有率，同时对AI安全行业的未来发展做出科...

  查看详情

延伸阅读

推荐阅读

猜您喜欢