近几年，科技企业在推行新一代信息技能产品时，数据安全、数据隐私等问题广受诟病。数据作为驱动人工智能快速展开的重要根底，其安全也决议了人工智能的安全。人工智能的加快展开给数据的安全管理带来了新的机会和应战。

　　近几年，科技企业在推行新一代信息技能产品时，数据安全、数据隐私等问题广受诟病。数据安全成为当今数字化转型年代的要害急迫议题。

　　在7月8日至10日举办的2021世界人工智能大会上，数据安全、数据管理、网络安全等问题备受重视。业界以为，在人工智能深化推进城市数字化转型进程中，企业应积极主动承受监管，推进工业健康持续展开。

　　近来，桔视记录仪等25款App因存在严峻违法违规搜集运用个人信息问题，被国家互联网信息办公室根据《中华人民共和国网络安全法》相关规定，告诉运用商铺下架。

　　此前，在上海车展特斯拉车主维权事情中，特斯拉发布了维权车主车辆事发前半小时的行车数据。该行为引发了许多争议：车企该不该将行车数据揭露？人们怎么确认数据的可靠性？

　　没有大数据的搜集和根底，人工智能是无本之木。数据作为驱动人工智能快速展开的重要根底，其安全也决议了人工智能的安全。人工智能的加快展开给数据的安全管理带来了新的机会和应战。

　　“大数据驱动事务的展开，让数据安全对城市工作变得史无前例的重要，数据一旦遭到进犯，就意味着事务会停转，将形成严峻的经济损失和社会结果。”360公司创始人、董事长兼CEO周鸿祎标明，最近几年，360公司接到许多医院的报警，称医院网站被勒索软件进犯之后不能进行手术，不能给患者挂号治病。

　　近年来，城市也成为了网络勒索的重要方针，并且网络进犯的目标不只限于电脑、手机、设备、系统，还逐步扩展到数据。人工智能数据的获取、处理和运用具有极强的隐私性与范畴扩展性，关乎个人信息安全乃至国家信息安全。对政府、城市公共事业单位的数据勒索，会形成城市工作和服务堕入停摆。本年5月，美国最大的燃油运送管线遭受网络进犯被逼关停，导致美国东海岸45%的汽油、柴油等燃料供给受到影响。

　　数据不合法跨境流转或许损害国家主权和国家安全；数字信息的过度搜集和不合法运用，或许侵略公民的权力和隐私；算法的偏好或许加重社会的成见或轻视，要挟公平正义；无人驾驶轿车紧迫避险等智能决议计划或许要挟特定人群的生命……

　　全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高端对话上指出，人工智能展开与安全展开危险一起并存，这不只是一个技能问题，也是一个安全问题，一起还触及道德、法令和世界规矩等相关问题。

　　国家工业信息安全展开研讨中心副主任何小龙在人工智能大会上标明，人工智能带来的数据安全问题一方面加快了传统数据安全问题。

　　人工智能大规模的运用使得过度搜集数据安全问题进一步加重。另一方面，也带来了新式数据安全的问题。人工智能的算法对数据具有较强的依赖性，或许会带来数据投毒等新式数据安全应战。

　　算法、模型和数据构成机器学习三大柱石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上标明，以算法构建进程中上下游的工业链来看，数据的输入、数据的剖析、模型的练习、模型的决议计划、模型的上线布置运用以及模型的改造进程当中都存在相应的危险。

　　例如，在数据输入环节，假如进犯者操控了数据来历，或许进犯者能够对搜集数据的设备自身发生安全进犯，终究将经过这个链条影响到算法模型。如经过超声波影响陀螺仪，终究能够使无人机掉落。或许在模型决议计划阶段，能够经过物理进犯，使得主动驾驶车辆终究视觉辨认系统出问题，这样或许影响车辆主动行进或许对行人的判别。

　　跟着人工智能的运用，技能的乱用带来失控危险。验证码验证机制首战之地。朱季峰介绍，早在2017年，地下的黑产就现已开端用机器学习的办法做二维码辨认练习。材料标明，80%以上验证的准确性都能够经过机器学习算法主动完结线上的注册，这就发生了一系列的安全问题。

　　人脸辨认技能依托于对海量视图数据的剖析，因此数据安全直接影响着人脸辨认技能的实战运用。人工智能技能在安防范畴的运用是技能寻求落地进程最快、运用最早的练习场。

　　达闼创始人、董事长兼CEO黄晓庆标明，从数据搜集到数据处理到数据传输，处理数据网络安全问题有许多手法。从网络和数据视点要完结三个重要的使命——物理阻隔、网络阻隔、运用端到端的维护。

　　本年6月，我国公布了《数据安全法》，9月1日将开端正式施行。《数据安全法》提出以数据分级分类为中心，建立数据安全的监管准则，要求强化执行各级数据处理活动主体数据安全维护的职责与职责，为标准数据处理活动，保证数据安全供给法令根据。别的，《个人信息维护法（草案）》也行将进入三审阶段，两项法案相得益彰，推进我国个人信息维护和数据安全管理进入全新阶段。

　　在人工智能大会“大爱无疆·共生”论坛上，清华大学苏世民书院院长薛澜回忆人工智能管理形式历经回应式管理、会集管理和灵敏管理三个阶段。“现在咱们进入了相对比较会集的管理形式。该形式清晰了国家加强职业监管，促进准则落地的决计，对露出出来的各种问题采纳比较坚决的办法执行监管规矩，一起触及到需求进一步研讨的问题。”薛澜说。

　　现在，上海正研讨立项公共场所人脸辨认分级分类运用标准的当地标准，将成为全国首个立项的人脸辨认的当地性标准；展开全市人工智能数据立法调研，标准数据确权，数据同享等重要内容，推进可信人工智能的研讨。上海市人大也正在起草《上海市数据法令》。

　　此外，上海市数字证书认证中心、复旦大学核算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与运用安全国家工程实验室、上海赛博网络安全工业立异研讨院一起建议筹建数字身份与数据流转信赖技能实验室，该实验室将根据数字信赖技能的产学研生态协作，展开隐私核算、区块链、前沿暗码等数字信赖技能攻关和工业运用，支撑城市数字化转型、数据要素商场构建和网络安全系统建造。