“硬”监管与“软”治理——美欧最新人工智能监管政策分析

“硬”监管与“软”治理——美欧最新人工智能监管政策分析
作者:曹建峰(腾讯研究院高档研究员)  近期以来,美国和欧盟先后发布人工智能技能开展的监管方针,预示着人工智能(AI)将迎来监管年代。但美欧监管途径截然不同,欧盟的“硬”监管形式意在加强监管以强化个人权力维护,美国的“软”办理形式则竭力约束监管规模以促进立异与开展。特别值得重视的是,欧盟人工智能监管结构连续了其《通用数据维护法令》(GDPR)的长臂统辖理念,意图经过欧盟立法为全球数字监管树立规范,将来或许涉及我国科技公司。在科威特哈瓦利省举办的机器人和人工智能节上,孩子们与现场的机器人互动。新华社发  欧盟:呼吁对“高危险”AI运用加强监管??  2月19日,欧盟委员会发布了新的数字战略,这是继2015年5月发动单一数字商场战略之后,欧盟面向数字化转型的又一纲领性战略。与之一道发布的还有“人工智能白皮书”和“数据战略”。欧盟出台数字战略,不只意在增强欧盟的技能主权、工业领导力和经济竞赛力,并且期望像《通用数据维护法令》(GDPR)那样,经过欧盟立法为全球数字监管树立规范,给全球数字经济开展带来继续性影响。  人工智能白皮书在2018年4月出台的欧盟人工智能战略的基础上,提出了出资和监管并重的思路,一方面将继续加强对芯片、算法、量子核算等技能和工业的出资;另一方面将经过树立监管结构来防备自动化决议计划不透明、算法轻视、隐私侵略、犯罪行为等AI运用相关危险。旨在加强技能主权,保证技能信赖,使各种危险和潜在危害最小化,一起防止过度监管。首要包含以下方面。  一是采纳分类监管方法,并非一切的AI运用都会遭到监管,监管只针对“高危险”AI运用。但“高危险”的判别规范(即“很有或许/有或许呈现严重危险”)高度归纳,十分含糊,存在很大解说空间,赋予监管较大的自在度,不扫除将来呈现监管泛化。详细或许包含哪些范畴和运用场景,有待将来出台监管名单,来尽头罗列,并可定时评价、修订,白皮书也罗列了医疗、交通、动力等范畴。此外还有一个兜底规矩,即不管是否在受监管的范畴,只需AI体系被以为具有高危险,就应当遭到监管,这会进一步扩展监管的规模。例如,当时广泛运用的AI人脸辨认和AI招聘都是“高危险”运用,而这两种AI运用都被责备造成了种族或性别等社会轻视。  二是高危险体系需求恪守严厉的强制性要求。这些要求包含练习数据、数据记载、信息供给与透明度、安全可靠与准确无误、人类监督和干涉等五个方面。值得一提的是人类干涉,存在方法和程度上的差异:有些决议(如社会福利请求)只能由人类做出,不能交给AI体系来决议;有些决议(如信用卡请求)尽管可以由AI体系处理,但之后可以向人类提出请求;有些AI体系需求具有封闭功用,如自动驾驶轿车的封闭按钮,AI体系超出规划的运转条件时应自动中止运转。此外,比较之前走漏出来的文件考虑在3-5年内制止在公共场所运用人脸辨认技能,白皮书并未制止人脸辨认的运用,但将约束运用景象并要求采纳安全办法。而关于在公共场所运用人脸辨认技能,欧盟委员会后续将评论确认合理的运用场景以及一起的安全办法。  三是连续长臂统辖思路,或许影响他国科技公司。新的监管结构连续了《通用数据维护法令》(GDPR)树立的长臂统辖规矩,即在欧盟境内供给AI相关产品或服务的一切相关主体都需求遭到监管,恪守强制性要求,不管其是否在欧盟境内设有经营场所。这意味着欧盟以外的科技公司或许遭到监管,我国科技公司也不破例。  四是树立包含事前、事中、过后各个环节的全面监管机制。事前,为了保证高危险AI运用恪守强制性要求,由监管部门对其进行合规认证评价,包含测验、监测和认证程序,以及对在研制阶段运用的算法和数据集进行检查。事中和过后,加强法令,包含监测合规与否,监管部门或第三方组织对AI运用进行测验。  五是不在监管规模之内的AI运用,不需求恪守这些强制性要求。但针对不受监管的AI运用树立自愿认证机制,即假如不受监管的AI运用自愿恪守强制性要求或许特别为自愿机制树立的相似要求,则可以被颁发质量标签,标明该AI体系是可信的。自愿标签机制将鼓舞职业自动合规,或许进一步扩展监管规模。  美国:着重审慎监管以促立异开展  无独有偶,本年1月,在出台美国国家AI战略满一年之际,美国政府发布了《人工智能运用监管攻略》。《攻略》提出了十大监管准则,包含大众对AI的信赖、大众参加、科研操行和信息质量、危险评价与办理、本钱效益剖析、灵敏性、公正无轻视、发表与透明度、安全可靠、联邦组织间和谐等层面。首要呈现出以下三个特色。  着重监管应有助于立异与开展。美国AI方针的底子意图在于,增强美国在AI的科学、技能、经济等方面的全球领导位置。AI监管也需求服务于这一底子意图。就AI监管的意图而言,与维护技能、经济和国家安全、隐私、自在、法治、知识产权等美国价值平等重要的是,促进稳健的立异生态体系,削减、移除AI技能开展和运用面对的不必要妨碍,继续促进技能和立异的前进。所以《攻略》要求充沛评价监管对AI立异和开展的影响,防止采纳阻止AI立异和开展的监管、非监管办法,以及或许给AI体系施加过高规范的预防性途径。  着重监管的科学性、灵敏性。AI的监管、非监管办法需求充沛考虑AI相关的科学、技能信息和程序,防止不切实践的拍脑袋立法。监管需求采纳危险途径来评价哪些危险可被承受,哪些危险或许导致不被承受的危害,或许带来的危害超出了带来的好处。这意味着AI监管的意图不是要消除一切的危险,也不或许消除一切危险,而是对危险进行办理,将危险控制在最小的或许社会可承受的极限。所以需求采纳本钱效益剖析,在对AI进行监管之前,充沛考虑AI开展运用的社会本钱、好处、影响等,以权衡AI活动的利害并衡量危险巨细。此外,监管、非监管办法要具有满足的灵敏性和弹性,习惯技能快速改变和AI运用迭代,生硬的、规制技能细节的立法是不切实践的,无效的。  着重不监管和非监管办法。可以说,关于AI运用,美国是以不监管为起点的。假如既有的监管是充沛的,或许新的监管不符合本钱效益剖析,此刻抱负的途径便是不再加强,或许采纳非监管的办法来应对特定AI运用的危险。可以预见,美国将更偏重不具有法令强制性的非监管办法,包含细分范畴的方针攻略或结构,试点项目和试验,职业界自愿的一致规范等。  谁更胜一筹???  美国和欧盟先后出台监管方针,标明人工智能将正式迎来监管年代。监管方针将成为美国和欧盟各自加强“科技主权”的重要东西。人工智能白皮书的出台,标明欧盟的人工智能监管态度现已有所平缓,可是与美国比较,存在底子性差异。上一年全球AI草创公司一共融资270亿美元,其间美国占了170亿美元,远超其他国家,美国活泼的立异生态在某种程度上表征着美欧监管差异。  首要,监管意图和初衷存在明显差异。欧盟人工智能监管结构连续了GDPR的立法初衷,过火着重隐私等个人权力维护和AI运用的负面影响。相反,美国则愈加着重对AI立异与开展的促进,所以把为AI运用创设“安全港”、监管破例、监管豁免等提到了很高的位置。“安全港”准则是美国在互联网年代一骑绝尘的取胜法宝,美国期望在AI范畴仿制这一成功经验。  其次,从监管规范看,欧盟低门槛监管,美国高门槛监管。高度含糊的规范意味着,欧盟为AI运用进入监管范畴设置了较低的门槛。监管要求详细入微,监管和法令掩盖全过程,AI开展运用将面对更大规模和更大程度的监管压力,技能和工业影响不容小觑。相反,美国所倡议的科学审慎监管、危险评价与办理、本钱效益剖析、灵敏灵敏等理念,不只会很大程度紧缩监管的空间,并且不会使监管要求死板,对技能和工业开展愈加友爱。  从监管特色剖析,欧盟归于“硬”监管,美国则是“软”办理。欧盟的监管途径旨在将新技能相关的任何或许危险降到最低,而非经过发明技能友爱的方针环境来下降AI运用的门槛,所以过度着重监管的迫切性、必要性和重要性,期望经过政府认证和答应来强化对“高危险”AI运用的监管。相反,美国紧缩监管空间,不意味着毫不作为,而是给技能和职业友爱型的非监管办法和“软法”办理留出更大空间,防止监管影响新技能盈利的最大化开释。  全球来看,放眼整个数字经济范畴,美国和我国是领头羊,联合国2019年的数字经济陈述显现,全球最大的70个数字渠道公司的总市值中美占了90%,区块链相关专利中美占了75%,全球物联网开销中美占了50%,全球云核算商场份额中美占了75%。而美国之所以可以在互联网年代领先于全球,很大程度上得益于职业自律为主的轻监管,而欧盟对互联网的强监管使欧盟失去了互联网年代的机会。现在,欧盟对人工智能技能的强监管预兆一方面具有约束美国等外国技能和工业力气以便迂回打造自己的“技能主权”的考虑,另一方面却或许适得其反,让欧盟失去AI年代的机会。而美国倡议的AI办理的“软法”途径则寻求监管的灵敏性,防止过度监管,或许更值得学习。  对我国人工智能工业开展的启示  榜首,要继续加强突破性技能范畴的研制投入和人才培养。在推进监管的一起,美欧继续加强科技研制投入,例如,美国计划在未来两年内使出资于人工智能和量子核算的研制投入翻倍并打造全球首个量子互联网,欧盟也将明显地加强对AI、量子核算、5G和6G、区块链等突破性技能的研制投入,这标明美欧对下一代数字技能和工业的竞赛日趋加重。我国在基础研究、芯片、中心算法、人才培养等方面尚存短板,需求继续加大对人工智能、量子核算等突破性技能的支撑和投入力度。  第二,在全球“技能主权”竞赛布景下,需求容纳审慎监管AI运用。数字年代,全球“技能主权”竞赛趋于剧烈,监管方针是重要的东西,例如美国近年来加大对AI等前沿数字技能的出资和出口控制,便是出于这一意图。因而美欧的AI监管尽管存在差异,差异的存在是因为工业开展情况不同,但异曲同工,终究都是为了打造技能和工业竞赛力。在这样的布景下,美国的AI监管方针样本更符合我国的技能和工业实践,需求遵从容纳审慎的理念,经过多方参加、危险评价、本钱效益剖析等机制,保证立法和监管的科学化、精细化、灵敏化,并可考虑树立“安全港”规矩或许监管破例来鼓舞AI运用,一起依托监管之外的多元化办法,如规范、攻略、试点等,来一起促进我国的技能立异和工业开展。  第三,有必要切实加强世界合作,活跃推进世界AI规范设定。除了面向国内的方针行动,美欧也在活跃树立相关的世界联盟、“数据沙龙”等,希冀主导数据活动、数字税收以及AI技能、道德、办理等方面的世界规范。我国也需求加强相关世界合作,活跃倡议咱们的人工智能开展理念。  《光明日报》( 2020年05月14日?14版)