审视全球十大AI事件，AI治理如何做到趋利避害

（原标题：审视全球十大AI事件，AI治理如何做到趋利避害）

回顾过去几年，AI负面案件频出，政府出台一系列政策以加强管控，但政策法律似乎无法完全解决这一问题，更需要与学术界、企业界通力合作，从技术研发、治理手段、伦理建设等方面完善。

人工智能技术发展迅猛的同时，引发了很多关于音视频造假、监控隐私、算法偏见、创作版权、就业等各个方面的社会性问题。

对此，雷锋网对旷视AI治理研究院今日盘点的“2019全球十大AI治理事件”进行了解读。

比起聚焦在镁光灯下的热点AI落地应用，这十大案件却反映出了AI落地的不光彩一面。

如果说解决AI治理的核心命题在于新时代下的伦理与法律规范，那么2020将是考验其是否切实可行的关键一年。

为什么AI会让我们有危机感？

特征一：新生事物对传统伦理与法律的挑战

典型案例：AI编写假新闻、智能助手劝人“自杀”

事件说明：2019年2月，OpenAI公布了一款可编写新闻的软件，如提供“一节装载受控核材料的火车车厢今天在Cincinnati被盗，下落不明”，软件可编写出7个段落组成的虚假新闻。考虑到这款软件采用的无监督语言模型GPT-2滥用可能带来的危害，OpenAI仅发布部分代码和研究论文供研究人员试验。

2019年12月，某用户在借用智能音箱查询心脏问题时，该语音助手给出的答案却吓坏了该用户，“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭……请确保刀能够捅进你的心脏。”对此，事故方回应称，语音助手可能从任何人都可以编辑的维基百科上下载了有恶意性质的文本。

警示意义：在以上两起案例中，AI已经具备了一定的文本学习并生成文字的能力。如果一开始收集的数据就被曲解，那么输出的结果也会反映这一点。这极大地考验着研究者会为其灌输怎样的价值导向。不过，现在AI还无法基于理解，实现自主学习人类的伦理道德。

特征二：社会发展与人类平权的固有矛盾

典型案例：性取向检测、未来被淘汰职业

事件说明：追溯到2017年，斯坦福研究人员利用超过35,000张美国交友网站上男女的头像图片训练，让机器学习识别人们的性取向。结果发现，机器识别的准确率要远高于人类。

同年，BBC发布了10年后365种职业被淘汰的概率，其中，电话推销员、打字员、会计位居前三，而这些职位的一个共同特征是，均属于大量重复性劳动，机器经由训练即可掌握。

警示意义：原本性取向话题，以及机器取代人力的焦虑是任何一个国家、社会由来已久的矛盾，然而AI像一个不懂事的孩子，直白地将问题放大，引发社会广泛争议。

社会要发展，势必要提高生产力，AI俨然是眼下最具变革性的技术。在这样的大背景下，那些前AI时代就在社会中存在的难题，能否随着社会的发展得到妥善解决呢？

特征三：“裸奔”时代，公民的安全与隐私问题

典型案例：AI换脸、杭州人脸识别第一案、监测头环

事件说明：2019年8月，一款AI换脸软件在社交媒体刷屏，用户只需要一张正脸照就可以将视频中的人物替换为自己的脸。由于用户疯狂涌进，使得该软件运营商服务器一晚上就烧掉了200多万人民币的运营费用。

2019年10月，浙理工某教授状告杭州野生动物世界违规收集人脸识别信息。他认为，该类信息属于个人敏感信息，一旦泄露、非法提供或者滥用，将极易危害包括原告在内的消费者人身和财产安全。

2019年11月，浙江一小学戴号称“脑机接口”的头环视频播出。这些头环宣称可以记录孩子们上课时的专注程度，生成数据与分数发送给老师和家长。随后，该行为被当地教育部门叫停。

警示意义：对于当下应用广泛的人脸识别等涉及公民隐私的身份认证技术，在为社会提供便利的同时，是否考虑过公民是否愿意、甚至是知情的情况下交出人脸数据？

人脸数据具有不可逆的唯一性，一旦与用户家庭住址、消费行为等数据打通，个人隐私相当于“裸奔”。相比国外当前出台的保护和禁止条例，国内对隐私的保护力度显然不足。

特征四：事故发生后权责认定的不清晰

典型案例：自动驾驶事故频发

事件说明：2018年3月，美国亚利桑那州坦佩市，一辆处于上路测试的Uber自动驾驶汽车撞死行人，根据行车记录仪显示，事故发生时这辆汽车的安全员一直在看车辆中控下方，被撞女性则是从漆黑的道路上突然出现的。尽管随后Uber全面停止了自动驾驶车辆测试，但这场事故的责任方究竟如何判别，却引发了更多关注。

警示意义：近年来，自动驾驶汽车在道路安全事故中没少惹祸，甚至发生多起致人死亡案件。如何消除安全隐忧，提升安全系数是当下所有自动驾驶公司需要解决的问题。

自动驾驶的终极目标是消除事故伤亡，但以生命作为代价“换取”科技进步的问题，在未来很长一段时间内值得立法者和管理者思考。

针对AI治理，我们不能坐视不管

正如上文案例所述，科学发展中，我们一度关心技术的工作原理，试图从技术角度解释和改善安全问题的出现。但实践证明，当下的AI技术并不是在任何地方都是安全的。这一方面与技术的局限性有关，也跟实际的应用对象、场景、环境密切相关。

（编辑：52刷机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!