2019AI大势:自动驾驶寒冬、NLP大跃进、Deepfake成魔!
|
今年5月,旧金山成为美国第一个禁止警察和其他政府官员使用人脸识别的大城市;马萨诸塞州波士顿的萨默维尔地区则紧随其后。在接下来的几个月内,旧金山的邻居奥克兰和伯克利也通过了类似的法律。这些法律是由美国公民自由联盟牵头的,该联盟旨在促进国家立法。 在华盛顿,美国国会议员抨击了国土安全部对该机构在机场和边境使用该技术的计划。参议院和众议院的立法者提出了至少十二项法案,其中许多法案得到了两党的支持。这些法案旨在限制使用面部识别在压制人身,剥夺住房和创造利润方面的影响。 欧洲监管机构推动将面部图像分类为符合现有隐私法规的生物识别数据。欧盟委员会正在考虑立法来针对私人组织和公共机构“不加区别地使用”面部识别的行为。尽管如此,法国还是在10月准备了一项基于该技术的国家识别项目。 中国对人脸识别的使用在美国引起了反对,美国联邦贸易当局禁止向几家中国公司出口美国技术。 2016年,美国国家电信和信息管理局发布了人脸识别指南,要求公司保持透明,实行良好的数据管理并允许公众对与第三方共享人脸数据的某些控制权。尽管该技术的主要供应商是NTIA的成员,但尚不清楚他们是否遵守这些准则。 虽然立法限制使用人脸识别的初衷是为了保护公民的隐私,但不同的立场以及各自为政的作风,反而可能带来一些负面的效果。 今年6月份,亚马逊网络服务公司首席执行官Andy Jassy大吐苦水:“求求国会赶紧统一立法的吧,要不然我们将会面对的是:在美国50个州有50种不同的法律法规!”这样的混乱局面甚至可能让当地的执法部门都陷入困惑之中。 NLP飞跃,语言模型变得精通语言 早期由Word2Vec和GloVe embeddings支持的语言模型产生了令人困惑的聊天机器人、具有中学阅读理解能力的语法工具,以及勉强能看的翻译。但最新一代的语言模型变得如此之好,甚至有人认为它们很危险。 2019年自然语言处理领域发生了什么呢?一个新的语言模型生成了新闻文章,读者评价其和《纽约时报》一样可信;同样的语言模型还为《纽约客》的一篇文章做出了贡献。令人欣慰的是,这些模型没有像人们担忧的那样散布大量虚假信息。 2019年,研究人员在让机器理解自然语言方面取得了飞跃。通过对巨大的、未标记的数据集进行预训练,新模型通常可以熟练掌握自然语言。然后,他们通过在专门语料库上进行微调来掌握给定的任务或主题。 早期的模型如ULMFiT(由Jeremy Howard和Sebastian Ruder提出)和ELMo(来自艾伦人工智能研究所和华盛顿大学)展示了预训练的潜力,而谷歌的BERT是这种方法的第一个突破性的成功。BERT于2018年底发布,在GLUE阅读理解基准测试中得分之高,以至于测试的组织者首次将模型的表现与人类的baseline分数进行了比较。今年6月,微软的MT-DNN模型首次击败了人类。 今年2月中旬,OpenAI发布了GPT-2,一个预训练的通用语言模型,其创建者甚至认为它太过危险而不能发布,因为它有能力生成令人信服的文章。GPT-2使用40GB的Reddit评论进行了训练,并没有引发假新闻的大灾难,但确实为一部小说、一首前卫的歌词,以及《权力的游戏》的同人小说做出了贡献。OpenAI最终在11月发布了完整版本的模型。 在这期间,来自百度、卡内基梅隆大学、谷歌大脑、Facebook等其他机构的一系列模型依次超越了NLP基准。其中许多都基于transformer架构,并利用了BERT风格的双向编码。 新闻的背后:2018年7月,就在BERT诞生前不久,DeepMind研究员Sebastian Ruder预测了预训练对自然语言处理的影响。此外,他还预测,NLP的突破将彻底改变整个人工智能。他的论点基于2012年前后预训练对计算机视觉模型的激发。许多业内人士将深度学习的爆炸式增长追溯到这一刻。 现状:尽管经过了一年的创新,语言模型仍然有很大的增长空间:即使是1.5万亿参数的GPT-2也经常吐出一堆令人费解的文字。至于最新的模型是否有能力用铺天盖地的虚假信息扰乱民主,即将到来的美国选举季将检验这一点。 从《星际争霸II》到机器手解魔方:机器学习更多地依赖模拟数据 机器学习的未来可能更少地依赖于收集真实数据,而更多地依赖模拟环境。 有了足够的高质量数据,深度学习就像变魔术一样有效。但是,当样本很少的时候,研究人员就用模拟数据来填补空白。 2019年,在模拟环境中训练的模型完成了比该领域先前工作更复杂、更多样的壮举。在强化学习方面,DeepMind的AlphaStar在复杂战略游戏《星际争霸II》(StarCraft II)中取得了特级大师段位——能够打败99.8%的人类玩家。OpenAI Five训练了一个由5个神经网络组成的团队,打败了Dota 2的世界冠军。但这些模型在模拟世界学习,学会的是在模拟世界中行动。其他研究人员将AI在模拟中学习到的技能迁移到现实世界中。 OpenAI的Dactyl机械臂在虚拟环境中花费了相当于13000年的模拟时间,开发出操作魔方所需的灵活性。然后将这些技能应用到一个真实魔方上。当还原一个魔方需要15次以内的旋转时,它的成功率达到60%。当还原魔方需要更多次操作时,它的成功率下降到20%。 加州理工学院的研究人员训练了一个神经网络来区分重叠地震和同时发生的地震,方法是模拟横跨加州和日本的地震波,并将模拟结果作为训练数据。 亚马逊旗下的Aurora自动驾驶汽车部门同时进行数百次模拟,以训练其模型在城市环境中导航。该公司正在以类似的方式训练Alexa的对话能力、送货无人机和机器人。 模拟环境,诸如Facebook的AI Habitat,谷歌的强化学习行为套件,以及OpenAI的Gym,都可以为AI掌握任务提供资源,例如优化纺织生产线,填充3D图像中的空白点,以及在嘈杂的环境中检测对象。在不久的将来,模型可以探索分子模拟,以了解如何设计具有预期结果的药物。 冲突爆发:符号主义和连接主义的古老争论再燃 以Twitter为阵地,以加里·马库斯(Gary Marcus)为首的长达一年的争论,为围绕人工智能发展方向数十年的争论注入了新的活力。 马库斯是纽约大学教授、作家、企业家,以及基于逻辑的AI的鼓吹者,他发起了不懈的Twitter争论,试图打破深度学习的根基,并推广其他人工智能方法。 马库斯重新点燃了所谓的符号主义者和连接主义者之间的古老争论,前者坚持认为基于规则的算法对认知至关重要,而后者则认为将足够多的神经元与正确的损失函数连接起来是获得机器智能的最佳途径。 (编辑:52刷机网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |
