2019年十大精彩AI学术论文盘点
|
推荐理由:随着目标识别的规模越来越大、粒度越来越细,类别不平衡、遮挡、分类模糊性、物体尺度差异性等等问题越来越明显。我们很容易想到,人类视觉识别能力中的一个重要环节是「基于常识的推理」,比如辨认出了 A 物被 B 物遮挡之后,对这两个物体的识别都能更准确。这篇论文就把这种思想融入到了 RCNN 模型中,作者们为模型设计了显式的常识知识,并且用基于类别的知识图把图像中物体的语义知识表示出来。 一方面,在感知模型中加入常识、加入基础的推理能力是构建「视觉智能」的趋势;另一方面,其它研究者虽然在更早的研究里就提出过「从图像的目标识别生成关系图」,但是关系图生成了以后有什么作用呢,这篇论文就展示了,可以用图进一步改善目标识别任务本身的表现。
除此之外,作者们还做了许多改进,让模型更适应大规模物体识别、增强阶段之间的联系、优化识别效果。最终,模型的 mAP 在多个数据集上都有大幅提高。作者们的方法比较轻量,可以用在各种目标识别主干网络上,也可以集成各种不同的知识来源。 论文地址: 代码开源:https://github.com/chanyn/Reasoning-RCNN 8.Social Influence as Intrinsic Motivation for Multi-Agent Deep Reinforcement Learning ( ICML 2019 ) 在多智能体强化学习中把社交影响作为固有动机 作者:MIT,DeepMind,普林斯顿大学
推荐理由:随着多智能体强化学习研究越来越多,为智能体设计/让智能体学会行动协调和信息交换成了一个重要课题。这篇论文中作者们的着力点就是在多智能体环境下,让智能体从其他智能体身上学会固有的社交动机。他们的方法是,如果一个智能体能影响其他智能体、让它们在协同和沟通方面都有更好的表现,那就奖励它。更具体地,作者们在论文中展示了,如果一个智能体让其他智能体的行为发生了较大的改变,那奖励它就更有可能鼓励不同的智能体之间有更多的共同信息交换。这样的机制会让智能体形成归纳偏倚,更有意愿学会协同运动,即便这些智能体都是各自独立地训练的。并且影响力的奖励是使用一种分布式的方式来计算的,能够有效解决突发通信的问题。这篇论文获得了 ICML 2019 最佳论文荣誉提名。 同期还有另一篇来自 Facebook AI 研究院的论文 Learning Existing Social Conventions via Observationally Augmented Self-Play (arxiv.org/abs/1806.10071)从另一个角度设计了协调机制:在加入一个团体之前,新的智能体要通过观察和重放机制学习这个团地当前的行为模式(人类角度的「风俗习惯」),让自己能够融入,避免加入团体之后它的策略无法得到奖励(即便在无合作的竞争性环境下可以得到奖励)。不过大概还是前一篇学会固有社交动机更高明一点?相比之下它可是明明白白地促进了智能体都变得更协调、更主动沟通啊(笑)。 论文地址:https://arxiv.org/abs/1810.08647 9.Weight Agnostic Neural Networks 权重无关的神经网络 作者:谷歌 AI Adam Gaier 和 David Ha
推荐理由:现代的神经网络研究都有一个固定的模式,固定网络架构,通过优化寻找好的连接权重(训练)。这种惯例也引发了一些讨论,「如果我们把网络结构看作先验,把连接权重看作学到的知识」,那么我们能在多大程度上把知识以结构(先验)的形式集成在模型中呢?以及这样做是好还是坏呢? 这篇论文就是一次直接的探索,网络的训练过程不是为了寻找权重,而是在相对固定且随机的权重下寻找更好的网络结构。对于集成了好的先验的网络结构,即便网络中所有的权重都统一且随机的也能有好的表现;在此基础上如果能允许分别优化不同的权重,网络的表现就可以更上一层楼。这种方式找到的先验知识也会以网络结构的形式直接体现出来,有更好的可解释性。
如果说「固定网络结构,寻找权重」和「固定权重、寻找网络结构」分别就像「气宗」与「剑宗」,那么现在双方终于都登场了,我们可以期待未来有更多的好戏上演。 论文地址:https://arxiv.org/abs/1906.04358 详细介绍:https://www.leiphone.com/news/201906/wMjVvtWT2fr8PcxP.html 代码开源:https://weightagnostic.github.io/ 10.XLNet: Generalized Autoregressive Pretraining for Language Understanding XLNet:用于语言理解的通用自回归预训练 作者:CMU,谷歌 AI
(编辑:52刷机网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |





