AI领域最具影响力的论文是？超过Bengio和LeCun的被引记录

年度被引次数最多的论文，当然是网络更深、性能更强大的 ResNet——《Deep Residual Learning for Image Recognition》，这一方法赢得了 ImageNet 2015、以及 COCO 竞赛的冠军，也获得了 CVPR2016 的最佳论文奖：该研究的作者是、张祥雨、和（被引次数 36,000；其中仅在 2019 年就增长了 18,000 余次）。

等人提出的「 ResNet」和「基于区域卷积的快速物体检测 FasterRCNN」等技术目前被学术和工业界广泛采用，对的基础研究具有里程碑式的意义。这些研究的思路也被应用在了之外：ResNet 的思想也启发了 的 AI 程序 AlphaGo Zero，并已被应用到了、等不同领域。

ResNet 现在甚至也成为了硬件衡量算力的 Benchmark 标准。参与这一研究的四名中国学者如今也都广为被人们所知，当时他们均任职于亚洲研究院视觉计算组。

值得注意的是，这些「屡次打破记录的 GPU 加速卷积」也可以追溯到 Schmidhuber 及其弟子们的研究。AlexNet 的作者 Krizhevsky 在其论文里引用了 DanNet，后者是第一个充分利用 CUDA，并在图像识别挑战上超越人类水平（2011 年）的卷积。DanNet 在 2011 年的 ICDAR 中文手写内容识别竞赛、IJCNN 2011 交通信号识别竞赛、ISBI 2012 竞赛以及 ICPR 2012 医疗影像识别竞赛中获得了冠军。

作为目前卷积中最著名的一种，ResNet 比 DanNet 和 AlexNet 更深入，前者引用了 Srivastava 等人在 2015 提出的 Highway Net（也是 Schmidhuber 等人的研究），这是个特例。从某种意义上讲，这形成了 LSTM 的闭环，因为「Highway Net 在本质上是 LSTM 网络的前馈版本」。

大多数 LSTM 的引用都是参考的 1997 年的这篇 LSTM 论文，但 Schmidhuber 在 Annus Mirabilis 发表的一篇文章指出，LSTM 的基本观点可以追溯到 Seep Hochreiter 在 1991 年的毕业论文，他认为那篇论文是「研究史上最重要的文献之一」。而且他还向其他学生表示感谢：「LSTM 及其训练程序的改进，都需归功于 Felix Gers、Alex Graves 以及其他我的学生们的贡献。」

LSTM 的原理对于循环网络和前馈网络都是必不可少的，如今它存在于每一部智能手机上，还存在于 在星际争霸以及 在 Dota 这些游戏中取得的冠军中，以及大量 AI 相关应用中。

不过，LSTM 被人们「再次重视」或许也只是一时的现象。在 Reddit 上有网友指出，最近基于 Transformer 的方法正在逐渐升温。

（编辑：52刷机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!