顶会论文,怎么就成了申博的必要条件?
|
(原标题:顶会论文,怎么就成了申博的必要条件?) 无导师、无同伴、无资金援助,在这样的条件下「为发顶会 Paper 而战」是一种怎样的体验? 机器学习领域的独立研究者 Andreas Madsen 用7个月的时间成就一篇 ICLR Spotlight 论文,为黑暗中默默探索的独立研究者们带来希望!当然,他本身也是一名技术达人,机会从来只留给有准备的人! 而值得一提的是,驱动 Andreas Madsen 尝试发顶会论文的原因,则是他在申请博士入学资格过程中四处碰壁的经历。 一个拥有机器学习硕士学位、丰富的机器学习开发经验,同时也发表过一些重要论文的研究者竟然只因没有发过顶会论文,而被一众教授拒之门外? 这一现象在他看来,其实更像是学术界的一种「新精英主义」,最终会放大已经对这一行业产生了挑战的固有偏见。 对此,他最后呼吁:学术应该有清流,不应唯论文论! 以下为他亲自撰写的经验分享: 2019年4 月,为了在重要的学术会议上发表论文,我下定决心成为了一名独立研究者。终于,在 2019 年 12 月,经历了漫长的七八个月没有资助的研究工作,我成功了!我的论文被 ICLR 接收了,更令人欣慰的是:这篇论文被接收为 Spotlight 论文! 在我将这篇论文发布在 Twitter 平台上后,它迅速地传播开来,为像我一样的研究者带来了希望。因此,我迄今为止收到了近 100 条私信,他们都在征询我的意见,想知道如何作为一名独立研究者发表论文。 在本文中,我会向大家提出一些这方面的建议。但是,更重要的是,我想谈谈为什么我选择成为一名独立研究者。要知道,在没有任何资金支持的情况下工作 7 个月并非儿戏,这种做法值得大家慎重考虑!
图 1:是的!我的第一篇顶会论文本 ICLR 接收为 spotlight 了!我们将 DeepMind 的论文「NALU」中的性能提升了 3-20 倍。我在没有任何资助的情况下,作为独立研究者,花了 7-8 个月完成了这份工作。 论文地址:https://openreview.net/forum?id=H1gNOeHKPS。 代码地址:https://github.com/AndreasMadsen/stable-nalu 我为什么选择成为一名独立研究者2018 年 3 月,我在「distill.pub」平台上作为唯一作者发表了论文「Visualizing memorization in RNNs」,说明了针对自然语言处理任务,如何通过一种交互式的显著性可视化技术,证明两个准确率几乎一样的模型具有差异极大的表现。 论文地址:https://distill.pub/2019/memorization-in-rnns
图 2:在 Distill 上发表的第一篇论文「Visualizing memorization in RNNs」 曾经,我认为凭借上面提到的这篇论文和我的机器学习硕士学位,就足以申请到博士入学资格,或者是研究型软件工程师、实习项目或者机器学习工程师的职位了。所以我就开始向许多教授发博士申请信,同时向谷歌、微软、Rakuten、ElementAI、英伟达、Hypefactors、英特尔、京东、亚马逊、三星、Shift Technology、Corti 等公司求职。 然而最终,我竟然连一个面试机会都没得到! 在应聘谷歌的研究型软件工程师时,甚至有一名谷歌的高级研究员找到我,他鼓励我申请他们部门的职位,并正式推荐了我。为保险起见,我还请求了另一名谷歌的高级软件工程师内推我,他曾经与我在开源的 Node.js 项目上有过很多合作。 尽管如此,我还是没有得到面试机会,也没有 HR 联系我,了无音讯! 现实情况是:「一两篇机器学习顶会顶刊论文是十分重要的」 在申请期间,我收到了一位教授的回信: 非常感谢你的邮件,内容非常有趣。一般来说,现在想要申博士学位,没有一两篇顶会顶刊上的机器学习/NLP 论文是相当困难的。你在 Distill 上发表的论文和你在工业领域的经验在一定程度上弥补了这一点。不幸的是,我现在没有可供申请的空缺名额。——来自 QS 全球排名 Top 100 的大学的一名教授。 我的一位朋友(认识另一所大学的前委员会成员),则收到了下面的回信: 最好的人工智能博士项目要求申请者已经在顶会上发表过论文。如果你并没有在 ACL/EMNLP/CVPR/ICCV/NeurIPS 或 ICML 上发表过论文,你被录取的几率就非常小了。——某 QS 全球排名 Top 5 大学的前委员会成员。 当然,我也收到了一些其它的邮件(大多数人并没有回复我),那些教授说得没有这么直白,但是对我的申请也完全不感兴趣。 我想,他们实际上也要求申请者拥有一两篇顶会论文,但并不想直接承认这一点,因为这种糟糕的标准只对那些非常幸运的学生们有利。——我硕士期间就读的大学并没有鼓励我们去发表论文。但是丹麦同样也是一个读硕士的好地方。 所以,想要在没有内推的情况下申请到博士学位,你本身就需要拥有可以拿到半个博士学位的成果。 这就是事实!为了实现我自 2011 年以来的梦想,我需要发表 1-2 篇顶会论文。于是,在 2019 年 4 月,我决定全身心投入到科研工作直到 2020 年 1月,力争在 NeurIPS 或者 ICLR 上发表论文。如果最终还是没有成功,那我就会去做一名 JavaScript 程序员。 如何为自己提供资金支持? 我如何才能找到自己的研究思路?怎样才能为我自己提供资金支持?这是我到目前为止被问最多的问题。然而,虽然这些问题确实有待解决,但我觉得它们其实没有那么重要。 实际上,有很多方法可以发掘研究思路;如果你不用负担别人的开支,有很多办法可以自己省钱。你可以进入一种「孤独地生活,但不放弃理智和希望」的状态,这并不会让你感到十分难受。 在 2017 年 9 月至 2018 年 10 月期间,我一直都是一名自由职业者。在我刚开始成为独立研究者时,我的朋友 Emil Bay 向 NearForm 推荐了我,他们想做一个名为「clinic.js」的新项目。该项目不仅需要工程师对 Node.js 的内部实现有详细的了解,还要求具备统计学背景和网页可视化技术。 (编辑:52刷机网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |


