在经验了 IJCAI，MM，AAAI，CVPR，SIGIR 的屡次被拒当前（😭真的太惨了，不过也是我本人工作做的不够扎实，可能被拒也不能算是好事，有利于之后的成长吧），我终于迎来了我研究生期间的第一篇 CCF A 类会议论文，实属不易呀！这篇论文中的是往年的 MM，一个多媒体类的 CCF A，初分是两个 borderline accept，一个 weak accept，rebuttal 后是三个 poster，最初中了 poster。最为一个渣硕，能中一篇 A 会真的十分开心，真的非常感谢实验室同学，师兄，导师和实习期间 mentor 的领导和帮忙！研究生退学也快两年了，趁这个机会，我也好好总结一下入坑深度学习和研究生这两年的学习生存吧！
第一阶段：在行阶段（研究生退学之前）
在保研之前，我真的能够说是齐全没接触过深度学习相干的常识，甚至平时连 python 用的都不多。本科期间次要也和同学一起加入软件开发之类较量，对深度学习的较量和论文能够说是无所不知。所以，在本科前几年，我基本上能够说是一个深度学习畛域的外行人。第一次接触深度学习，应该算是在保研的时候，过后实验室的考核须要浏览论文。那应该是我第一次浏览英文的深度学习论文，论文如同是和 SLAM 和深度预计相干，过后也是十分艰巨的把论文读完了，因为基础知识的不足，了解论文还是十分有难度的，更不用说用批评的思维去看论文了。所以意识到这一点之后，我就开始买了深度学习的经典教材——西瓜书和花书来看，也看了 cs231n 和吴恩达的视频，这才对深度学习有了一点理解。之后毕设抉择了一个指标检测相干的课题，在做毕设的时候，也对这个畛域有了进一步理解。在毕业前夕，过后做毕业设计的时候，我感觉我本人的代码能力不太行，我就想去公司实习，晋升我的代码能力。然而，就我这样一个刚开始入坑的人，哪有公司会要我呀？当初想去公司实习，不都要有实习经验或者科研经验的吗？无奈之下，我也只能抱着试一试的心态，投了几家小公司。最初，我惊喜的被一家科技教育小公司录用，而后我就在这家公司里实习了三个月。因为 mentor 入手能力太强，工程上的事件他基本上都实现了，下班的时候我还能够学一学一些根底的常识，美哉！上班常常听 mentor 讲他以前的守业故事，他对计算机视觉将来的神往以及他传奇干爹的故事。实习期间可能播种最大的并不是技术上的提高，而且跟 mentor 交换过后思维和眼界上的晋升。在实习过后我也将进入研究生的生存。
第二阶段：小白阶段（研一上）
通过之前的实习和自学，我对深度学习有了肯定的理解，然而相比于研究生的其他同学，感觉本人的根底还是很差，那段时间感觉本人的确也很浮躁。之后，师兄让我加快脚步，先从根底的 pytorch 官网教程学起，每天除了论文浏览的输出，还要进行 pytorch 的 coding 的练习，就这样进行了差不多一两个月吧，我对师兄给的工作和 pytorch 的根底有了进一步的了解。在这段学习之后，师兄和我交换了他对这个畛域的一些思考，也给了我一个 idea 让我尝试去做做看。后期做的比拟艰巨，基本上每周都会和师兄过三次以上的进度，前面这个 idea work 之后，也开始和师兄探讨论文的写作，筹备冲一冲 IJCAI。这算是我人生中第一次写业余的论文，因而写作上的确遇到了很大的艰难。在这一点上，我的导师和博士师兄真的给了很大的帮忙，摘要和 introduction 的每个单词基本上都和他们过了一遍，真的非常感谢他们的仔细领导，让我从一个小白，缓缓踏入了科研之路。过后这篇文章的分数也就在 borderline 程度——一个“5 – Marginally below threshold
”，两个“6 – Marginally above threshold”，通过 rebuttal 之后，这篇论文也已喜剧告终。过后出后果的时候，其实还挺好受的，毕竟筹备了那么久的工作，就没有失去回报。但起初缓缓反思文章的不足之处和审稿人中肯的倡议，我也还是和师兄一起将这篇文章大改，加强文章的 novelty，补充必要的试验，最终投到了期刊上。
第三阶段：摸索阶段（研一暑假——研一完结）
在实现了 IJCAI 的投稿之后，我就在想我的下一篇工作应该怎么做，那时，记得博士师兄不经意间跟我说，Attention 还是挺好用的（原话遗记怎么说了，大略就是这个意思）。而后，我就开始学习钻研 CV 中 Attention 的倒退，于是乎我又开始大量的浏览论文和代码，从最根底的 SE，CBAM，non-local 到前面挂在 arXiv 上一些最新论文，我也的确感叹到 attention 真是一个简略又好用的方向呀！然而看完这些论文和代码之后，我发现这些论文的核心思想非常简单，外围代码可能也就几十行行甚至几行。然而关上作者 release 的源码时，却发现提出的模块嵌入到分类、检测、宰割等工作框架中，导致代码比拟冗余，对于特定工作框架不相熟的我，很难找到外围代码，导致在论文和网络思维的了解上会有肯定艰难。因而，我就想将这些文章的外围代码给提取进去，对一些未开源的代码，我也进行了外围代码的复现，帮忙更多想我这样刚入坑的小伙伴进行了解文章的核心思想。而后，我就这些代码整顿成了一个代码库，放到了 github 上（https://github.com/xmu-xiaoma…），心愿可能和更多的小伙伴一起交换。就这样，我播种了我在 Github 上一个高 star 的我的项目。在之后的论文浏览过程中，如果我感觉有什么简略乏味的 idea（比方重参数化），我也会在这个我的项目中进行整顿复现。
在实现了这个代码库后，我的 coding 能力和论文浏览量也有了进一步的晋升，我也开始着手我的第二篇工作了。几个月之后，这个工作的试验和论文都实现了，我将其投到了过后的 MM 上，初始分数是两个 borderline，一个 poster。过后感觉好好 rebuttal，这篇文章还是有点心愿能中哒。最终 AC 感觉这篇文章的 novelty 上比拟无限，所以也以喜剧开场。
第四阶段：迷茫阶段（研一寒假，研二期间）
通过两篇文章喜剧之后，我开始狐疑本人是不是真的不适宜做科研，因而也 emo 了一段时间，感觉做科研真的好难。甚至都开始放心研究生期间是否会因为没有科研成果而影响毕业。在那段 emo 的工夫里，我的师兄也常常开导我，在他的开导下，我也开始从新回到了失常的科研状态。在这里真的非常感谢师兄领导，读研期间，在科研和心态上真的对我帮忙十分大。
这段时间，为了 push 本人好好看论文，我创立了我本人的公众号 FightingCV，并开始公众号上发最新论文的解读，初衷是心愿通过这样一种模式来 push 本人养成浏览论文的好习惯，另一方面也能够和更多的同学进行学习交换。另外，也创立了一些交换群，在群外面和来自四面八方的小伙伴们一起交换，发现大多数人在科研的后期，都会比拟艰巨一些。在此期间，我也在 AAAI 和 CVPR 进行了投稿，后果都以失败告终。在这几次被拒稿，我显著能感觉到我的情绪仿佛平静了许多，至多没有像第一次被拒那样浮躁了。
第五阶段：播种阶段（实习——今）
在忙完学校的事件之后，我跟导师磋商了实习的事件，并开始了在阿里达摩院之旅，实习期间做的是视频文本检索的工作。有了之前的投稿经验之后，我这次很快的实现了 baseline 的试验，并想到了一个简略无效的 idea，进行了进一步的试验。在确定 idea 无效之后，也迅速跟导师和 mentor 磋商起了投稿打算，过后筹备投的是 SIGIR。跟导师汇报了这个 idea 后，导师给的意见是能够在模型效率上进行进一步的改良，所以接下来的一段时间，尝试了一些进步模型效率的办法，然而无果，倒是在性能上有了进一步的晋升。因而，抱着用效率换性能的想法，我开始了 SIGIR 的论文撰写。接着，我就在一边做 ablation，一边写论文。而后就在投稿前 10 天左右，我发现 ablation 的后果有些不太好，试验发现独自一个模块的性能在某些数据集上甚至优于残缺的模型构造，这让我又十分 emo 了。然而工作基本上都曾经做完，只能在文章中对这一景象，做一些定性的可视化，并进行一些解释剖析。然而，事实证明，论文还是做的尽如人意，审稿人对这些解释不买账，并进行了 argue；导师之前提出的效率问题，审稿人也提出了雷同的 concern；此外，还有一些试验上也不够残缺。最终，这篇文章也喜剧了。之后，审稿人的意见和导师之前的疑难，我也对这篇文章进行了反思，并对文章的 idea 进行了改良，批改模型构造，从新进行试验。到职前将其投稿了往年的 MM 上。文章的初始分数两个 BA，一个 WA，最初被接管为 poster。此外，之前被拒的两篇文章，我也依据审稿人、导师和师兄的意见进行了批改和欠缺，将其投稿到了期刊上，在往年上半年也被接管，霎时感觉这两年的致力都值得！
MM 的论文曾经放在 arXiv 上啦（https://arxiv.org/abs/2207.07285），欢送大家来玩呀！反思这篇论文，其实还有很多的瑕疵，奉献无限，能中也有一部分运气加持，但对本人来说真的有极大的激励作用。大佬可能会感觉很水，但本人辛苦作出的成绩可能上岸，真的非常高兴，大佬请轻点喷。
非常感谢师兄和导师的领导和关心，感激实验室老师们和达摩院的严明老师、山启、若万帮忙批改论文～
在本人自身根底比拟差的状况下，在研究生期间可能有当初这样的成绩，真的十分满足了。之后可能会筹备持续攻读博士，研究生的这两年工夫里，在导师和师兄的仔细领导下，不论是在心态和钻研上都成长了许多，真的非常感谢实验室的栽培，在当前的钻研生存中，还是要放弃初心，持续做致力致力再致力的小马，耶！
最初打个小广告吧，这是我研究生期间创立的公众号 FightingCV，外面个别会分享最新论文的解读，大家一起来交换呀～
本文由 mdnice 多平台公布