这是一个我曾经断断续续地钻研了很长一段时间的我的项目。在此我的项目之前我从未尝试过批改游戏，也从未胜利训练过“真正的”强化学习代理（智能体）。所以这个我的项目挑战是：解决钓鱼这个问题的“状态空间”是什么。当应用一些简略的 RL 框架进行编码时，框架自身能够为咱们提供代理、环境和处分，咱们不用思考问题的建模局部。然而…

咱们都晓得神经网络模型中应用激活函数的次要目标是将非线性个性引入到咱们的网络中，强化网络的学习能力。激活函数利用于暗藏层和输入层中每个节点的称为 z 的输出加权和（此处输出能够是原始数据或前一层的输入）。

在NLP模型中，输出通常是一个句子，例如”I went to New York last week.”，一句话中蕴含很多单词（token）。传统的做法是将这些单词以空格进行分隔，例如[‘i’, ‘went’, ‘to’, ‘New’, ‘York’, ‘last’, ‘week’]。然而这种做法存在很多问题，例如模型无奈通过old, older, oldest之间的关系学到smart, smarter, smartest之间…

这几天忙里偷闲去社区看了看各位版主一开始发的文章。重点找了我最喜爱的版主Mathor的文章，认真一查，居然曾经发了90多篇，不愧是社区大佬本佬了！

词嵌入在深度模型中的作用是为上游工作(如序列标记和文本分类)提供输出特色。在过来的十年中，曾经提出了很多种词嵌入办法，本片文章将对这些词嵌入的模型做一个残缺的总结

这是一篇在2020年发表在ICLR的论文，论文应用图神经网络从稠密数据中学习间断工夫偏微分方程，文章提出的模型次要翻新点是容许任意空间和工夫离散化，也就是说在求解偏微分划分网格时，网格能够是不平均的，因为所求解的管制方程是未知的，在示意管制方程时，作者应用了消息传递的图神经网络进行参数化。

Google公布的TabNet是一种针对于表格数据的神经网络，它通过相似于加性模型的程序注意力机制（sequential attention mechanism）实现了instance-wise的特征选择，还通过encoder-decoder框架实现了自监督学习。

粗看: [链接](CVPR 2018) [Grouped Shift] Shift: A Zero FLOP, Zero Parameter Alternative to Spatial Convolutions:

预训练大规模深度神经网络(NN)，并针对上游工作进行微调已成为深度学习畛域的现状。钻研人员面临的一个挑战是如何为给定的上游工作无效地抉择最合适的预训练模型，因为这个过程通常须要在模型训练中用于性能预测的低廉计算成本。

文章起源 | 恒源云社区原文地址 | 低资源机器翻译综述原文作者 | 角灰摘要神经机器翻译成果十分好，但须要大量的平行语料，因而有了低资源翻译的钻研。本文依照按数据的利用对低资源翻译分为3类：利用单语数据利用辅助语言利用多模态数据论断和将来方向目前还有如下凋谢问题：在多语言迁徙学习中，尚不晓得应该用多少语…