共计 2649 个字符,预计需要花费 7 分钟才能阅读完成。
多层感知机还在提高,对于深度学习中 MLP 的 5 篇最新的论文举荐
1、MLP-Hash: Protecting Face Templates via Hashing of Randomized Multi-Layer Perceptron
https://arxiv.org/pdf/2204.11…
Hatef Otroshi Shahreza, Vedrana Krivokuća Hahn, Sébastien Marcel
用于身份验证的人脸识别零碎的利用正在迅速增长。只管最先进的(SOTA)人脸识别零碎具备很高的辨认性能,但为他们会为每个用户提取特色并存储在零碎数据库中。这些特色蕴含了隐衷敏感信息,泄露这些数据将危及用户的隐衷。这篇论文提出了一种新的对于特色隐衷爱护办法,称为 MLP-hash,它通过将提取的特色传递给特定的随机加权多层感知器 (MLP) 并对 MLP 输入进行二值化来生成受爱护的后果。论文评估了提出的生物特色模板爱护办法的不可链接性、不可逆性和辨认性能,以满足 ISO/IEC 30136 规范要求。在 MOBIO 和 LFW 数据集上对 SOTA 人脸识别零碎的试验表明,论文的办法与 BioHashing 和 IoM Hashing(IoM-GRP 和 IoM-URP)爱护算法具备雷同性能。论文还提供了本文中所有试验的开源实现,以便其余钻研人员能够验证咱们的发现并在咱们的工作的根底上进行复现和更深刻的钻研。
2、Modeling of the nonlinear flame response of a Bunsen-type flame via multi-layer perceptron
https://arxiv.org/pdf/2204.05…
Nilam Tathawadekar, Nguyen Anh Khoa Doan, Camilo F. Silva, Nils Thuerey
论文展现了神经网络仅进行一次非定常 的 CFD 模仿可能牢靠地学习 nonlinear flame。该零碎取得的上游流速和放热率稳定的工夫序列并应用多层感知机训练非线性模型。同时训练几个具备不同超参数的模型,并应用 dropout 策略作为正则化器以防止适度拟合。随后使用性能最佳的模型来计算 flame describing function(FDF)。除了精确地预测 FDF 之外,经过训练的神经网络模型还能够捕获火焰响应中存在的高次谐波。当与声学求解器联合应用时,所取得的神经网络模型比经典的 FDF 模型更适宜预测。钻研表明,预测的声学振荡的 RMS 值以及相干的主频率与 CFD 参考数据十分统一。
3、A Stock Trading System for a Medium Volatile Asset using Multi Layer Perceptron
https://arxiv.org/pdf/2201.12…
Ivan Letteri、Giuseppe Della Penna、Giovanni De Gasperis、Abeer Dyoub
股票市场预测是一个利润丰富的畛域。金融市场实质上是简单、非线性和凌乱的,这意味着精确预测作为其中一部分的资产的价格变得非常复杂。论文提出了一个以前馈深度神经网络 (DNN) 为次要外围的用于预测 Abercrombie & Fitch Co. (ANF) 在纽约证券交易所 (NYSE) 的股票市场的股票交易零碎。通过精心设计的零碎并计算最无效的技术指标,将其利用于 DNN 计算的预测。结果显示在 Sharpe、Sortino 和 Calmar 比率别离为 2.194、3.340 和 12.403 的状况下,盈利交易的预期比率等值减少了 2.112%。作为验证,在零碎中采纳了回溯模仿模块,该模块将交易映射到由 ANF 资产最近 30 天公开市场组成的理论测试数据。总体而言,后果也很有心愿,在 100 美元的十分适中的估算下,仅在一个月内就能实现 3.2% 的总利润系数。因为零碎通过抉择最无效和最高效的交易缩小了交易数量,节俭了佣金和老本
4、Using Fitness Dependent Optimizer for Training Multi-layer Perceptron
https://arxiv.org/pdf/2201.00…
Dosti Kh、Abbas、Tarik A. Rashid、Karmand H. Abdallaand Nebojsa Bacanin、Abeer Alsadoon
这项钻研提出了一种新的训练算法,该算法依赖于最近提出的 FDO,并且的稳定性曾经通过一些规范测量失去验证和性能证实。该算法的钻研将 FDO 与 MLP(代号 FDO-MLP)相结合,通过优化权重和偏差预测学生的问题。该项钻研不仅能够进步学生的学习成绩,还能够从学生的教育背景方面改善学习零碎。通过与反向流传算法(BP)和 FDO-CMLP、Grey Wolf Optimizer(GWO)和 GWO-MLP 相结合等一些进化模型的比拟,证实了该办法的试验后果。定性和定量后果证实,在收敛速度和部分最优防止方面,应用 FDO 作为训练器的办法能够优于在数据集上应用不同训练器的其余办法。论文提出的 FDO-MLP 办法的分类准确率为 0.97。
5、Graph Attention Multi-Layer Perceptron
https://arxiv.org/pdf/2108.10…
Wentao Zhang, Ziqi Yin, Zeang Sheng, Wen Ouyang, Xiaosen Li, Yangyu Tao, Zhi Yang, Bin Cui
图神经网络 (GNN) 最近在许多基于图的应用程序中实现了最先进的性能。只管表达能力很高,但它们通常须要在多个训练期间执行十分费时的递归邻域扩大,并且须要解决可扩展性问题。因为它们仅限于固定跳数邻域并且对不同节点的理论感触野需要不敏感,所以并不灵便。论文通过引入可扩大且灵便的图留神多层感知器 (GAAMLP) 来躲避这些限度。GAMLP 将非线性变换和特色流传拆散,通过预计算的形式执行流传过程,显着进步了可扩展性和效率。GAMLP 中的每个节点都具备三个的感触野注意力,在利用不同大小的接管域上的流传特色方面具备灵活性和适应性。在对三个大型凋谢图基准(例如,ogbn-papers100M、ogbn-products 和 ogbn-mag)进行了宽泛的评估,证实 GAMLP 不仅实现了最先进的性能,而且还提供了高可扩展性和效率
https://avoid.overfit.cn/post/5834f91efe9e4b09b6ec21659dba0ee5
作者:Momodeep