算法

寂静了许久的翻译流动又呈现啦，家喻户晓每次翻译流动的奖品都是十分迷人的， 本期就不遵循老规矩先看奖品了....... 咱们先切一则广告， 关注知乎:金雪锋，大V亲自解说最新相干技术！ 个人主页：https://www.zhihu.com/people/... 好嘞当初是奖品展现工夫~ 奖品展现： 流动一：100元内京东自营/京东超市商品自选一件 （不找零不离开购买哦~) 流动二：以下商品6选一! (电饭煲，珐琅锅，电磁炉，无线鼠标，餐具套装，钢笔礼盒) 流动工夫： 8月9日——8月29日 参加形式： 流动一： 官网python API文档纠错，您须要做的是：1.发现问题。2.去gitee的相应仓提交issue。3.将问题形容+issue链接+集体邮箱，一起发送到MindSpore论坛的"流动体验"主题分类。 流动二： 咱们在gitee上公布了一些待翻译的工作，这些工作如下： 工作链接 实现状况 贡献者IDhttps://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... https://gitee.com/mindspore/d... 您须要做的是：1.提交并合入PR。2.将集体邮箱+PR链接 一起发送到MindSpore论坛的"流动体验"主题分类。 (提交PR的流程和注意事项能够参考：gitee上提交PR和issue的流程和注意事项 ） 记得关注本人PR下方的批改倡议哦 翻译要求：翻译格局参考奉献文档。不能应用翻译工具间接翻译。不要逐字翻译，这样进去的成果很中式。应该依照本人的了解翻译，且译文应该合乎英文浏览习惯。用词标准：（1）专有名词放弃书写正确，例如：AlexNet，不要写成alexnet或者Alexnet。 （2）用词合乎业界习惯，例如：reasoning和inference都有推理的意思，然而通常业界应用inference。 语法标准：（1）标点符号应用正确，不要中英文标点混用。 （2）主谓宾构造残缺，不产生歧义。 题目标准：（1）题目首字母大写。 （2）题目若动词结尾，应采纳动名词模式，即doing模式。 （3）题目应尽量简短老练。 注意事项:1.本次PR审核人：yingchen 2.请勿刷帖，刷帖一律删帖并做有效参加解决。 3.请勿盗取别人截图或内容，一经发现做有效参加解决。 4.流动一是否达标，以最终驳回为准。 5.流动二参加胜利与否，以PR正式合入为准。 6.最终解释权归MindSpore团队所有。

本文记述笔者的算法学习心得，因为笔者不相熟算法，如有谬误请不吝指正。随机句子问题这几天得见一个算法题：生成随机句子。揣测这道题可能来源于某搜索引擎公司的工作实际？ 题意为：输出一个句子（即一个单词序列）和一个预期长度，需从输出句子随机抽取单词组成一个新句子（只是一个单词序列，不思考语法），新句子的单词数量等于预期长度。随机抽取的具体规定为：随机取一个单词作为首个单词退出新句子，每当新句子退出一个单词，对于这个单词在输出句子中的所有呈现地位，随机抉择一个呈现地位的下一个单词（即下邻单词）退出新句子，这一退出又会引起新单词的退出，由此类推，直到新句子达到预期长度，则输入新句子。也就是要实现一个函数String generateSentence(String sentence, int length)。 例如，输出sentence="this is a sentence it is not a good one and it is also bad" length=5，若"sentence"被选为首个单词，则下一个单词只有一个抉择"it"，而后"it"的下一个单词能够在两个地位抉择，但这两个地位都刚好是"is"，而"is"的下一个单词就能够抉择"not"或"also"，若抉择"not"，则下一个单词只有一个抉择"a"，此时凑足了5个单词，失去新句子"sentence it is not a"。 以上是此题的根底版，它还有一个难度加强版：对现有规定做一个批改，再给定一个输出m，首次随机取输出句子的间断m个单词退出新句子，之后每次仍退出一个单词，每当新句子退出一个单词，不再是找到这个单词在输出句子中的呈现地位，而是对于新句子的“最初m个单词所造成的词组”在输出句子中的所有呈现地位，随机抉择一个呈现地位的下邻单词退出新句子。根底版可看做m=1的非凡状况。 根底版的解法解法基本上遵循如此构造： 将输出句子转换为单词序列(String -> String[]，即tokenize)，为新句子筹备一个内存缓冲区。随机抉择首个单词，放入内存缓冲区。循环搜寻上一个被抉择的单词在输出句子中的所有地位，随机抉择一个地位，将其下邻单词放入内存缓冲区，直到新句子达到预期长度，则进行并输入新句子。留神，把输出句子当作一个环，若搜寻到输出句子的句尾单词，则其下邻单词是句首单词，即从句尾跳回了句首。为了在计算下邻地位时做环跳转的解决，我起初是这么写的（在越界时减一次句子总长）： int nextPos(int pos, String[] words) { int next = pos + 1; if (next >= words.length) { next -= words.length; } return next;}起初据说取模就能够了，即： int nextPos(int pos, String[] words) { return (pos + 1) % words.length;}对于根底版，减法是OK的，但对于难度加强版呢？如果m>=输出句子长度（尽管这种输出不是很正当），则下邻地位可能跨环两次，须要减两次才正确。因而，取模的确更简洁优雅，更sound。 当初介绍三种算法实现。第一种是暴力搜寻法，每次遍历输出句子，找到给定单词的所有地位。 第二种是优化搜寻法，对暴力搜寻法做了优化，每次不是找到给定单词的所有地位，而是从一个随机地位起步，找到给定单词的某一个地位。第三种是哈希索引法，为输出句子预构建一个哈希表，能疾速查找任一个单词对应的下邻单词。 要提前申明，优化搜寻法的随机抉择可能是不偏心的。例如，间断2个雷同单词如"go go"，从左到右的搜寻简直总会选中右边那个。这个问题能解决，每次随机决定搜寻方向即可（从左到右或从右到左）。然而，间断3个雷同单词如"go go go "呢？两头的单词被选中的概率微不足道。我想过”素数跳跃搜寻法“等办法，但都没有解决，因而优化搜寻法无奈成为支流算法。 ...

前言对于计算机视觉的学习教程临时告于段落，预计八月中旬当前我将会更新对于CV我的项目开发的学习笔记以及相干教程。当初的粉丝数曾经过百了，感激家人敌人给我的反对，以及机器学习爱好者们对我的必定，我将会持续保持我学习路线，分享给大家。接下来这节内容，选材来自昨天学习交换群中一位敌人，提出了无关激活函数的问题。我在收集了一下相干内容，在此整顿汇合比照激活函数的毛病和有余。什么是激活函数文章次要从激活函数概念，数学模式剖析，Python代码模式展示，优缺点比照等方面进行学习。对于激活函数的定义 维基百科解释是：节点的激活函数定义了给定一个输出或一组输出的节点的输入。规范集成电路能够被视为激活函数的数字网络，依据输出能够是“ON”（1）或“OFF”（0）。此定义与逻辑回归的定义类似。换句话说，激活函数是一种增加到神经网络中的函数，旨在帮忙网络学习数据中的简单模式。相似于人类大脑中基于神经元的模型，激活函数最终决定了要传送给下一个神经元的内容。在人工神经网络中，一个节点的激活函数定义了该节点在给定的输出或输出汇合下的输入。激活函数就是确定神经网络输入的数学方程。 当神经元接管到了其余神经元或外界传来的数字信号，神经元通过权重和偏置对输出信息进行线性变换，因为线性方程很简略解决简单问题的能力无限，因而退出激活函数对输出进行非线性变换使其可能学习和执行更简单的工作。此时激活函数的意义尤为重要，适合的激活函数也非常重要。 激活函数品种常见的激活函数能够分为三类：岭函数，径向函数，以及利用在卷积神经网络中的折叠激活函数。 岭函数：作用与输出变量的线性组合多元函数 线性函数： $${\displaystyle \phi (\mathbf {v} )=a+\mathbf {v} '\mathbf {b} }$$ ReLU函数： $${\displaystyle \phi (\mathbf {v} )=\max(0,a+\mathbf {v} '\mathbf {b} )}{\displaystyle \phi (\mathbf {v} )=\max(0,a+\mathbf {v} '\mathbf {b} )}$$ Heaviside函数： $${\displaystyle \phi (\mathbf {v} )=1_{a+\mathbf {v} '\mathbf {b} >0}}{\displaystyle \phi (\mathbf {v} )=1_{a+\mathbf {v} '\mathbf {b} >0}}$$ Logistic函数：$${\displaystyle \phi (\mathbf {v} )=(1+\exp(-a-\mathbf {v} '\mathbf {b} ))^{-1}}{\displaystyle \phi (\mathbf {v} )=(1+\exp(-a-\mathbf {v} '\mathbf {b} ))^{-1}}$$ ...

原文链接：http://tecdat.cn/?p=23305 在这篇文章中，我将展现如何应用R语言来进行反对向量回归SVR。 咱们将首先做一个简略的线性回归，而后转向反对向量回归，这样你就能够看到两者在雷同数据下的体现。   一个简略的数据集首先，咱们将应用这个简略的数据集。 正如你所看到的，在咱们的两个变量X和Y之间仿佛存在某种关系，看起来咱们能够拟合出一条在每个点左近通过的直线。 咱们用R语言来做吧! 第1步：在R中进行简略的线性回归上面是CSV格局的雷同数据，我把它保留在regression.csv文件中。 咱们当初能够用R来显示数据并拟合直线。 # 从csv文件中加载数据dataDirectory <- "D:/" #把你本人的文件夹放在这里data <- read.csv(paste(dataDirectory, 'data.csv', sep=""), header = TRUE)# 绘制数据plot(data, pch=16)# 创立一个线性回归模型model <- lm(Y ~ X, data)# 增加拟合线abline(model)下面的代码显示以下图表: 第2步：咱们的回归成果怎么样？为了可能比拟线性回归和反对向量回归，咱们首先须要一种办法来掂量它的成果。 为了做到这一点，咱们扭转一下代码，使模型做出每一个预测可视化 # 对每个X做一个预测pred <- predict(model, data)# 显示预测后果points(X, pred)产生了以下图表。 对于每个数据点Xi，模型都会做出预测Y^i，在图上显示为一个红色的十字。与之前的图表惟一不同的是，这些点没有相互连接。 为了掂量咱们的模型成果，咱们计算它的误差有多大。 咱们能够将每个Yi值与相干的预测值Y^i进行比拟，看看它们之间有多大的差别。 请留神，表达式Y^i-Yi是误差，如果咱们做出一个完满的预测，Y^i将等于Yi，误差为零。 如果咱们对每个数据点都这样做，并将误差相加，咱们将失去误差之和，如果咱们取平均值，咱们将失去均匀平方误差（MSE）。 在机器学习中，掂量误差的一个常见办法是应用均方根误差（RMSE），所以咱们将应用它来代替。 为了计算RMSE，咱们取其平方根，咱们失去RMSE 应用R，咱们能够失去以下代码来计算RMSE rmse <- function(error){  sqrt(mean(error^2))} 咱们当初晓得，咱们的线性回归模型的RMSE是5.70。让咱们尝试用SVR来改善它吧！ 第3步：反对向量回归用R创立一个SVR模型。 上面是用反对向量回归进行预测的代码。 model <- svm(Y ~ X , data)如你所见，它看起来很像线性回归的代码。请留神，咱们调用了svm函数（而不是svr！），这是因为这个函数也能够用来用反对向量机进行分类。如果该函数检测到数据是分类的（如果变量是R中的一个因子），它将主动抉择SVM。 代码画出了上面的图。 这一次的预测后果更靠近于实在的数值 ! 让咱们计算一下反对向量回归模型的RMSE。 # 这次svrModel$residuals与data$Y - predictedY不一样。#所以咱们这样计算误差svrPredictionRMSE 正如预期的那样，RMSE更好了，当初是3.15，而之前是5.70。 但咱们能做得更好吗？ 第四步：调整你的反对向量回归模型为了进步反对向量回归的性能，咱们将须要为模型抉择最佳参数。 在咱们之前的例子中，咱们进行了-回归，咱们没有为()设置任何值，但它的默认值是0.1。  还有一个老本参数，咱们能够扭转它以防止适度拟合。 抉择这些参数的过程被称为超参数优化，或模型抉择。 规范的办法是进行网格搜寻。这意味着咱们将为和老本的不同组合训练大量的模型，并抉择最好的一个。 # 进行网格搜寻tuneResultranges = list(epsilon = seq(0,1,0.1), cost = 2^(2:9))# 绘制调参图plot(Result)在下面的代码中有两个重要的点。  咱们应用tune办法训练模型，=0,0.1,0.2,...,1和cost=22,23,24,...,29这意味着它将训练88个模型（这可能须要很长一段时间tuneResult返回MSE，别忘了在与咱们之前的模型进行比拟之前将其转换为RMSE。最初一行绘制了网格搜寻的后果。 在这张图上，咱们能够看到，区域色彩越深，咱们的模型就越好（因为RMSE在深色区域更接近于零）。 这意味着咱们能够在更窄的范畴内尝试另一个网格搜寻，咱们将尝试在0和0.2之间的值。目前看来，老本值并没有产生影响，所以咱们将放弃原样，看看是否有变动。 rangelist(epsilo = seq(0,0.2,0.01), cost = 2^(2:9))咱们用这一小段代码训练了不同的168模型。 当咱们放大暗区域时，咱们能够看到有几个较暗的斑块。 从图中能够看出，C在200到300之间，在0.08到0.09之间的模型误差较小。 心愿对咱们来说，咱们不用用眼睛去抉择最好的模型，R让咱们非常容易地失去它，并用来进行预测。 # 这个值在你的电脑上可能是不同的# 因为调参办法会随机调整数据tunedModelRMSE <- rmse(error) 咱们再次进步了反对向量回归模型的RMSE ! 咱们能够把咱们的两个模型都可视化。在下图中，第一个SVR模型是红色的，而调整后的SVR模型是蓝色的。 我心愿你喜爱这个对于用R反对向量回归的介绍。你能够查看原文失去本教程的源代码。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言混合效应逻辑回归Logistic模型剖析肺癌 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病 ...

原文链接：http://tecdat.cn/?p=4146 原文出处：拓端数据部落公众号通过对用电负荷的消费者进行聚类，咱们能够提取典型的负荷曲线，进步后续用电量预测的准确性，检测异样或监控整个智能电网（Laurinec等人（2016），Laurinec和Lucká（ 2016））。第一个用例通过K-medoids聚类办法提取典型的电力负荷曲线。 有50个长度为672的工夫序列（消费者），长度为2周的耗电量的工夫序列。这些测量数据来自智能电表。 维数太高，会产生维数的咒骂。因而，咱们必须以某种形式升高维度。最好的办法之一是应用工夫序列示意，以缩小维数，缩小噪声并提取工夫序列的次要特色。 对于用电的两个季节性工夫序列（每日和每周季节性），基于模型的示意办法是提取典型用电量的最佳办法。 让咱们应用一种基于模型的根本示意办法- 均匀季节性。在此还有一个十分重要的注意事项，对工夫序列进行归一化是对工夫序列进行每次聚类或分类之前的必要步骤。咱们想要提取典型的耗费曲线，而不是依据消耗量进行聚类。 维数上已大大降低。当初，让咱们应用K-medoids聚类办法来提取典型的消耗量。因为咱们不晓得要抉择适合的簇数，即先验信息，因而必须应用验证指数来确定最佳簇数。我将应用Davies-Bouldin指数进行评估，通过Davies-Bouldin指数计算，咱们心愿找到其最小值。 我将聚类数的范畴设置为2-7。 让咱们绘制评估的后果。 聚类的“最佳”数目是7。 咱们绘制有7个聚类的聚类后果。 咱们能够看到5个典型的提取轮廓 （簇的核心）。接下来的两个簇能够称为离群值。 当初，让咱们尝试一些更简单的办法来提取节令 GAM回归系数。 咱们能够提取每日和每周的季节性回归系数 。  ## \[1\] 50 53因为GAM办法中应用样条曲线 。让咱们对数据进行聚类并可视化其后果。 让咱们绘制 评估的后果。 聚类的最佳数目为7。让咱们绘制后果。 提取的生产数据比均匀季节性数据更平滑。 当初，K 核心提取了4个典型的轮廓，并确定了3个簇。 我展现了一些自适应示意的聚类后果，让咱们以DFT（离散傅立叶变换）办法为例，并提取前48个DFT系数。 dim(data_dft)## \[1\] 50 48让咱们绘制评估的后果。 咱们能够在4个簇中看到“肘部”。 这些后果能够较好解释。因而，基于模型的工夫序列示意在此用例中十分无效 。 倡议在每天的工夫序列中应用与FeaClip一起的窗口办法。最大的长处是不须要与FeaClip办法一起进行标准化。   dim(data_feaclip)## \[1\]  50 112让咱们绘制评估的后果。 咱们能够看到当初呈现了2个“肘部”。最大的变动是在2到3之间，因而我抉择3。 可分离性好于DFT。然而也能够查看具备不同数量聚类的其余后果。 论断在本教程中，我展现了如何应用工夫序列示意办法来创立用电量的更多特色。而后，用工夫序列进行K-medoids聚类，并从创立的聚类中提取典型的负荷曲线。 最受欢迎的见解 1.用SPSS预计HLM档次线性模型模型 2.R语言线性判别分析（LDA），二次判别分析（QDA）和正则判别分析（RDA） 3.基于R语言的lmer混合线性回归模型 4.R语言Gibbs抽样的贝叶斯简略线性回归仿真剖析 5.在r语言中应用GAM（狭义相加模型）进行电力负荷工夫序列剖析 6.应用SAS，Stata，HLM，R，SPSS和Mplus的分层线性模型HLM 7.R语言中的岭回归、套索回归、主成分回归：线性模型抉择和正则化 8.R语言用线性回归模型预测空气质量臭氧数据 9.R语言分层线性模型案例

问题阐明有些网站上，学术论文下载须要付费购买，本文提供两种收费下载到国外学术论文的办法。 具体方法1 在sci-hub上下载，寻找可用的sci-hub站点。在sci-hub的搜寻框中输出论文的DOI号，sci-hub收录的论文能够收费下载。目前一个可用的sci-hub站点如下所示：https://www.sci-hub.ren/ 2 在arxiv.org网站上下载。咱们查问到指标论文的题目后，在arxiv.org网站上，查问下，试试看能不能找到它的预印本pdf文件。科普下arXiv。arXiv属于预印本服务的一种，是指科研工作者的研究成果还未在正式出版物上发表，而出于和同行交换目标被迫先在学术会议上或通过互联网公布的科研论文、科技报告等文章。 参考文献http://blog.sciencenet.cn/hom... (科学网—arxiv.org使用指南 - 叶小球的博文)https://zhidao.baidu.com/ques...

nlp技术包含根底技术和利用技术 70 年代当前随着互联网的高速倒退，语料库越来越丰盛以及硬件更新欠缺，自然语言解决思潮由理性主义向经验主义过渡，基于统计的办法逐步代替了基于规定的办法。 从 2008 年到当初，因为深度学习在图像识别、语音辨认等畛域一直获得冲破，人们也逐步开始引入深度学习来做自然语言解决钻研，由最后的词向量到 2013 年 word2vec，将深度学习与自然语言解决的联合推向了低潮，并且在机器翻译、问答零碎、浏览了解等畛域获得了肯定胜利。再到最近的emlo、bert等，兴许正在揭开下一个篇章。 能够说，自然语言解决就是要计算机了解自然语言，自然语言解决机制波及两个流程，包含自然语言了解和自然语言生成。自然语言了解是指计算机可能了解自然语言文本的意义，自然语言生成则是指能以自然语言文原本表白给定的用意 自然语言的了解和剖析是一个层次化的过程，许多语言学家把这一过程分为五个档次，能够更好地体现语言自身的形成，五个档次别离是语音剖析、词法剖析、句法分析、语义剖析和语用分析。 语音剖析是要依据音位规定，从语音流中辨别出一个个独立的音素，再依据音位状态规定找出音节及其对应的词素或词。 词法剖析是找出词汇的各个词素，从中取得语言学的信息。 句法分析是对句子和短语的构造进行剖析，目标是要找出词、短语等的互相关系以及各自在句中的作用。 语义剖析是指使用各种机器学习办法，学习与了解一段文本所示意的语义内容。 语义剖析是一个十分广的概念。 语用分析是钻研语言所存在的外界环境对语言使用者所产生的影响 词法剖析(lexical analysis) 词法剖析包含汉语分词（word segmentation 或 tokenization）和词性标注（part-of-speech tag）等。 汉语分词：解决汉语(英文自带分词)首要工作就是要将输出的字串切分为独自的词语，这一步骤称为分词。 词性标注：词性标注的目标是为每一个词赋予一个类别，这个类别称为词性标记。比方，名词（noun）、动词（verb）等 另一方面是自然语言解决的利用技术，这些工作往往会依赖根底技术，包含文本聚类(Text Clustering)、文本分类(Text Classification)、文本摘要（Text abstract）、情感剖析(sentiment analysis)、主动问答(Question Answering,QA)、机器翻译(machine translation， MT)、信息抽取(Information Extraction)、信息举荐(Information Recommendation)、信息检索(Information Retrieval,IR)等。 文本分类：文本分类工作是依据给定文档的内容或主题，主动调配事后定义的类别标签。包含单标签分类和多标签文本分类，。 文本聚类：工作则是依据文档之间的内容或主题类似度，将文档汇合划分成若干个子集，每个子集外部的文档类似度较高，而子集之间的类似度较低。 文本摘要：文本摘要工作是指通过对原文本进行压缩、提炼，为用户提供简明扼要的文字描述。 情感剖析：情感剖析工作是指利用计算机实现对文本数据的观点、情感、态度、情绪等的剖析开掘。 主动问答：主动问答是指利用计算机主动答复用户所提出的问题以满足用户常识需要的工作。 机器翻译：机器翻译是指利用计算机实现从一种自然语言到另外一种自然语言的主动翻译。被翻译的语言称为源语言（source language）， 翻译到的语言称作目标语言（target language）。 信息抽取：信息抽取是指从非结构化/半结构化文本（如网页、新闻、论文文献、微博等）中提取指定类型的信息（如实体、属性、关系、事件、商品记录等），并通过信息归并、冗余打消和冲突消解等伎俩将非结构化文本转换为结构化信息的一项综合技术。 信息举荐：信息举荐据用户的习惯、 偏好或趣味， 从一直到来的大规模信息中辨认满足用户趣味的信息的过程。 信息检索：信息检索是指将信息按肯定的形式加以组织，并通过信息查找满足用户的信息需要的过程和技术。

原文链接：http://tecdat.cn/?p=12693原文出处：拓端数据部落公众号介绍在本教程中，咱们将探讨一种十分弱小的优化（或自动化）算法，即网格搜索算法。它最罕用于机器学习模型中的超参数调整。咱们将学习如何应用Python来实现它，以及如何将其利用到理论应用程序中，以理解它如何帮忙咱们为模型抉择最佳参数并进步准确性。 前提浏览本教程，您最好对Python或其余某种编程语言有根本的理解，也具备机器学习的基本知识，但这不是必须的。除此之外，本文是初学者敌对的，任何人都能够关注。 装置要实现本教程，您须要在零碎中装置以下库/框架： Python 3NumPyPandasKerasScikit-Learn它们的装置都非常简单-您能够单击它们各自的网站，获取各自的具体装置阐明。通常，能够应用pip装置软件包： $ pip install numpy pandas tensorflow keras scikit-learn什么是网格搜寻？网格搜寻实质上是一种优化算法，可让你从提供的参数选项列表中抉择最适宜优化问题的参数，从而使“试验和误差”办法自动化。只管它能够利用于许多优化问题，然而因为其在机器学习中的应用而取得最广为人知的参数，该参数能够使模型获得最佳精度。 假如您的模型采纳以下三个参数作为输出： 暗藏层数[2，4]每层中的神经元数量[5，10]神经元数[10，50]如果对于每个参数输出，咱们心愿尝试两个选项（如下面的方括号中所述），则总计总共2 ^3 = 8个不同的组合（例如，一个可能的组合为[2,5,10]）。手动执行此操作会很麻烦。 当初，假如咱们有10个不同的输出参数，并且想为每个参数尝试5个可能的值。每当咱们心愿更改参数值，从新运行代码并跟踪所有参数组合的后果时，都须要从咱们这边进行手动输出。网格搜寻可主动执行该过程，因为它仅获取每个参数的可能值并运行代码以尝试所有可能的组合，输入每个组合的后果，并输入可提供最佳准确性的组合。 网格搜寻施行让咱们将网格搜寻利用于理论应用程序。探讨机器学习和数据预处理这一部分不在本教程的探讨范畴之内，因而咱们只须要运行其代码并深刻探讨Grid Search的引入局部即可。 咱们将应用糖尿病数据集，该数据集蕴含无关患者是否基于不同属性（例如血糖，葡萄糖浓度，血压等）的糖尿病信息。应用read_csv()办法。 以下脚本导入所需的库： from sklearn.model_selection import GridSearchCV, KFoldfrom keras.models import Sequentialfrom keras.optimizers import Adamimport sysimport pandas as pdimport numpy as np以下脚本导入数据集并设置数据集的列题目。 df = pd.read\_csv(data\_path, names=columns)让咱们看一下数据集的前5行： df.head()输入： 如你所见，这5行都是用来形容每一列的标签，因而它们对咱们没有用。咱们将从删除这些非数据行开始，而后将所有NaN值替换为0： df.dropna(inplace=True) # 删除所有缺失值的行以下脚本将数据分为变量和标签集，并将标准化利用于数据集： # 变换和显示训练数据X_standardized = scaler.transform(X)以下办法创立了咱们简略的深度学习模型：     # 创立模型    model = Sequential()    model.add(Dense(8, input\_dim=8, kernel\_initializer='normal', activation='relu'))    #编译模型    model.compile(loss='binary_crossentropy', optimizer=adam, metrics=\['accuracy'\])这是加载数据集，对其进行预处理并创立机器学习模型所需的局部代码。因为咱们只对Grid Search的性能感兴趣，所以我没有进行训练/测试拆分，咱们将模型拟合到整个数据集。 在下一节中，咱们将开始理解Grid Search如何通过优化参数使训练模型变得更轻松。 在没有网格搜寻的状况下训练模型在上面的代码中，咱们将随机决定或依据直觉决定的参数值创立模型，并查看模型的性能： model = create\_model(learn\_rate, dropout_rate)输入： Epoch 1/1130/130 \[==============================\] - 0s 2ms/step - loss: 0.6934 - accuracy: 0.6000正如看到的，咱们失去的精度是60.00%。这是相当低的。 应用网格搜寻优化超参数如果不应用Grid Search，则能够间接fit()在下面创立的模型上调用办法。然而，要应用网格搜寻，咱们须要将一些参数传递给create_model()函数。此外，咱们须要应用不同的选项申明咱们的网格，咱们心愿为每个参数尝试这些选项。让咱们分局部进行。 首先，咱们批改create_model()函数以承受调用函数的参数： # 创立模型Classifier(create_model, verbose=1)当初，咱们筹备实现网格搜索算法并在其上拟合数据集： # 建设和拟合GridSearchGridSearch(estimator=mode)输入： Best: 0.7959183612648322, using {'batch\_size': 10, 'dropout\_rate': 0.2, 'epochs': 10, 'learn_rate': 0.02}在输入中，咱们能够看到它为咱们提供了最佳精度的参数组合。 能够必定地说，网格搜寻在Python中非常容易实现，并且在人工方面节俭了很多工夫。您能够列出所有您想要调整的参数，申明要测试的值，运行您的代码。您无需再输出任何信息。找到最佳参数组合后，您只需将其用于最终模型即可。 论断总结起来，咱们理解了什么是Grid Search，它如何帮忙咱们优化模型以及它带来的诸如自动化的益处。此外，咱们学习了如何应用Python语言在几行代码中实现它。为了理解其有效性，咱们还训练了带有和不带有Grid Search的机器学习模型，应用Grid Search的准确性进步了19％。

原文链接：http://tecdat.cn/?p=23287 引言当从单变量稳定率预测跳到多变量稳定率预测时，咱们须要明确，当初咱们不仅要预测单变量稳定率元素，还要预测协方差元素。假如你有两个序列，那么这个协方差元素就是2乘2方差-协方差矩阵的对角线。咱们应该应用的精确术语是 "方差-协方差矩阵"，因为该矩阵由对角线上的方差元素和非对角线上的协方差元素组成。然而因为读 "方差-协方差矩阵 "十分累人，所以通常被称为协方差矩阵，或者有时不太正式地称为var-covar矩阵。 如果你还在读这篇文章，阐明你在建设相干关系模型方面有一些教训。鉴于你晓得各个序列的方差，相干和协方差之间的分割是间接的。     所以当我第一次钻研这个问题时，我不明确为什么咱们不独自建设所有非对角线的模型，例如应用样本成对相干的滚动窗口呢？你想有一个无效的相关矩阵，这意味着对称（很容易施加）和正负有限。 首先，为什么非负定属性很重要，其次，为什么它不容易施加。把非负定属性看作是多变量的，相当于单变量状况下对稳定率的正向施加。你不会想让你的模型生成负的稳定率吧？在单变量的状况下，乘以任何平方数，咱们都能够放弃在负数的范畴内。在更高的维度上，确保协方差的 "正性 "波及到乘法，不是乘以一个平方的标量，而是乘以一个 "平方 "的矢量。   将XC示意为居中的随机变量X，所以 。当初依据定义是一个协方差矩阵，显然是非负定的。当初，如果咱们用矩阵乘以一个 "平方 "向量，咱们能够将向量 "插入 "期望值中（因为（1）向量不是随机变量，以及（2）冀望算子的线性）。咱们（应该）依然失去非负定矩阵。  你用哪个向量并不重要，因为它是 "平方 "的。 如果咱们对协方差条目进行独自建模，并将它们 "修补 "成一个矩阵，将每个成对的协方差放在正确的地位（例如，变量1和变量3之间的协方差在条目和 ，不能保障咱们最终失去一个非负定的矩阵。因为不存在非负定的协方差矩阵，那么咱们就有可能失去一个有效的协方差矩阵。 从业人员因为解脱了繁琐的学术判断过程，可能会解脱这个实践上的失误。然而，还有其余问题，在实质上是计算上的问题。一个非负的有限矩阵能够有零或负的行列式。在许多贝叶斯的利用中，咱们心愿应用准确矩阵而不是协方差矩阵。为了计算准确矩阵，咱们简略地反转协方差矩阵，但这意味着咱们要除以行列式，因而，行列式为零就会产生问题。   文献中的次要构建模块是GARCH过程。假如咱们有一个随机变量，咱们能够用它的稳定率来建模。  (1)  很容易了解。对于明天的稳定率来说，重要的是昨天的稳定率，特别强调的是昨天的冲击，。请记住，如果，那么仅仅是对方差的预计，而没有思考到t-1以前的任何状况。   进步维度当初，增加另一个随机变量 。你当初有两个稳定率和一个协方差项。然而，为什么不以向量主动回归（VAR）扩大主动回归的同样形式来扩大这个过程？进入VEC模型。 (2)  这里是一个矢量化运算符，将一个矩阵作为一个矢量进行重叠。因为矩阵的对称性，咱们不须要所有的系数，所以更好的表述：   (3)  这个模型背地的直觉与VAR的根底是一样的。兴许当股票的稳定率高时，债券的稳定率就低，兴许当债券的稳定率高时，与股票的协方差就高，等等。 这个模型的一个潜在问题，也是与VAR类似的，就是稳定率是独立的过程，这意味着只有A和B的对角线是重要的，在这种状况下，咱们只是用不必要的预计乐音来烦扰这个模型。之前提到的另一个计算问题是，因为咱们没有对矩阵过程自身进行建模，而是对三个项逐个进行建模，所以咱们不能确保后果是一个无效的协方差矩阵，特地是没有施加非负-有限束缚。BEKK模型（Baba, Engle, Kraft and Kroner, 1990）获得了这一停顿。有一个很好的理由不具体探讨这些 "第一代 "模型。它们对于少数几个变量来说是十分难以估计的。我没有亲自尝试过那些模型。对于这些模型，即便人们胜利地进行了预计，就实践者而言，预计的复杂性给后果带来了很大问题。 CCC 和DCC恩格尔（2002）在其开创性的论文中提出了下一个重要的步骤，随后文献中呈现了一个低潮。"Dynamic Conditional Correlation: 一类简略的多变量狭义自回归条件异方差模型"。从摘要中能够看出："这些（模型）具备单变量GARCH模型的灵活性，加上参数化的相干模型"。这类条件相干模型的要害切入点是要意识到  (4)  是一个矩阵，对角线上是各个序列的稳定率（当初独自预计），对角线外是零。这只是以矩阵模式对咱们开始时的惯例方程进行了解决。 ，因为。当初具备几个条件： 把对角线和非对角线离开，你能够用通常的单变量GARCH估计值来 "填补 "这个对角线。非对角线是由相关矩阵给出的，咱们当初能够对其进行决定。当咱们假如一个恒定的相关矩阵（CCC），也就是说，咱们能够天然地应用样本相关矩阵。咱们能够假如该矩阵是时变的，并应用滚动窗口或指数衰减权重或其余形式来预计它。因为二次模式，并且因为是相关矩阵，咱们必定会失去一个无效的协方差矩阵，即便咱们应用恒定的相关矩阵，它也是工夫变动的。因为这种对角线与非对角线的拆散，咱们实际上能够解决许多变量，与 "第一代 "类模型十分不同。我认为，这是该模型被承受和风行的次要起因。 当初咱们进行预计。 应用R进行估算让咱们失去一些数据。咱们提取三个ETF的过来几年的数据。SPY（追踪规范普尔500指数），TLT和IEF（别离追踪长期和中期债券）。 k <- 3 # 多少年数据sym = c('SPY', 'TLT', "IEF") #  规范普尔500指数，长期和中期债券，所有ETFsfor (i in 1:l)getSymbols(sym\[i\], src="yahoo", from=start, to=end)ret <- na.omit(ret)#  删除第一个察看值当初来演示如何应用CCC和DCC模型构建协方差矩阵。咱们首先失去单变量稳定率。咱们须要它们，它们位于对角线矩阵的对角线上。咱们用重尾的不对称GARCH来预计它们。 garch(distribution="std") #std是学生t散布volatilityfit # 用一个矩阵来保留三种资产的稳定率for (i in 1:l) model = ugarchfit(spec,ret\[,i\])当初，一旦咱们有了，咱们就可能创立基于CCC和DCC的协方差矩阵。对于CCC（恒定条件相干），咱们应用样本相关矩阵，而对于DCC（动静），咱们应用基于例如3个月的挪动窗口预计的相关矩阵。 # 创立一个CCC模型的协方差nassets <- l #  为了进步可读性，l看起来太像1了。# 为不同期间的矩阵制作容器。array(dim=c(n, nassets, TT))# 计算样本无条件的相关矩阵。samp_cor <- cor(ret) # 在整个循环过程中会放弃不变wind <- 60 # 大略三个月的工夫for (i in (w+1):TT)(volatilitfit\[i,\])*diag(assets)cov_ccccor_tv cov\_dcc<- dt %*% cor\_tv\[,,i\] %*% dt后果后果按年计算，并乘以100，转为百分比，以进步可读性。绘制它。 par()$mar # 边距plot(ann*cov_ccc\[1,1,\]~timeplot(ann*cov_ccc\[1,2,\]~time)  在上图中，咱们有协方差矩阵的对角线。咱们看到（1）中期债券的波动性最低，正如预期的那样，（2）SPY的波动性很大，方差也很高。(3) 曲线长端的方差高于中期的方差，这是收益率曲线文献中一个典型的事实。(4) 乏味的是，长期债券的波动性始终在回升，这可能是对行将进步政策利率的高度警惕。 在下图中，咱们有三个协方差项，一次是假如CCC的预计（实线），一次是假如DCC的预计（虚线）。对于中期和长期债券之间的协方差，如果你假如恒定或动静相关矩阵，并不重要。然而，这对SPY与债券的协方差项的确很重要。例如，基于DCC的协方差矩阵认为在2013年中期股票和债券之间的协方差简直为零，而基于CCC的协方差则表明在此期间的协方差为负。到底是恒定的还是动静的，对跨资产投资组合的构建可能有很大的影响。 最受欢迎的见解 1.HAR-RV-J与递归神经网络（RNN）混合模型预测和交易大型股票指数的高频稳定率 ...

简介：2020 年一场从天而降的疫情闯进了咱们的生存，上网课、在家办公逐步成为了一种常态，为了更好地爱护用户隐衷、晋升用户体验，各大在线办公软件相继推出了虚构背景性能，营造学习、办公气氛的同时，又能防止家中环境不够正式的困境。那么明天咱们就来说道说道虚构背景的相干技术。作者｜羿川 审校｜泰一 虚构背景依靠于人像宰割技术，通过将图片中的人像宰割进去，对背景图片进行替换实现。依据其应用的利用场景，大体能够分成以下三类： 直播场景：用于气氛营造，例如教育直播、线上年会等； 实时通信场景：用于爱护用户隐衷，例如视频会议等； 互动娱乐场景：用于减少趣味性，例如影视编辑、抖音人物特效等。 实现虚构背景须要用到哪些技术？实时语义宰割 语义宰割旨在对图像的每个像素进行标签预测，在主动驾驶、场景了解等畛域有着宽泛的利用。随同挪动互联网、5G 等技术的倒退，如何在算力受限的终端设备进行高分辨率的实时语义宰割，日益成为迫切的需要。上图列举了近年来的实时语义宰割办法，本大节将对其中的局部办法进行介绍。 BiSeNet:Bilateral Segmentation Network for Real-time Semantic Segmentation 先前的实时语义宰割算法通过限定输出大小、缩小网络通道数量、舍弃深层网络模块来满足实时性的需要，然而因为抛弃过多空间细节或者就义模型容量，导致宰割精度大幅降落。因而，作者提出了一种双边宰割网络（BiseNet，ECCV2018），网络结构如上图所示，该网络由空间门路（Spatial Path）和语义门路（Context Path）组成，别离用于解决空间信息缺失和感触野放大的问题。 空间门路通过通道宽、深度浅的网络来获取高分辨率特色，保留丰盛的空间信息；而语义门路则是采纳通道窄、深度深的轻量骨干模型，通过疾速下采样和全局均匀池化提取语义信息。最初利用特色交融模块（FFM）对两个门路的特色进行交融，实现精度和速度之间的均衡。该办法在 cityscapes 测试集上的 MIOU 为 68.4%。 升级版 BiseNetV2 连续了 V1 版本的思维，网络结构如上图所示，V2 版本去除了 V1 空间门路中耗时的跳跃链接（skip connection），减少双向聚合层（Aggregation Layer）减少两个分支之间的信息聚合，并提出了加强训练策略进一步晋升宰割成果，在 cityscapes 测试集上的 MIOU 晋升到了 72.6%，在应用 1080Ti 的 TensorRT 上 FPS 能够达到 156。 DFANet:Deep Feature Aggregation for Real-Time Semantic Segmentation DFANet（CVPR2019）设计了子网聚合和子阶段聚合两种特色聚合策略来晋升实时语义宰割的性能。DFANet 的网络结构如上图所示，蕴含 3 个局部：轻量骨干网络、子网聚合和子阶段聚合模块。轻量骨干网络采纳了推理速度较快的 Xception 网络，在其顶层退出全连贯注意力模块增大高层特色的感触野；子网聚合通过重用先前骨干网络提取的高层特色，将其上采样后作为下一个子网的输出，增大感触野的同时，细化预测后果；子阶段聚合模块则是利用不同子网相应阶段的特色交融多尺度构造细节，加强特色的判断能力。最初通过轻量的解码器，交融不同阶段输入的后果，从粗到细地生成宰割后果。在 Cityscapes 测试集上 MIOU 为 71.3%，FPS 为 100。 ...

数据结构与算法根本算法思维 动静布局贪婪算法回溯算法分治算法枚举算法算法根底工夫复杂度空间复杂度最大复杂度均匀复杂度根底数据结构数组动静数组树状数组矩阵栈与队列栈队列阻塞队列并发队列双端队列优先队列堆多级反馈队列线性表程序表链表 单链表双向链表循环链表双向循环链表跳跃表并查集哈希表(散列表)散列函数碰撞解决办法: 凋谢地址法链地址法再次哈希法建设公共溢出区布隆过滤器位图动静扩容树二叉树: 各种遍历,递归与非递归 二叉查找树均衡二叉树均衡二叉搜寻树 AVL树红黑树齐全二叉树多路查找树 B树B+ 树2-3树2-3-4树哈夫曼树与编码前缀树线段树堆 小顶堆大顶堆二项堆优先队列斐波那契堆图图的存储 邻接矩阵邻接表要害门路最小生成树最短门路拓扑排序常见算法十大排序算法简略排序: 插入排序抉择排序冒泡排序分治排序: 疾速排序 : 留神轴的选取形式归并排序调配排序: 桶排序基数排序树状排序: 堆排序计数排序希尔排序 图论算法图的示意: 邻接矩阵邻接表遍历算法: 深度搜寻广度搜寻查找算法: 二分查找散列表查找树结构查找最短门路算法: FloydDijkstra最小生成树算法: PrimKruskal理论罕用算法: 要害门路拓扑排序二分图匹配: 配对算法匈牙利算法拓展: 核心性算法社区算法并查集 搜寻与回溯算法贪婪算法启发式搜索算法: A*寻路算法地图着色算法N皇后问题最优加工算法旅行商问题 动静布局树形DP: 01背包问题线性DP: 最长公共子序列最长公共子串区间DP: 矩阵最大值矩阵最大和矩阵最大积数位DP: 数字游戏状态压缩DP: 旅行商 字符串匹配算法正则表达式暴力匹配算法模式匹配: KMPBoyer-MooreTrie 流相干算法最大流: 最短增广路Dinic算法最大流最小割: 最大收益问题方格取数问题最小费用最大流: 最小费用路消遣

本篇介绍深度学习在自然语言解决(NLP)中的利用，从词向量开始，到最新最弱小的BERT等预训练模型，梗概性的介绍了深度学习近20年在NLP中的一些重大的停顿 在深度学习之前，用于解决NLP问题的机器学习办法个别都基于浅层模型(如SVM和logistic 回归)，这些模型都在十分高维和稠密的特色(one-hot encoding)上进行训练和学习，呈现了维度爆炸等问题难以解决。并且基于传统机器学习的NLP零碎重大依赖手动制作的特色，它们极其耗时，且通常并不齐备。 而近年来，基于浓密向量表征的神经网络在多种NLP工作上失去了不错后果。这一趋势取决了词嵌入和深度学习办法的胜利；并且深度学习使多级主动特色表征学习成为可能。因而，本文从词的分布式表征开始介绍深度学习在NLP中的利用 分布式词表征(词向量)的实现 通常来讲，在2003年的《A Neural Probabilistic Language Model》中Bengio等人提出了神经语言模型(NNLM)，而它的副产品，词向量，能够实现词的分布式表征。该文通常被认为是深度学习在自然语言解决中利用的开始。提出伊始，因为届时计算机计算能力的限度，该网络并不能较好的失去训练。因而，这一篇成绩，在过后并没有失去相当的关注 2008年Collobert和Weston展现了第一个能无效利用预训练词嵌入的钻研工作，他们提出的神经网络架构，形成了以后很多办法的根底。这一项钻研工作还率先将词嵌入作为 NLP 工作的高效工具。 不过词嵌入真正走向NLP支流还是Mikolov 等人在 2013 年做出的钻研《Distributed Representations of Words and Phrases and their Compositionality》。 Mikolov 等研究者在这篇论文中提出了间断词袋模型CBOW和 Skip-Gram 模型，通过引入负采样等可行性的措施，这两种办法都能学习高质量的词向量 分布式的词表征的一大益处是实现了语义的合成性，即两个词向量相加失去的后果是语义相加的词，例如[man]+[royal]=[king] 这种语义合成性的理论依据最近曾经由Gittens et al. 在2017年给出，他们示意只有保障某些特定的假如能力满足语义合成性，例如词须要在嵌入空间中处于均匀分布。 GloVe是另外一个很有名的取得词向量的办法，在有些状况下，CBOW和Skip-Gram采纳的穿插熵损失函数有劣势。因而GloVe采纳了平方损失。同时，它基本上是一种基于词统计的模型，它令词向量拟合事后基于整个数据集计算失去的全局统计信息，从而学习高效的词表征 NLP中特征提取办法的进化 随着词分布式表征的问题失去了无效的解决，人们开始思考如何提取词序列中高级的语义信息，而后能力将这些提取到的语义信息，利用到上游的NLP工作中，例如情感剖析、问答零碎、机器翻译以及主动摘要等。 最早用来对自然语言词序列进行特征提取的，其实是卷积神经网络(CNN)。这次要归因于卷积神经网络在图像畛域获得的骄人成绩。 应用 CNN 进行句子建模能够追溯到Collobert和Weston在2008年的钻研，他们应用多任务学习为不同的NLP工作输入多个预测，如词性标注、语块宰割、命名实体标签和语义类似词等。其中查找表能够将每一个词转换为一个用户自定义维度的向量。因而通过查找表，n个词的输出序列 {s_1，s_2，... s_n } 能转换为一系列词向量 {w_s1, w_s2,... w_sn}。 在Collobert 2011年的钻研中，他扩大了以前的钻研，并提出了一种基于CNN的通用框架来解决大量NLP工作，这两个工作都令NLP研究者尝试在各种工作中遍及 CNN架构。CNN具备从输出句子抽取n-gram特色的能力，因而它能为上游工作提供具备句子层面信息的暗藏语义表征。 因为语言序列经常具备长程性，须要记忆很早时候的输出信息，CNN并不具备这种能力。这个时候，循环神经网络(RNN)网络被提出 RNN的思路是解决序列信息。“循环”示意RNN模型对序列中的每一个实例都执行同样的工作，并且权重共享，从而使输入依赖于之前的计算和后果。 通常，RNN通过将token挨个输出到循环单元中，来生成示意序列的固定大小向量。肯定水平上，RNN对之前的计算有“记忆”，并在以后的解决中应用对之前的记忆。该模板人造适宜很多NLP 工作，如语言建模、机器翻译、语音辨认、图像字幕生成。因而近年来，RNN在NLP工作中逐步风行。 然而RNN容易呈现梯度隐没和爆炸的问题，因此其改良版本LSTM和GRU被提出来了 LSTM比简略RNN多了“忘记门”，其独特机制帮忙该网络克服了梯度隐没和梯度爆炸问题。与原版RNN不同，LSTM容许误差通过有限数量的工夫步进行反向流传。它蕴含三个门：输出门、忘记门和输入门，并通过联合这三个门来计算暗藏状态。另一个门控RNN变体是GRU，复杂度更小，其在大部分工作中的试验性能与LSTM相似。GRU包含两个门：重置门和更新门，并像没有记忆单元的 LSTM那样解决信息流。因而，GRU不加管制地暴露出所有的暗藏内容。因为GRU的复杂度较低，它比LSTM更加高效。 在llya Sutskever等人2014年的钻研《Sequence to Sequence Learning with Neural Networks》中，作者提出了一种通用深度LSTM编码器-解码器框架，能够实现序列之间的映射。应用一个LSTM将源序列编码为定长向量，源序列能够是机器翻译工作中的源语言、问答工作中的问题或对话零碎中的待回复信息。而后将该向量作为另一个 LSTM解码器的初始状态。在推断过程中，解码器一一生成token，同时应用最初生成的token更新暗藏状态。 ...

原文链接：http://tecdat.cn/?p=23276有些问题是线性的，但有些问题是非线性的。我假如，你过来的常识是从探讨和解决线性问题开始的，这是一个天然的终点。对于非线性问题的解决，往往波及一个初始解决步骤。这个初始步骤的目标是将问题转化为同样具备线性特色的问题。 一个教科书式的例子是逻辑回归，用于取得两类之间的最佳线性边界。在一个规范的神经网络模型中，你会发现逻辑回归（或多类输入的回归）利用于转换后的数据。后面的几层 "致力于 "将不可分割的输出空间转化为线性办法能够解决的货色，使逻辑回归可能绝对容易地解决问题。 同样的情理也实用于谱聚类。与其用原始输出的数据工作，不如用一个转换后的数据工作，这将使它更容易解决，而后再链接到你的原始输出。 谱聚类是一些相当规范的聚类算法的重要变体。它是古代统计工具中的一个弱小工具。谱聚类包含一个解决步骤，以帮忙解决非线性问题，这样的问题能够用咱们所喜爱的那些线性算法来解决。例如，风行的K-means。 内容 谱系聚类的动机 一个典型的谱聚类算法 编码实例谱聚类的动机"一张图片胜过万语千言"（Tess Flanders）。 指标是划分两个不相交的类别。咱们的数据就有这种 "两个环 "的形态。你能够看到，因为数据不是线性可拆散的，K-means解决方案没有太大意义。咱们须要思考到数据中特地的非线性构造。 做到这一点的办法之一是应用数据的特色子空间，不是数据的理论状况，而是数据的相似性矩阵。 典型的谱聚类算法步骤输出：n个样本点和聚类簇的数目k； 输入：聚类簇 （1）应用上面公式计算的类似度矩阵W；                                   W为组成的类似度矩阵。  （2）应用上面公式计算度矩阵D；    ，即类似度矩阵W的每一行元素之和  D为组成的对角矩阵。 （3）计算拉普拉斯矩阵； （4）计算L的特征值，将特征值从小到大排序，取前k个特征值，并计算前k个特征值的特征向量； （5）将下面的k个列向量组成矩阵，； （6）令是的第行的向量，其中； （7）应用k-means算法将新样本点聚类成簇； （8）输入簇，其中，. 下面就是未标准化的谱聚类算法的形容。也就是先依据样本点计算类似度矩阵，而后计算度矩阵和拉普拉斯矩阵，接着计算拉普拉斯矩阵前k个特征值对应的特征向量，最初将这k个特征值对应的特征向量组成的矩阵U，U的每一行成为一个新生成的样本点，对这些新生成的样本点进行k-means聚类，聚成k类，最初输入聚类的后果。这就是谱聚类算法的根本思维。相比拟PCA降维中取前k大的特征值对应的特征向量，这里获得是前k小的特征值对应的特征向量。然而上述的谱聚类算法并不是最优的，接下来咱们一步一步的合成下面的步骤，总结一下在此基础上进行优化的谱聚类的版本。 编码示例环数据在代码中是对象dat。上面的几行只是简略地生成K-means解决方案，并将其绘制进去。 plot(dat, col= kmeans0cluster)   当初是谱聚类解决方案。 # 计算间隔矩阵dist(dat, method = "euclidean", diag= T, upper = T)  sig=1 # 超参数#  一个点与本身的间隔为零diag(tmpa) <- 0 #设置对角线为零# 计算水平矩阵# 因为D是一个对角线矩阵，所以上面一行就能够了:diag(D) <- diag(D)^(-0.5)# 当初是拉普拉斯的问题:# 特色合成eig_L <- eigen(L, symmetric= T)K <- 4 # 让咱们应用前4个向量# 它是相当持重的--例如5或6的后果不会扭转x <- eig_L$vectors\[,1:K\]# 当初进行归一化解决:sqrt( apply(x^2, 1, sum) ) #  长期分母# 长期分母2：转换为一个矩阵# 创立Y矩阵# 在y上利用聚类# 可视化:plot(dat, col= spect0$cluster) * 在咱们的例子中，的条目不仅是0和1（连贯或不连贯），而且是量化相似性的数字。 参考资料Ng, Andrew Y., Michael I. Jordan, and Yair Weiss. “On spectral clustering: Analysis and an algorithm.” Advances in neural information processing systems. 2002. 最受欢迎的见解 1.R语言k-Shape算法股票价格工夫序列聚类 2.R语言中不同类型的聚类办法比拟 3.R语言对用电负荷工夫序列数据进行K-medoids聚类建模和GAM回归 4.r语言鸢尾花iris数据集的档次聚类 5.Python Monte Carlo K-Means聚类实战 6.用R进行网站评论文本开掘聚类 7.用于NLP的Python：应用Keras的多标签文本LSTM神经网络 ...

原文链接：http://tecdat.cn/?p=18970在广泛的了解中，最大似然预计是应用已知的样本后果信息来反向推断最有可能导致这些样本后果的模型参数值！ 换句话说，最大似然预计提供了一种在给定观测数据的状况下评估模型参数的办法，即“模型已确定且参数未知”。 在所有双射函数的意义上，极大似然预计是不变的  ，如果   是的极大似然预计     。 让  ，    等于  中的似然函数。因为   是的最大似然预计  ， 因而，   是的最大似然预计  。 例如，伯努利散布为   ，      给定样本  ，概率是   则对数似然   与ICI   因而，一阶条件   何时满足  。为了阐明，思考以下数据 > X\[1\] 0 0 1 1 0 1 1 1 1 0 0 0 1 0 1（负）对数似然 > loglik=function(p){+ -sum(log(dbinom(X,size=1,prob=p)))+ }咱们能够在上面看到 > plot(u,v,type="l",xlab="",ylab="") 依据以上计算，咱们晓得的极大似然预计  是 > mean(X)\[1\] 0.53数值为 $par\[1\] 0.53$value\[1\] 10.36$countsfunction gradient20 NA$convergence\[1\] 0$messageNULL咱们没有说优化是在区间内 。然而，咱们的概率估计值属于 。为了确保最优值在 ，咱们能够思考一些束缚优化程序 ui=matrix(c(1,-1),2,1), ci=c(0,-1)$par\[1\] 0.53$value\[1\] 10.36$countsfunction gradient20 NA$convergence\[1\] 0$messageNULL$outer.iterations\[1\] 2$barrier.value\[1\] 6.91e-05在上一张图中，咱们达到了对数似然的最大值 > abline(v=opt$par,col="red") 另一种办法是思考   （如指数分布）。则对数似然    这里   因而，一阶条件   满足 即   从数值角度来看，咱们有雷同的最优值 (opt=optim(0,loglik))$par\[1\] 0.13$value\[1\] 10.36$countsfunction gradient20 NA$convergence\[1\] 0$messageNULL> exp(opt$par)/(1+exp(opt$par))\[1\] 0.53 最受欢迎的见解 1.Matlab马尔可夫链蒙特卡罗法（MCMC）预计随机稳定率（SV，Stochastic Volatility） 模型 2.基于R语言的疾病制图中自适应核密度估计的阈值抉择办法 3.WinBUGS对多元随机稳定率模型：贝叶斯预计与模型比拟 4.R语言回归中的hosmer-lemeshow拟合优度测验 5.matlab实现MCMC的马尔可夫切换ARMA – GARCH模型预计 6.R语言区间数据回归剖析 7.R语言WALD测验 VS 似然比测验 8.python用线性回归预测股票价格 9.R语言如何在生存剖析与Cox回归中计算IDI，NRI指标 ...

转载地址：https://bbs.huaweicloud.com/f... 作者： 陈霸霸 开发一个模型的训练局部大抵分为数据处理，网络，损失函数，训练。因为咱们次要是实现的从pytorch到mindspore的复现，所以两者雷同的局部就不再具体介绍。 1.数据处理： 在图像畛域罕用的数据集能够间接调用mindspore.dateset接口实现，十分不便。大家能够在mindspore官网的编程指南查到。其余的一些数据集咱们能够制作成MindRecord（MindSpore的自研数据格式，具备读写高效、易于分布式解决等劣势。），会在当前目录下生成.mindrecord类型文件。也能够调用mindspore.dateset.GeneratorDataset进行自定义加载。应用MindRecord可能取得更好的性能晋升，毛病就是文件大小比原数据集要大，并且如果图片个数多的话，在制作的过程中我是用cv.imread读的，须要一次性读完再进行解决，所以解决的速度比较慢，每次数据处理改变的话就要从新进行制作。总之，如果数据集较大的话还是倡议调用GeneratorDataset。2.网络： 实现的话和pytorch大致相同，然而在训练时，如果采纳图模式，mindspore会先进行图编译，在本地会生成kernel_meta，而后才开始跑网络，所以一开始会比较慢。3.损失函数： 和pytorch不同，如果要自定义损失函数，也须要像写网络那样，继承nn.cell，定义init以及construct。在损失函数里只能用mindspore里的操作，并且须要在init里初始化操作，在construct里调用。在接口转化局部，大部分能够通过编程指南里的算子匹配里找到。这里说下一些找不到的：pytorch里的Interpolate能够通过ops.ResizeBilinear实现； pytorch里两个张量a,b实现a[b>0]这个操作mindspore里能够用select算子，例如：cond = Tensor([True, False])x = Tensor([4,9])#你的张量Ay = Tensor([0,0]) #长期select = P.Select()z=select(cond,x,y)，最初尽管shape和pytorch不一样，但最初会进行求和啥的； 损失中只计算一部分的值，如（10，1）只须要计算其中的5个值的损失。这种状况能够将其余值变成0，应用equal算子能够失去要计算的index，应用select算子能够吧不须要的值变成0。应用算子其中须要留神Tensor的数据类型，有的只反对float。 应用cast算子就能够吧Tensor数据类型互相转换； 4.训练： 训练次要步骤为：定义网络，定义损失函数，定义优化器，失常状况能够间接调用model.train将网络，损失函数以及优化器同时封装起来进行训练。如果损失函数的输出参数不是两个例如img,label还须要自定义WithLossCell将网络和损失函数联合起来，调用TrainOneStepCell将优化器和网络以及损失函数联合起来最初传到model.train里。5.自定义callback函数应用技巧： Mindspore给的Callback函数的确好用，申明应用，疾速就能够应用，但同时对于不同网络，不同人来说，个性化需要会无奈满足。所以有时候应用自定义Callback可能对于一些刚接触Mindspore的人来说更能够发现模型中的问题。官网Callback类： 个别应用官网定义好的Callback函数应用办法： 1.png 2.png 3.png 运行后果如下： 4.png 自定义Callback： 个别就我而言，应用就是前面的六个函数，次要就是step_begin,step_end。从函数名就晓得该函数是什么时候调用的，这里我就不做更多阐明。Callback次要就是要对run_context内容要有所理解，这个能够自行去看源码。我这里次要就是想理解本人运行中每个epoch每步对均匀损失的影响，就应用了这个自定义。 5.png 6.png 7.png 运行后果如下： 8.png 6.modelarts多卡训练： 在云上训练和本地最大不同就是须要调用mix接口将数据集等文件从obs通过mix接口传到catch里，训练实现失去ckpt文件再通过mix接口传到obs桶里。

转载地址：https://bbs.huaweicloud.com/f... 作者：红色石头 MindSpore！这款刚刚开源的深度学习框架我爱了！ 1.jpg 犹记得往年的华为开发者大会 HDC 2020 上，始终受人注目的深度学习框架 MindSpore 终于开源了。 我之前始终关注 MindSpore，还是挺期待的。MindSpore 是一款反对端、边、云独立/协同的对立训练和推理框架。与 TensorFlow、PyTorch 等风行深度学习框架对标，MindSpore 旨在大幅度降低 AI 利用开发门槛，让人工智能无处不在。 2.jpg MindSpore 最大的特点就是开发门槛大大降低，进步开发效率，这样能够显著缩小模型开发工夫。 因而，应用MindSpore的劣势能够总结为以下四点： 简略的开发体验 灵便的调试模式 充分发挥硬件潜能 全场景疾速部署 既然开源了，那就连忙上手，试一试这款开源的 MindSpore 怎么样！本文我将介绍 MindSpore 的装置和上手教程，通过一个简略的图像识别案例来跑残缺个 AI 训练和测试流程。 一、MindSpore 的装置开源框架 MindSpore 的装置办法有很多，能够在 Windows、Ubuntu 上装置，也能够在华为 Ascend 910 上装置。各种详尽的装置办法请见上面的链接： https://www.mindspore.cn/install 上面介绍两种最简略的装置办法！ Docker 装置Docker 装置最为简略，可参考： https://gitee.com/mindspore/m... 以 0.3.0-alpha 版本为例： CPU: docker pull mindspore/mindspore-cpu:0.3.0-alpha GPU: docker pull mindspore/mindspore-gpu:0.3.0-alpha 装置好后，能够看到装置的镜像，并应用上面的命令创立一个你的容器： 1 docker run -it mindspore/mindspore-cpu:0.3.0-alpha /bin/bash Win10+Anaconda+MindSpore应用 Win10 +Anaconda+MindSpore 的形式进行装置也非常简单，本文将采纳这种形式装置 MindSpore。 ...

之前看到有人求助一个积分算法，这里的积分不是微积分里的积分，精确来说是等级积分算法。 场景形容：奥运会集体排行榜。如张三打了1场较量，1场胜利，那么胜率即为100%， 李四打了100场较量，80场胜利，那么胜率即为80%， 王五打了10000场较量，7000场胜利，那么胜率即为70%， 如果依照胜率排名：张三>李四>王五，显然不合理，打的少的概率反而高了，还有没有好的排名算法，求领导https://www.oschina.net/quest... 这个问题是个不错的问题，早年我本人做小游戏的时候也摸索过。此问题上面的答复也有人提到了Elo，明天就讲讲这个算法。 可能有人热衷《王者光荣》这样的游戏，尽管我对腾讯系的游戏毫无好感，也从没玩过，但听过一二。有时会看到有人发牢骚，王者排位五连胜后遭逢九连跪，是不是游戏操控胜率？又有人会想到，我能不能在高段位去虐老手刷积分，这其实都是积分等级制度须要思考的事件。 其实在对战类的游戏里，是有一套既定的积分制度的，那就是 Elo Rating System。 Elo Rating System是由匈牙利裔美国物理学家Arpad Elo创立的一个掂量各类对弈流动程度的评估办法，是当今对弈程度评估的公认的权威办法。被宽泛用于国际象棋、围棋、足球、篮球等静止。网络游戏英雄联盟、魔兽世界内的竞技对战零碎也采纳此分级制度。ELO算法中文网络曾经有很多文章介绍其利用和原理了，这里仅对已有材料的一个总结，而后加上一些本人的了解。 那么它到底是如何实现对象的评估和排名的呢？以游戏中的竞技玩法积分排名为例阐明。 Elo会赋予每位玩家一个雷同的初始积分，并进行以下计算： 依据积分差计算单方获胜概率；得出游戏后的积分变动。计算公式EA：玩家A的胜率期望值EA=1/{1+10^[(RB-RA)/400]}EB：玩家B的胜率期望值（能够看出，EA+EB = 1）EB=1/{1+10^[(RA-RB)/400]} R'A=RA+K(SA-EA) 其中：RA：玩家A以后积分RB：玩家B以后积分R'A：玩家A游戏后积分K：常量系数，后文会阐明具体作用SA/SB：理论后果输赢分，胜 = 1，平 = 0.5，负= 0 演算过程： 假如两位以后积分为RA = 1900，RB = 1500的玩家互相竞技时，EA = 1/{1+10^[(1500-1900)/400]} ≈ 0.91EB = 1/{1+10^[(1900-1500)/400]} ≈ 0.09 咱们来看图 可见，当单方积分达到400（1900-1500）分的分差时候，A的获胜概率是91%，B的获胜概率则很低了。而分差为0时，则各有50%的胜率。 而后就是计算对局后的得分了，当K = 32时，假如玩家A胜出，SA = 1，SB = 0，则： R'A = 1900 + 32*(1-0.91) ≈ 1903，玩家A取得3分 R'B = 1500 + 32*(0-0.09) ≈ 1497，玩家B失去3分 分母中的400： 为什么是400，而不是100、200或者1000呢？ 从积分差上看，这个值影响着对战单方的获胜冀望。当单方积分差雷同时，这个值越大，单方的获胜概率越靠近。当这个值等于400时，若单方分差为100，积分较高的一方获胜冀望约为64%。 还是没解释为什么这个值就非得是400。我看了下相干英文paper，没找到其出处。我认为400是Elo自己抉择的，是基于整个国际象棋的积分制度对应得进去的一个参数，也不是非400不可。作为参考，国际象棋积分制度规定，2005分是终点积分，当今女子最高程度个别2750以上为超一流，极少数在状态巅峰时超过2800（例如小卡、克拉、托帕、阿南德等曾超过2800）,2700以上为国内一流。大多数国内特级巨匠2500分以上。职业棋手至多能达到2200以上，业余强手可达在2000分左右，个别爱好者在1700－1900不等。 K常量： ...

排序算法本文解说冒泡排序，疾速排序，归并排序 三种排序算法的思路和编码 冒泡排序思路：顺次比拟相邻的两个数，将比拟小的数放在后面，比拟大的数放在前面。直到跑完一次，这时候，最大的数就放在最初一个地位了，在了它排序后应该在的地位了。依此类推，再把第二大的数冒泡到倒数第二个地位, 跑 i 次，把 i 个数都放到它指定的地位，排序实现。 function bubbleSort(arr) { const len = arr.length; for (let i = 0; i < len; i++) { // 每次把最大值冒泡到最初 for (let j = 1; j < len - i; j++) { if (arr[j - 1] > arr[j]) { [arr[j - 1], arr[j]] = [arr[j], arr[j - 1]]; } } } return arr;}疾速排序思路：设定一个分界值，通过该分界值将数组分成左右两局部，把小于它的，放在右边，大于它的，放在左边。　跑完一次，那么分界值就在了它本人应该在的地位（因为右边的都小于它，左边的都大于它），宰割的两端持续依照这个逻辑去跑（递归）。 function quickSort(arr) { const sort = (L, R) => { if (L >= R) return; let l = L; let r = R; // 抉择一个基准值，把小于它的，放在右边，大于它的，放在左边 // 拆分后的两端持续这样做 const pivot = arr[l]; while (l < r) { while (l < r && arr[r] > pivot) r--; if (l < r) { arr[l] = arr[r]; } while (l < r && arr[l] < pivot) l++; if (l < r) { arr[r] = arr[l]; } } arr[l] = pivot; sort(L, r - 1); sort(r + 1, R); }; sort(0, arr.length - 1); return arr;}归并排序思路：将数组拆分为两局部，别离对两个子数组进行递归拆分。直到无奈再分，这时候进行两两合并（归并），合并后的子序列是有序的，也就是合并两个有序的子序列。合并实现即为最初排序后的后果。 ...

原文链接：http://tecdat.cn/?p=3715  统计测验最常见的畛域之一是测验列联表中的独立性。在这篇文章中，我将展现如何计算列联表，我将在列联表中引入两个风行的测验：卡方测验和Fisher准确测验。 什么是列联表？列联表提供对于两个分类变量的测量的整数计数。最简略的列联表是一个2 × 2 频率表，由两个变量产生，每个变量有两个级别： 组/察看 察看1 察看2 第1组 ñ1 ，1 ñ1 ，2 第2组 ñ2 ，1 ñ2 ，2 给定这样一个表格，问题是_第1组_是否体现出与_第2组_相比的观测频率。这些组代表因变量，因为它们依赖于自变量的察看。请留神，列联表必须是一种常见的误会2 × 2; 它们能够具备任意数量的维度，具体取决于变量显示的级别数。尽管如此，应防止对具备多个维度的列联表进行统计测验，因为除其余起因外，解释后果将具备挑战性。  数据集要钻研列联表的测验，咱们将应用_warpbreaks_数据集：  data(warpbreaks)head(warpbreaks)##   breaks wool tension## 1     26    A       L## 2     30    A       L## 3     54    A       L## 4     25    A       L## 5     70    A       L## 6     52    A       L这是一个蕴含来自纺织行业的三个变量的数据集：_断_形容了羊毛拉断的次数  形容了通过测验的羊毛类型 张力∈ { L ，M，H}给出了施加在螺纹上的张力（低，中或高）。数据集中的每一行示意单个织机的测量值。为了解释不同织机的可变性，对_羊毛_和_张力的_每种组合进行了9次测量，数据集总共蕴含9 ⋅ 2 ⋅ 3 = 549⋅2⋅3=54 察看后果。 剖析指标咱们想确定一种类型的羊毛在不同水平的拉紧状况下是否优于另一种羊毛。为了钻研咱们是否能够找到一些差别的证据，让咱们来看看数据： 为了钻研断裂数的差别，让咱们可视化数据： 从图中咱们能够看出，总体而言，羊毛B与较少的断裂相关联。羊毛A仿佛特地低劣，因为低张力。 转换为列联表为了取得列联表，咱们首先须要总结两种类型的羊毛和三种类型的张力的不同织机的断裂。 ##   wool tension breaks## 1    A       L    401## 2    A       M    216## 3    A       H    221## 4    B       L    254## 5    B       M    259## 6    B       H    169而后咱们应用xtabs_穿插表_函数来生成列联表： ##     tension## wool   L   M   H##    A 401 216 221##    B 254 259 169当初，df咱们有了利用统计检验所需的构造。 统计测验用于确定来自不同组的测量值是否独立的两种最常见的测验是卡方测验（2测验）和费舍尔的准确测验。请留神，如果测量后果配对，则应应用McNemar测验（例如，能够辨认单个织机）。 皮尔逊的卡方测验该 2test是一种非参数检验，可利用于具备各种维度的列联表。测验名称源自2散布，即独立规范正态变量的平方散布。这是测验统计的散布2测验  ## \[1\] 7.900708e-07因为p值小于0.05，咱们能够在5％显着性程度上回绝测验的零假如（断裂的频率独立于羊毛）。依据df，能够宣称羊毛B比羊毛A显著更好（绝对于断裂）。 Pearson残差 另一种办法是思考测验的卡方值。该chisq.test函数提供卡方值的Pearson残差（根） 。与由平方差别产生的卡方值相同，残差不是平方的。因而，残差反映了观测值超过预期值（正值）或低于预期值（负值）的水平。在咱们的数据集中，正值示意比预期更多的断裂，而负值示意更少的断点： ##     tension## wool          L          M          H##    A  2.0990516 -2.8348433  0.4082867##    B -2.3267672  3.1423813 -0.4525797残差表明，与羊毛A相比，羊毛B的低张力和高张力断裂比预期的要少。然而，对于中等张力，羊毛B比预期的断裂更多。再次，咱们发现，整体羊毛B优于羊毛A.残差的值也表明羊毛B对于低张力（残差为2.1），高张力（0.41）和中等张力重大（ - 2.8）。然而，残差有助于咱们辨认羊毛B的问题：它对中等张力的体现不佳。这将如何促成进一步倒退？为了取得在所有张力程度下体现良好的羊毛，咱们须要专一于改善羊毛B的中等张力。为此，咱们能够思考使羊毛A在中等张力下体现更好的个性。 费舍尔Fisher准确测验Fisher的准确测验是用于测验独立性的非参数检验，通常仅用于测验2 × 2列联表。作为准确显着性测验，Fisher测验合乎所有假如，在此基础上定义测验统计量的散布。实际上，这意味着谬误回绝率等于测验的显着性程度，对于近似测验，例如2测验。简而言之，Fisher的准确测验依赖于应用二项式系数依据超几何散布计算p值。 因为计算的因子可能变得十分大，Fisher准确测验可能不适用于大样本量。 请留神，无奈指定测验的代替办法，df因为劣势比（示意成果大小）仅定义为2 × 2 矩阵。 咱们依然能够执行Fisher准确测验以取得p值： ## \[1\] 8.162421e-07失去的p值相似于从中取得的p值 2 测验并得出雷同的论断：咱们能够回绝零假如，即羊毛的类型与不同应力程度下察看到的断裂次数无关。 转换为2乘2矩阵 为了指定备选假如并取得劣势比，咱们能够计算三者的测验 2 × 2能够结构的矩阵df： 因为代替计划设置得_更大_，这意味着咱们正在进行单尾检验，其中另一种假如是羊毛A与羊毛B的断裂次数相干（即咱们预期O R > 1）。通过执行测验2 × 2表格，咱们也取得了解释性：咱们当初能够辨别羊毛不同的具体条件。然而，在解释p值之前，咱们须要纠正多个假设检验。在这种状况下，咱们进行了三次测验。在这里，咱们只需将0.05的初始显着性程度调整为0.053，依据Bonferroni办法。依据调整后的阈值，以下测验显着： ## \[1\] "L vs others"这一发现表明，如果力较轻，羊毛B仅显着优于羊毛A. 请留神，咱们也能够采纳构建办法2 × 22 矩阵 2测验。随着2 然而，测验并不是必要的，因为咱们的剖析基于残差。 摘要：卡方对费舍尔的准确测验以下是两个测验的属性摘要： 规范 卡方测验 费舍尔的准确测验 最小样本量 大 小 准确性 近似 准确 列联表 任意维度 通常为2x2 解释 皮尔逊残差 劣势比 通常，Fisher准确测验优于卡方测验，因为它是一种准确测验。如果单个察看后果很少（例如小于10），则应特地防止卡方测验。因为Fisher的准确测验对于大样本量和精确度可能在计算上是不可行的，2 测验随着样本数量的减少而减少 2在这种状况下，测验是适合的代替。另一个长处了2 测验是它更适宜维数超过的列联表 2 × 2。 十分感谢您浏览本文，有任何问题请在上面留言！

原文链接 http://tecdat.cn/?p=23255本文将议论Stan以及如何在R中应用rstan创立Stan模型。只管Stan提供了应用其编程语言的文档和带有例子的用户指南，但对于初学者来说，这可能是很难了解的。 StanStan是一种用于指定统计模型的编程语言。它最常被用作贝叶斯剖析的MCMC采样器。马尔科夫链蒙特卡洛（MCMC）是一种抽样办法，容许你在不晓得散布的所有数学属性的状况下预计一个概率分布。它在贝叶斯推断中特地有用，因为后验散布往往不能写成表达式。要应用Stan，用户要写一个Stan程序，代表他们的统计模型。这个程序指定了模型中的参数和指标后验密度。Stan代码被编译并与数据一起运行，输入一组参数的后验模仿。Stan与最风行的数据分析语言，如R、Python、shell、MATLAB、Julia和Stata的接口。咱们将专一于在R中应用Stan。 rstanrstan容许R用户实现贝叶斯模型。你能够应用相熟的公式和data.frame语法（如lm()）来拟合模型。通过为罕用的模型类型提供预编译的stan代码来实现这种更简略的语法。它应用起来很不便，但只限于特定的 "罕用 "模型类型。如果你须要拟合不同的模型类型，那么你须要本人用rstan编码。 模型拟合函数以前缀stan_开始，以模型类型完结。建模函数有两个必要的参数。 - 公式。一个指定因变量和自变量的公式（y ~ x1 + x2）。 - data。一个蕴含公式中变量的数据框。 此外，还有一个可选的先验参数，它容许你扭转默认的先验散布。 stan()函数读取和编译你的stan代码，并在你的数据集上拟合模型。 stan()函数有两个必要参数。 - 文件。蕴含你的Stan程序的.stan文件的门路。 - data。一个命名的列表，提供模型的数据。   例子作为一个简略的例子来演示如何在这些包中指定一个模型，咱们将应用汽车数据来拟合一个线性回归模型。咱们的因变量是mpg，所有其余变量是自变量。 mtcars %>%  head() 首先，咱们将拟合模型。对于线性回归，咱们应用stan函数。  summary(fit) 输入显示参数摘要，包含平均值、标准差和量值。此外，它还显示了MCMC的诊断统计Rhat和无效样本量。这些统计数据对于评估MCMC算法是否收敛十分重要。 接下来，咱们将用rstan来拟合同一个模型。上面是咱们模型的stan代码，保留在一个名为stan的文件中（你能够在RStudio中创立一个.stan文件，或者应用任何文本编辑器，并保留扩大名为.stan的文件）。 数据  int<lower=0> N;   // 观测值的数量  int<lower=0> K;   // 预测的数量  matrix\[N, K\] X;   // 预测矩阵...参数  real alpha;           // 截距...模型  y ~ normal(alpha + X * beta, sigma);  // 指标密度Stan代码在 "程序块 "中结构化。每个Stan模型都须要三个程序块，即数据、参数和模型。 数据块是用来申明作为数据读入的变量的。在咱们的例子中，咱们有后果向量（y）和预测矩阵（X）。当把矩阵或向量申明为一个变量时，你须要同时指定对象的维度。因而，咱们还将读出观测值的数量（N）和预测器的数量（K）。 在参数块中申明的变量是将被Stan采样的变量。在线性回归的状况下，感兴趣的参数是截距项（alpha）和预测因子的系数（beta）。此外，还有误差项，sigma。 模型区块是定义变量概率申明的中央。在这里，咱们指定指标变量具备正态分布，其平均值为+X*，标准差为sigma。在这个块中，你还能够指定参数的先验散布。默认状况下，参数被赋予平坦的（非信息性）先验。 此外，还有一些可选的程序块：函数、转换的数据、转换的参数和生成的数量。 接下来，咱们须要以Stan程序所冀望的形式来格式化咱们的数据。stan()函数要求将数据作为一个命名的列表传入，其中的元素是你在数据块中定义的变量。对于这个程序，咱们创立一个元素为N、K、X和Y的列表。 list(    N = 32,    K = 10,    X = predictors,    y = mpg  )当初咱们曾经筹备好了咱们的代码和数据，咱们把它们传给函数来拟合模型。 fit_rstan 输入相似的汇总统计数据，包含每个参数的平均值、标准偏差和量值。这些后果可能类似但不完全相同。它们之所以不同，是因为统计数据是依据后验的随机抽样来计算的。 评估收敛性当应用MCMC拟合一个模型时，查看链是否收敛是很重要的。咱们举荐可视化来直观地查看MCMC的诊断后果。咱们将创立轨迹图，Rhat值图。 首先，让咱们创立轨迹图。轨迹图显示了MCMC迭代过程中参数的采样值。如果模型曾经收敛，那么轨迹图应该看起来像一个围绕平均值的随机散点。如果链在参数空间中笔直，或者链收敛到不同的值，那就证实有问题了。咱们来演示。    mcmctrace() 这些轨迹图表明，两个模型都曾经收敛了。对于所有的参数，四条链都是混合的，没有显著的趋势。 接下来，咱们将查看Rhat值。Rhat是一种收敛诊断办法，它比拟了各条链的参数估计值。如果链曾经收敛并且混合良好，那么Rhat值应该靠近1。如果链没有收敛到雷同的值，那么Rhat值将大于1。Rhat值为1.05或更高，表明存在收敛问题。rhat()函数须要一个Rhat值的向量作为输出，所以咱们首先提取Rhat值。  rhat()  +  yaxis_text() 所有的Rhat值都低于1.05，阐明没有收敛问题。 Stan是一个建设贝叶斯模型的弱小工具，这些包使R用户能够很容易地应用Stan。 最受欢迎的见解 1.应用R语言进行METROPLIS-IN-GIBBS采样和MCMC运行 2.R语言中的Stan概率编程MCMC采样的贝叶斯模型 3.R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样 4.R语言BUGS JAGS贝叶斯剖析 马尔科夫链蒙特卡洛办法（MCMC）采样 5.R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归 6.R语言Gibbs抽样的贝叶斯简略线性回归仿真剖析 7.R语言用Rcpp减速Metropolis-Hastings抽样预计贝叶斯逻辑回归模型的参数 8.R语言应用Metropolis- Hasting抽样算法进行逻辑回归 9.R语言中基于混合数据抽样(MIDAS)回归的HAR-RV模型预测GDP增长

我本人写的代码和该教程略有不一样，有三处改变，第一个中央是用归一化(均值为0，方差为1)代替数值缩放([0, 1])，代替的理由是能晋升准确率 第二处改变是增加了正则化，在Conv2D和Dense Layer中均有增加，能够克制模型过拟合，晋升val_acc 第三处改变是对模型训练五次进行acc取平均值，因为keras训练模型会有准确率稳定，具体代码见文末链接 This tutorial demonstrates training a simple Convolutional Neural Network (CNN) to classify CIFAR images. Because this tutorial uses the Keras Sequential API, creating and training your model will take just a few lines of code. Import TensorFlowimport tensorflow as tffrom tensorflow.keras import datasets, layers, modelsimport matplotlib.pyplot as pltDownload and prepare the CIFAR10 datasetThe CIFAR10 dataset contains 60,000 color images in 10 classes, with 6,000 images in each class. The dataset is divided into 50,000 training images and 10,000 testing images. The classes are mutually exclusive and there is no overlap between them. ...

插入排序（英语：Insertion Sort）是一种简略直观的排序算法。本文用可视化的形式为您对其算法机制进行了展现。算法机制插入排序迭代，每次反复耗费一个输出元素，并生成一个排序的输入列表。在每次迭代中，插入排序从输出数据中删除一个元素，在排序列表中找到它所属的地位并将其插入那里。它反复直到没有输出元素残余。 伪代码阐明一般来说，插入排序都采纳in-place在数组上实现。具体算法形容如下： 从第一个元素开始，该元素能够认为曾经被排序取出下一个元素，在曾经排序的元素序列中从后向前扫描如果该元素（已排序）大于新元素，将该元素移到下一地位反复步骤3，直到找到已排序的元素小于或者等于新元素的地位将新元素插入到该地位后反复步骤2~5可视化阐明 18na5tww41yb7zl53sm0.gif 实用场景插入排序不适宜对于数据量比拟大的排序利用。然而，如果须要排序的数据量很小，例如，量级小于千；或者若已知输出元素大抵上依照顺序排列，那么插入排序还是一个不错的抉择。 版权申明，本文首发于 数字魔盒 https://www.dm2box.com/ 欢送转载。

OverviewThe Keras Tuner is a library that helps you pick the optimal set of hyperparameters for your TensorFlow program. The process of selecting the right set of hyperparameters for your machine learning (ML) application is called hyperparameter tuning or hypertuning. Hyperparameters are the variables that govern the training process and the topology of an ML model. These variables remain constant over the training process and directly impact the performance of your ML program. Hyperparameters are of two types: ...

In the featurization tutorial we incorporated multiple features into our models, but the models consist of only an embedding layer. We can add more dense layers to our models to increase their expressive power.In general, deeper models are capable of learning more complex patterns than shallower models. For example, our user model incorporates user ids and timestamps to model user preferences at a point in time. A shallow model (say, a single embedding layer) may only be able to learn the simplest relationships between those features and movies: a given movie is most popular around the time of its release, and a given user generally prefers horror movies to comedies. To capture more complex relationships, such as user preferences evolving over time, we may need a deeper model with multiple stacked dense layers. ...

原文链接：http://tecdat.cn/?p=11160原文出处：拓端数据部落公众号对于分类问题，通常依据与分类器关联的混同矩阵来定义分类器性能。依据混同矩阵 ，能够计算灵敏度（召回率），特异性和精度。  对于二进制分类问题，所有这些性能指标都很容易取得。   非得分分类器的数据为了展现多类别设置中非得分分类器的性能指标，让咱们思考察看到N = 100的分类问题和察看到G = {1，...，5}的五个分类问题： ref.labels <- c(rep("A", 45), rep("B" , 10), rep("C", 15), rep("D", 25), rep("E", 5))predictions <- c(rep("A", 35), rep("E", 5), rep("D", 5),                 rep("B", 9), rep("D", 1),                 rep("C", 7), rep("B", 5), rep("C", 3),                 rep("D", 23), rep("C", 2),                 rep("E", 1), rep("A", 2), rep("B", 2))准确性和加权准确性通常，将多类准确性定义为正确预测的平均数： 其中 I 是指标函数，如果类匹配，则返回1，否则返回0。 为了对各个类的性能更加敏感，咱们能够为每个类调配权重 w\_k ，以使 sum\_ {k = 1} ^ {| G |} w\_k = 1  。单个类别的 w\_k  值越高，该类别的观测值对加权准确性的影响就越大。加权精度取决于： 为了均匀加权所有类，咱们能够设置 w_k =   frac {1} {| G |} ， for all k in  {1，...，G }  ）。留神，当应用除均等权重之外的任何其余值时，很难找到对于权重的特定组合的正当论证。 计算精度和加权精度精度很容易计算：     return(length(which(predictions == ref.labels)) / length(ref.labels))    lvls <- levels(ref.labels)    if (sum(weights) != 1) {        stop("Weights do not sum to 1")    }    accs <- lapply(lvls, function(x) {        idx <- which(ref.labels == x)        return(calculate.accuracy(predictions\[idx\], ref.labels\[idx\]))    })    acc <- mean(unlist(accs))accuracy(Prediction, Reference)## \[1\] "Accuracy is: 0.78"## \[1\] "Weighted accuracy is: 0.69"F1分数的宏观和宏观平均值宏观平均值和宏观平均值示意在多类设置中解释混同矩阵的两种形式。在这里，咱们须要为每个类 （g_i  in G =  {1， ldots，K  } ）计算一个混同矩阵，以使第 （i  ）个混同矩阵思考类 （g\_i  ）作为必定类，而所有其余类 （g\_j  ）作为 （j  neq i  ）作为否定类。  为了阐明为什么减少实在正数会带来问题，请设想有10个类别，每个类别有10个察看值。而后，其中一个类别的混同矩阵可能具备以下构造： 预测/参考 ...

One of the great advantages of using a deep learning framework to build recommender models is the freedom to build rich, flexible feature representations. These need to be appropriately transformed in order to be useful in building models: User and item ids have to be translated into embedding vectors: high-dimensional numerical representations that are adjusted during training to help the model predict its objective better.Raw text needs to be tokenized (split into smaller parts such as individual words) and translated into embeddings.Numerical features need to be normalized so that their values lie in a small interval around 0.The MovieLens datasetLet's first have a look at what features we can use from the MovieLens dataset: ...

In this tutorial, we build a simple matrix factorization model using the MovieLens 100K dataset with TFRS. We can use this model to recommend movies for a given user. Import TFRSfrom typing import Dict, Textimport numpy as npimport tensorflow as tfimport tensorflow_datasets as tfdsimport tensorflow_recommenders as tfrsRead the data# Ratings data.ratings = tfds.load('movielens/100k-ratings', split="train")# Features of all the available movies.movies = tfds.load('movielens/100k-movies', split="train")# Select the basic features.ratings = ratings.map(lambda x: { "movie_title": x["movie_title"], "user_id": x["user_id"]})movies = movies.map(lambda x: x["movie_title"])Build vocabularies to convert user ids and movie titles into integer indices for embedding layers: ...

分治算法动静布局贪婪算法回溯算法分支限界算法

在业界，实时音视频的 QoE（Quality of Experience） 办法始终都是个重要的话题，每年 RTE 实时互联网大会都会有议题波及。之所以这么重要，其实是因为目前 RTE 行业中还没有一个很好的可用于评估实时互动场景的 QoE 评估办法。 声网基于在寰球大规模商用的主观实时数据和实际总结，正式推出自研的用于评估实时音频用户体验的无参考主观评估办法——声网Agora 实时音频 MoS 办法。这套办法，已集成于声网 Agora 音频/视频 SDK 的 3.3.1 及更新的版本中，目前仅提供了上行（编解码-传输-播放）链路的分数，后续还会凋谢提供上行品质打分接口。开发者在调用该办法后，可实时地主观判断以后用户的音频互动体验，给本身业务、经营的优化提供重要的参考数据。点「浏览原文」搜寻“mosValue”，可浏览该办法的具体文档。 那么有人可能会问，MoS 分、QoE 是什么？声网的这套 MoS 办法原理是什么？相比已有的开源办法有什么不同？ 从“喂喂喂”到 QoS、QoE当语音通话呈现时，还没有 QoS （Quality of Service）。人们只能靠“喂喂喂”的个数来判断通话质量的好坏。 起初基于网络的语音互动面对着同样的问题。QoS 在这样的背景下诞生。其目标是针对各种业务的需要特色，提供端到端的服务质量保障。QoS 的机制次要是面向运营商、网络建设的，关注的是网络性能、流量的治理等，而不是终端用户体验。 人们逐步发现，以 QoS 为外围构建的传统评估体系，始终难以和用户的体验相匹配。于是，更加关注用户体验的 QoE（Quality of Experience）被提了进去。在尔后很长一段时间里，基于 QoE 的评估体系开始逐步倒退。在通信畛域，逐步呈现了若干种与 QoE 强相干的评估办法，这些评估办法能够分为主观评估办法、主观评估办法。这些办法都会通过 MoS 分来表白目前用户体验的高下的。 现有 QoE 办法的缺点主观评估办法主观评估办法，是将人的主观感触映射到品质评分，受限于听者的专业性与个体差异性。在业界，音频主观测试并没有能够对立遵循的规范。尽管ITU对音频主观测试有一些倡议和指引，然而每个测试都有本身的侧重点设计和执行也不尽相同。个别比拟罕用的做法是请足够多的人来采集有统计意义的样本，而后对测试人员做肯定的听音培训。最初依据信号失真度，背景侵入度，和总体品质等方面来对音频通话打分。 所以，想得到绝对精确的主观语音品质评分，往往须要大量的人力和工夫，所以业内个别很少应用主观测试对通信品质进行评估。 主观评估办法主观评估办法分为有参考评估办法和无参考评估办法。 其中，有参考评估办法可能在有参考信号（无损信号）的前提下，量化受损信号的伤害水平，并给出与主观语音品质评分靠近的主观语音品质评分。在2001年，P.862规范（P.862 是 ITU 国际电信联盟规范）定义了有参考主观评估算法 PESQ，该算法次要用来评估窄带及宽带下的编解码伤害。该算法在过来的二十年中，被宽泛的利用于通信品质的评定。 随着技术的倒退，PESQ 的利用范畴变得越来越窄，于是在2011年，P.863 规范定义了一套更全面、更精确的有参考主观评估算法 POLQA。相比PESQ，POLQA 可评估的带宽更广，对噪声信号和延时的鲁棒性更好，其语音品质评分也更靠近主观的评分。 无参考的主观评估办法不须要参考信号，仅通过对输出信号自身或参数的剖析即可失去一个品质评分。比拟驰名的无参考主观评估办法有 P.563、ANIQUE+、E-model、P.1201等。 其中，P.563 于 2004 年提出，次要面向窄带语音的品质评估；ANIQUE+于 2006 年提出，也是面向窄带语音，其评分准确度据作者称超过了有参考的评估办法 PESQ，不过 PESQ 的测量不能反馈网络的延时、丢包等，并不完满实用于现在基于互联网传输的实时互动场景；E-model 于 2003 年提出，不同于上述两种办法，这是一个基于 VoIP 链路参数的伤害定量规范，不会间接基于信号域进行剖析；P.1201 系列于 2012 年提出，对于音频局部，该规范也不对音频信号间接进行剖析，而是基于网络状态和信号状态对通信品质进行评分。 ...

原文链接：http://tecdat.cn/?p=23242 简介标准化发病率（SIR）或死亡率（SMR）是察看病例和冀望病例的比率。察看到的病例是队列中病例的相对数量。冀望病例是通过将队列中的人-年数与参考人口比率相乘得出的。该比率应按混淆因素进行分层或调整。通常这些因素是年龄组、性别、日历期和可能的癌症类型或其余混淆变量。也能够应用社会经济位置或地区变量。 在参考人口中，第j层的冀望比率是j=dj/nj，其中dj是察看到的病例，nj是察看到的人年。当初SIR能够写成一个比率 标化发病比（SIR）=理论察看发病人数/冀望发病人数 或 标化死亡比（SMR）=理论察看死亡人数/冀望死亡人数 其中D是队列人群中的察看病例，E是冀望数。单变量置信区间是基于泊松散布的准确值，P值的公式为 建模的SIR是一个泊松回归模型，有对数连贯和队列人-年作为偏移。 在泊松模型的SIR中能够用似然比测验来测验SIR的同质性。 同样的工作流程实用于标准化的死亡率。 样条曲线能够为工夫变量（如年龄组）拟合一个间断的样条函数。曲线的想法是平滑SMR估计值，并从曲线图中进行推断。这须要预约义的结点/节点，用于拟合样条曲线。抉择结的数量和结的地位是一个十分主观的问题，有三个选项能够将样条曲线结传递给函数。 在不同的结点设置之间进行尝试是很好的做法，以取得实在的样条曲线预计。适度拟合可能会在预计中造成假象，欠拟合可能会使模式变得平滑。 样条曲线变量应该是尽可能间断的，例如从18到100个工夫点。然而，当把工夫宰割成太窄的区间时，在冀望或人口比率值中可能会呈现随机的变动。因而，也能够为年龄或期间做两个变量：第一个是用于标准化的较宽区间，第二个是用于拼接的窄区间。 结点有三个选项可用于为样条曲线指定结点。 每个样条曲线变量的结数的向量。节点数量包含边界节点，因而最小的节点数量是2，这是一个对数线性关联。节点是利用察看到的样例的量纲主动搁置的。预约义结点的向量列表。矢量的数量须要与样条曲线变量的长度相匹配。每个向量至多要有边界结点的最小值和最大值。NULL将依据AIC主动找到最佳结点数量。节点是依据察看到的案例的数量级来搁置的。这通常是一个开始拟合过程的正当初始值。结的数量和结的地位能够在输入中找到。 SMR死亡率、内部队列和数据预计一个女性直肠癌患者队列的SMR。每个年龄段、期间和性别的死亡率都能够在数据集中找到。 SMR( status, birthdate, exitdate, entrydate ,  rate = 'haz', print ='fot') 其余起因的SMR在两个随访区间都是1。此外，P值表明SMR估计值之间没有异质性（P=0.735）。 总死亡率能够通过批改状态参数来预计。当初咱们要计算所有的死亡，即状态为1或2。 smr(  status = status %in% 1:2) 当初随访区间的估计值仿佛有很大的不同，P=0。绘制SMR。 plot(se) 样条曲线让咱们用两个不同的选项来拟合后续工夫和年龄组的样条：样条在不同的模型和同一模型中被拟合，splines。 smrspline(data, rate = 'haz',                  spline )plot(sf) plot(st, col=4, log=TRUE) 在隶属样条曲线中，fot是以零工夫为参考点的比率。参考点能够被扭转。这里假如每个随访工夫的年龄组状况是雷同的。从0到10年的随访，SMR是0.2倍。 也能够对样条曲线进行分层。例如，咱们把死亡工夫分成两个时间段，并测试年龄组的样条是否相等。  year. <- ifelse(year < 2002, 1, 2) 对于2002年以前的类别，50岁当前的SMR仿佛更高。另外，P值（<0.0001）表明，2002年之前和之后的年龄组趋势存在差别。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言混合效应逻辑回归Logistic模型剖析肺癌 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病 8.python用线性回归预测股票价格 9.R语言用逻辑回归、决策树和随机森林对信贷数据集进行分类预测

原文链接：http://tecdat.cn/?p=22537 咱们在ggplot2中制作的饼实际上是一个条形图转换为极坐标。如果咱们想制作一个像下面截图那样的地图，这就很艰难了。 但在地图上绘制饼图时，它也有本人的毛病。首先，当咱们绘制大量的饼图时，它以光栅图像的模式渲染，使得它的渲染速度很慢。 本文创立了一个封装函数，使其更容易绘制一组饼图。 例如，假如咱们有以下数据。 set.seed(123)long <- rnorm(50, sd=100)lat <- rnorm(50, sd=50) 在地图上绘制饼图。 ggplot(map_data('world'), aes(long, lat) +pie(aes(x=long, y=lat, group=region, r=radius 这是一个简略利用，我发现很多人喜爱它。他们要求我实现饼的大小图例。我实现了一个legend层为饼的大小增加了一个图例，如上图所示。 最受欢迎的见解 1.R语言动态图可视化：如何、创立具备精美动画的图 2.R语言生存剖析可视化剖析 3.Python数据可视化-seaborn Iris鸢尾花数据 4.r语言对布丰投针（蒲丰投针）试验进行模仿和动静 5.R语言生存剖析数据分析可视化案例 6.r语言数据可视化剖析案例：摸索brfss数据数据分析 7.R语言动静可视化：制作历史寰球平均温度的累积动静折线图动画gif视频图 8.R语言高维数据的主成分pca、 t-SNE算法降维与可视化剖析案例报告 9.python主题LDA建模和t-SNE可视化

本次教程的目标是率领大家学会根本的花朵图像分类 首先咱们来介绍下数据集，该数据集有5种花，一共有3670张图片，别离是daisy、dandelion、roses、sunflowers、tulips，数据寄存构造如下所示 咱们能够展现下roses的几张图片 接下来咱们须要加载数据集，而后对数据集进行划分，最初造成训练集、验证集、测试集，留神此处的验证集是从训练集切分进去的，比例是8:2 对数据进行摸索的时候，咱们发现原始的像素值是0-255，为了模型训练更稳固以及更容易收敛，咱们须要标准化数据集，一般来说就是把像素值缩放到0-1，能够用上面的layer来实现 normalization_layer = tf.keras.layers.experimental.preprocessing.Rescaling(1./255)为了使训练的时候I/O不成为瓶颈，咱们能够进行如下设置 AUTOTUNE = tf.data.AUTOTUNEtrain_ds = train_ds.cache().prefetch(buffer_size=AUTOTUNE)val_ds = val_ds.cache().prefetch(buffer_size=AUTOTUNE)下一步就是模型搭建，而后对模型进行训练 num_classes = 5model = tf.keras.Sequential([ tf.keras.layers.experimental.preprocessing.Rescaling(1./255), tf.keras.layers.Conv2D(32, 3, activation='relu'), tf.keras.layers.MaxPooling2D(), tf.keras.layers.Conv2D(32, 3, activation='relu'), tf.keras.layers.MaxPooling2D(), tf.keras.layers.Conv2D(32, 3, activation='relu'), tf.keras.layers.MaxPooling2D(), tf.keras.layers.Flatten(), tf.keras.layers.Dense(128, activation='relu'), tf.keras.layers.Dense(num_classes)])model.compile( optimizer='adam', loss=tf.losses.SparseCategoricalCrossentropy(from_logits=True), metrics=['accuracy'])model.fit( train_ds, validation_data=val_ds, epochs=3) 从上图的训练记录能够发现，该模型处于欠拟合状态，咱们能够通过多训练几轮来解决这个问题，而且为了疾速试验，咱们这里用了一个非常简单的模型，咱们能够通过更换更强的模型，来晋升模型的体现 代码链接: https://codechina.csdn.net/cs...

本文作者：易潇她的 Github：https://github.com/lilyzhaoyilu大家好，我是易潇，也是91算法群里大家相熟的狗头。最近申请和面试根本完结，刚刚过了Google的HC。 我的本科读的是商学，所以算是理科转码和0根底转码的一员。在这里想跟大家分享一下我面对面试刷题的心得~ 注：Google的招人模式比拟特地，过了HC能够视为被Google承受并且曾经完结了所有技术性面试，简称过了。具体对于申请Google的信息会在后续的文章中跟大家分享，敬请期待。我的刷题状况在谷歌面试的时候，我大略刷了550道题左右：其中大略150道简略，310道中等，90道艰难。其中有中国站一些剑指和面试经典的反复题。对于前200和一些高频题，我刷了两遍以上或者更多。 如上图是我刷图论的模板题。左侧是我的提交记录，右侧是我的代码。 我在四月份之前断断续续的大略刷过60道题左右，而后在四月份的时候我新开了一个过程并且开始好好刷题。实现最初一个面试是7月20日。 刷题心得依照一个基于tag/topic的打算开始刷题tag/topic的定义：在力扣题库界面的上方能够看到不同的标签（tag），点进去就能够进入每个标签的列表。 依照标签刷题的益处是它能帮忙你坚固你对某个数据结构的了解，并且一直的改过和提高。 网上有很多大佬分享过刷题程序和题单，或者你也能够本人创立一个列表。我感觉不必太纠结“到底哪个列表最好”，作为一个刚开始刷题的人，明天先学A或者B一般来说影响不会太大 --- 反正到最初都是要学的。最重要的是“开始学”，不要胆怯打算不完满。打算必定不会是完满的，是会随着本人的认知和进度而修改的。 对于我集体来说，我侥幸的加入了力扣加加举办的91天算法。91算法要求每天一起打卡一道题，并且每个礼拜的题都是围绕一个数据结构。这样依照一个标签集中刷题很好的验证本人对某个数据结构的常识并且修改了本人一些谬误的认知。 建设一个有正向反馈的Todo List为什么我这么举荐依照打算刷题呢，还有一个起因是Todo List是一个很不便建设正向反馈的工具。为什么建设正向反馈很重要呢 --- 你如果打过游戏，那么你肯定有过“呀就打了一会儿游戏怎么就这么点啦”的感觉。打游戏的时候工夫过的飞快就是因为大多数设计好的游戏都会一直的给予玩家正向反馈。同理，咱们想要始终刷题，那么就要给本人发明一个有继续正向反馈的环境。 Todo List就是这样一个工具。我刷题的时候应用的是ipad + goodnotes + ElenaLin_青青的电子手账模板 + apple pencil。一般来说，我每天会制订第二天须要做什么事件，并且尽量把它拆分成小的、容易实现的步骤。比如说我想学习字典树，那么我就会把打算拆分成： 看91算法的字典树专题写91算法的字典树模板题 LC208写91算法的字典树举荐题 LC211LC212LC472LC648LC820LC1032（如果还有精力）做力扣上字典树标签里的高频5道题一般来说，除了学习某个专题，我的一天还会有一些其余事件，比方打卡91算法每日一题，打卡力扣每日一题，看邮件，投递申请等等。大部分时候，我起床之后坐在电脑前，都本能的感觉“太难了”，以至于“我不想干”。每当我有这种感觉的时候，我就在所有的待办事项当选一个我感觉最容易实现的我的项目并且开始做。换句话说 --- 别想那么多，兄弟，冲就完了！（好吧我是个fps游戏玩家）。我个别会抉择先做91每日一题，因为它不会太难，而且打卡了之后会被其余刷题小伙伴看到，这让我有种感觉本人很棒棒的感觉。只有开始建设 “克服困难” -> “执行工作” -> “实现之后感觉本人很棒棒” 的行为模式之后，所有都会变得简略起来。 ElenaLin的电子手账应用教程可参考这个视频 https://www.bilibili.com/vide...贴一个我中期的日程表，这个时候我曾经建设了比拟好的循环，所以会看到每天实现的工作多了起来，而且我也曾经不太依赖“在实现每个工作之后划掉”这个动作了。我的笔记也并没有很整洁或者好看，只有本人能看懂就能够。 当然，在工具上不肯定要跟我一样。本子和笔也能够。不过我强烈推荐用一个本子，因为周末和月末的时候回顾看看也会持续加深下面提到的有正向反馈的行为模式。 学会站在伟人的肩膀上一道题看10分钟如果没有思路就不要太浪费时间在谬误的办法下面，学会看和学习他人的题解。 个别力扣解题区的高票题解都很好。一个题解如果看不懂也没关系，首先照着它写一遍，而后通过各种打印和调试搞清楚每一行代码都是在做什么；如果还是不分明为什么，能够把某一段代码正文掉再点提交。这个时候零碎会报错，你再拿着这个输出一行行的剖析题解，就能明确这一段代码在做什么、为什么必须要存在在题解里。（这样提交成功率会变低，然而变低又怎么样呢，咱们的指标又不是成为提交成功率最高的仔）。 当然，问其他人也能够，然而我更举荐带有具体目的性的发问，而不是“这道题怎么做？”这种宽泛的问题。一般来说，问题越具体，越好答复，被答复的几率越高。 数量还是品质？其实都须要。肯定的数量是熟练度的保障和见过大部分题型的根底。 熟练度在面试中很重要：面试一共那么长时间，其余条件不变，写代码越快，能做的其余事件就越多。其余事件能够是多跟面试官交换，答复一些follow up，做一些优化等等。这些都是面试加分的我的项目。 见过大部分题型也很重要：见题型多的实质其实是对于某一类问题是否更好的形象。比方对于堆来说，91算法始终强调它的实质是“动静求极值”。刚读完我是不了解的，做了一道题我可能略微有点了解了，做了三道题我就会感觉“哇塞还能这样，哦果然能这样！”领有形象问题的能力就等同于领有以不变应万变的能力，在遇到没见过的题的时候就能够不慌。在面试中遇见原题的概率的确也不大，所以锤炼形象能力很重要。 当然，刷题的品质也重要。当咱们说刷题的品质的时候，咱们在说什么呢？我感觉品质是指：一道题是否真的了解它在求什么。对于每一种这道题可能的思路，使用了哪些数据结构，用这种数据结构的劣势和劣势在哪里。比方两数和，哈希表是常见的工夫优化解法。这里利用了哈希表能用O(1)工夫取得对应key的值的个性，就义了空间复杂度，而优化了工夫复杂度。 温习和反复温习和反复是很重要的，毕竟“孰能生巧”嘛。对于我来说，每个数据类型的模板题是我写的最多的，多到我能一遍过的根底上每隔一段时间还要刷一下。我在面试之前对于每个常见的数据类型都有本人喜爱的模板写法，并且能依据每道题对模板进行改良。 我记得我过后学堆的时候感觉太难了，我就照着91算法讲师小漾写过的堆写了一个礼拜 -- 就是从早到晚始终写的那种一个礼拜。之后我常常打趣说 “就算你中午三点把我拉起来让我手写一个堆都不会有任何bug”。 凑巧的是，我在面试某个pre-ipo公司的时候就考到了跟堆相干的常识。过后的运行环境是hacker rank，须要把代码跑进去并且通过实例（注：并不是每个公司都要求代码能在环境中运行，有的公司面试更像在白板上写代码）。我当即给面试官表演了一段速写最大堆，因为太熟了，所以行云流水零打碎敲。写完了之后我发现两位面试官的眼睛放光，起初recruiter被动反馈说面试后果十分十分好。在给offer的时候给了比申请的级别高了一点，而且最初谈薪资的时候还被动加了12%。 有很多一起刷题的小伙伴刷题，尤其是一开始刷题，都是令人感到艰难的。很多时候这件事并不难，然而这种“好难啊”的感觉才是真正妨碍咱们开始的货色。当有了很多小伙伴的时候，有了四周人的压力和激励，这种感觉会削弱一些。 刷题的中后期也会常常感到迷茫和焦虑，有很多小伙伴也能很好的加重迷茫感。甚至很多时候，因为刷题群、技术群里很多大佬都上岸了，大佬们还会分享职位信息，堪称是两全其美。 对于我来说，我在决定要刷题的初期在网上加了很多技术群和刷题群。在我刷题的大部分工夫里， 我每天早上睁眼看微信都是一页的刷题群未读音讯。每次看到这个，我就有种我也要连忙起床刷题的紧迫感。每次刷题感觉郁闷了，去群里跟大家聊聊天相互激励，也会一会儿就感觉元气满满。 在哪里找这些群呢 --- 力扣题解区有一些沉闷的大佬们的刷题群都不错，力扣的讨论区也常常有人拉刷题群。 适应面试环境就算是算法面试，和在家本人悠闲刷题的感觉还是不一样的。算法面试要求疾速的锁定思路并且进行精准打击。（呃，如同游戏打多了...）这方面我强烈推荐力扣的周赛和进行一些模仿面试。模仿面试能够找敌人，也有一些提供相似服务的网站。我在interviewing.io模仿了三次，感觉还是挺有用的。 我当初的比赛分大略是1780。已经我也很焦虑的问Lucifer比赛/面试一缓和没思路怎么办。Lucifer的回复很简略也很无效：“先打20场再说”。 Just do it“先打20场再说”是面向面试刷题中最重要的指导思想了。 开始总是让人感觉十分艰难，然而事件往往没有想的那么难。我也经常因为胆怯本人“做不好”而节约很多工夫在寻找“最完满的”开始办法上 --- 实际上，当一个人开始学习某一项技能的时候，大概率这个学习办法是不完满的。所以如果你也想开始面向面试刷题，请把它想成一款游戏 --- 先开始打了再说，打了之后再依据需要和网上的攻略调整本人打游戏的形式就能缓缓变成大神啦。 ...

论文基于NLP的注意力机制提出了指标关系模块，通过与其它指标的比对加强以后指标的特色，而且还能够代替NMS进行端到端的反复后果去除，思维非常新鲜，成果也不错 起源：晓飞的算法工程笔记 公众号论文: Relation Networks for Object Detection 论文地址：https://arxiv.org/abs/1711.11575论文代码：https://github.com/msracver/Relation-Networks-for-Object-DetectionIntroduction 以后大多数指标检测算法仍专一于独自辨认指标，没有尝试在训练时开掘指标之间的关系，受限于以后简略的网络结构，无奈对无规律的指标关系进行建模。参考自然语言解决中的注意力机制，论文提出了用于指标检测的自适应注意力机制 -- 指标关系模块(object relation module)，学习指标间的关系来加强特色以及去除反复后果。 检测指标有2D空间散布和不同的长宽比，比文本的场景要简单些，所以论文拓展了NLP的注意力权重，分为两个权重： 基于指标特色产生的权重，跟NLP权重相似。基于指标绝对几何地位产生的权重，绝对几何地位保障平移不变性。 指标关系模块接管可变输出并行计算，是可微的in-place操作，可作为根底构建block嵌入到任意指标检测算法中，嵌入形式如图1所示，用于指标辨认局部以及反复指标去除： 指标辨认局部(instance recognition)：利用指标关系模块，联结所有的检测指标来进行特色加强，再进行后续的辨认。反复指标去除(du-plicate remova)：在辨认实现后，惯例的做法应用NMS进行反复指标的去除，而论文应用轻量级网关系网络进行该做法的替换。Object Relation Module 惯例的注意力机制为ScaledDot-Product Attention，计算为： 给定查问指标$q$，计算与其它指标$K$的类似度，而后softmax归一化为权重，最初乘以各向量的值$V$失去加权后的特色，这3个值个别都是对指标特色进行embedding失去的。 对于指标检测中的相似性计算，每个指标蕴含几何特色$f_G$和外观特色$f_A$，给定$N$个指标$\{(f^n_A, f^n_G)\}^N_{n=1}$，可计算每个指标绝对于其它指标的关系特色(relation feature)$f_R(n)$： 关系特色理论为所有指标的外观特色的加权和，$W_V$为线性变动，相当于将外观特色embedding为公式1的值$V$。权值$w^{mn}$表明其它指标绝对于以后指标的重要性，计算方法为： 公式3实际上等同于公式1中的softmax，惟一不同的是除了外观权值$w^{mn}_A$，还额定应用几何权值$w^{mn}_G$进行加权。 外观权值$w^{mn}_A$的计算跟公式1的softmax括号内的计算一样，具体为： $W_K$和$W_Q$同样为线性变动，别离将比照指标和以后指标的外观特色embedding成公式1的$K$和$Q$，embedding后的特色维度为$d_k$。 几何权值$w^{mn}_G$的计算为： 几何特色个别就是简略的四维bbox，所以公式5在计算几何权值蕴含两个步骤： 将以后指标和比照指标的几何特色通过$\varepsilon_G$embedding成高维特色，为了保障平移和尺寸不变性，几何特色转为相对值$(log(\frac{|x_m-x_n|}{w_m}), log(\frac{|y_m-y_n|}{h_m}), log(\frac{w_n}{w_m}), log(\frac{h_n}{h_m}) )$，embedding办法跟Attention Is All You Need里的地位编码一样，应用正弦函数和余弦函数。应用$W_G$将高维几何特色转换为标量权值，小于0时设为0。 论文在几何特色的应用上也尝试了其它办法：1) none，间接将$w^{mn}_G$设为1.0计算权值，即不应用。 2) unary，将高维几何特色间接与外观特色交融，而后跟none一样计算权值。试验局部的表1有相干的后果比照，论文抉择的公式5加权办法比拟无效。 在实现时，相似于multi-head attention，一个指标关系模块(object relation module)蕴含$N_r$个关系特色，每个特色的维度为输出特色$f^m_A$的$\frac{1}{N_r}$，图2可能会有一点问题，几何特色写了两个，然而外观特色只写了一个，大家依据公式了解就好，最初通过相加对输出指标的外观特色进行加强： ...

This tutorial shows how to load and preprocess an image dataset in three ways. First, you will use high-level Keras preprocessing utilities and layers to read a directory of images on disk. Next, you will write your own input pipeline from scratch using tf.data. Finally, you will download a dataset from the large catalog available in TensorFlow Datasets. import numpy as npimport osimport PILimport PIL.Imageimport tensorflow as tfimport tensorflow_datasets as tfdsDownload the flowers datasetThis tutorial uses a dataset of several thousand photos of flowers. The flowers dataset contains 5 sub-directories, one per class: ...

原文链接：http://tecdat.cn/?p=23178回归算法最小角回归（LARS）通过高维数据的线性组合提供变量。它与正向逐步回归无关。在这种办法中，在每个步骤中抉择最相干的变量，其方向在两个预测因子之间是等角的。    在本教程中，咱们将学习如何用Python中的LARS和Lasso Lars算法拟合回归数据。咱们将在本教程中预计住房数据集。这篇文章包含   筹备数据如何应用LARS如何应用Lasso LARS 让咱们从加载所需的包开始。   from sklearn import linear_model筹备数据咱们将加载波士顿的数据集，并将其分成训练和测试两局部。   boston = load_boston()xtrain, xtest, ytrain, ytest=train\_test\_split(x, y, test_size=0.15)如何应用LARS咱们将用Lars()类定义模型（有默认参数），并用训练数据来拟合它。   Lars().fit(xtrain, ytrain)并查看模型的系数。   print(lars.coef_)\[-1.16800795e-01  1.02016954e-02 -2.99472206e-01  4.21380667e+00 -2.18450214e+01  4.01430635e+00 -9.90351759e-03 -1.60916999e+00 -2.32195752e-01  2.80140313e-02 -1.08077980e+00  1.07377184e-02 -5.02331702e-01\]接下来，咱们将预测测试数据并查看MSE和RMSE指标。   mean\_squared\_error(ytest, ypred)print("MSE: %.2f" % mse)MSE: 36.96print("RMSE: %.2f" % sqrt(mse))RMSE: 6.08最初，咱们将创立绘图，使原始数据和预测数据可视化。   plt.show()  如何应用Lasso LarsLassoLars是LARS算法与Lasso模型的一个实现。咱们将用LassoLars()类定义模型，将参数设置为0.1，并在训练数据上拟合模型。   LassoLars(alpha =.1).fit(xtrain, ytrain)咱们能够查看系数。   print(coef_)\[ 0.          0.          0.          0.          0.          3.00873485  0.          0.          0.          0.         -0.28423008  0. -0.42849354\]接下来，咱们将预测测试数据并查看MSE和RMSE指标。   predict(xtest)print("MSE: %.2f" % mse)MSE: 45.59print("RMSE: %.2f" % sqrt(mse))RMSE: 6.75最初，咱们将创立绘图，使原始数据和预测数据可视化。   plt.show()    在本教程中，咱们曾经简略理解了如何用LARS和Lasso Lars算法来拟合和预测回归数据。 参考文献 Least Angle Regression, _by Efron Bradley; Hastie Trevor; Johnstone Iain; Tibshirani Robert (2004)_Least-Angel Regression, Wikipedia 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言回归中的Hosmer-Lemeshow拟合优度测验 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.在R语言中实现Logistic逻辑回归 8.python用线性回归预测股票价格 9.R语言如何在生存剖析与Cox回归中计算IDI，NRI指标

原文链接：http://tecdat.cn/?p=23236 什么是频率学派？在频率学派中，察看样本是随机的，而参数是固定的、未知的数量。 概率被解释为一个随机过程的许多观测的预期频率。 有一种想法是 "实在的"，例如，在预测鱼的生存环境时，盐度和温度之间的相互作用有一个回归系数？什么是贝叶斯学派？在贝叶斯办法中，概率被解释为对信念的主观掂量。 所有的变量--因变量、参数和假如都是随机变量。咱们用数据来确定一个预计的确定性（可信度）。 这种盐度X温度的相互作用反映的不是相对的，而是咱们对鱼的生存环境所理解的货色（实质上是粗率的）。指标频率学派 保障正确的误差概率，同时思考到抽样、样本大小和模型。 毛病：须要对置信区间、第一类和第二类谬误进行简单的解释。长处：更具备外在的 "客观性 "和逻辑上的一致性。贝叶斯学派 剖析更多的信息能在多大程度上进步咱们对一个零碎的意识。 毛病：这都是对于信奉的问题! ...有重大影响。长处: 更直观的解释和施行，例如，这是这个假如的概率，这是这个参数等于这个值的概率。可能更靠近于人类天然地解释世界的形式。理论利用中：为什么用贝叶斯具备无限数据的简单模型，例如层次模型，其中 理论的先验常识非常少贝叶斯法令： 一些典型的贝叶斯速记法。 留神: 贝叶斯的最大问题在于确定先验散布。先验应该是什么？它有什么影响？指标:计算参数的后验散布：（|X）。点估计是后验的平均值。 一个可信的区间是 你能够把它解释为一个参数在这个区间内的概率 。 计算皮埃尔-西蒙-拉普拉斯（1749-1827）（见：Sharon Bertsch McGrayne: The Theory That Would Not Die) 有些问题是可剖析的，例如二项式似然-贝塔先验。但如果你有很多参数，这是不可能实现的操作如果你有几个参数，而且是奇数散布，你能够用数值乘以/整合先验和似然（又称网格近似）。只管该实践能够追溯到1700年，甚至它对推理的解释也能够追溯到19世纪初，但它始终难以更宽泛地施行，直到马尔科夫链蒙特卡洛技术的倒退。MCMCMCMC的思维是对参数值i进行 "抽样"。 回顾一下，马尔科夫链是一个随机过程，它只取决于它的前一个状态，而且（如果是遍历的），会生成一个安稳的散布。 技巧 "是找到渐进地靠近正确散布的抽样规定（MCMC算法）。   有几种这样的（相干）算法。 Metropolis-Hastings抽样Gibbs 抽样No U-Turn Sampling (NUTS)Reversible Jump一个一直倒退的文献和工作体系! Metropolis-Hastings 算法开始:跳到一个新的候选地位:计算后验:如果如果转到第2步Metropolis-Hastings: 硬币例子你抛出了5个侧面。你对的最后 "猜想 "是 MCMC:  p.old <- prior *likelihood while(length(thetas) <= n){  theta.new <- theta + rnorm(1,0,0.05)  p.new <- prior *likelihood   if(p.new > p.old | runif(1) < p.new/p.old){    theta <- theta.new    p.old <- p.new  }画图: hist(thetas\[-(1:100)\] )curve(6*x^5 ) 采样链：调整、细化、多链 那个 "朝向 "安稳的初始过渡被称为 "预烧期"，必须加以修整。怎么做？用眼睛看采样过程（显然）是自相干的。如何做？通常是用眼看，用acf()作为领导。  为了保障你收敛到正确的散布，你通常会从不同的地位取得多条链（例如4条）。无效样本量MCMC 诊断法R软件包帮忙剖析MCMC链。一个例子是线性回归的贝叶斯拟合（,, plot(line) 预烧局部: plot(line\[\[1\]\], start=10) MCMC诊断法查看后验散布（同时评估收敛性）。 density(line) 参数之间的关联性，以及链内的自相干关系 levelplot(line\[\[2\]\])acfplot(line) 统计摘要 ...

工具与资源核心帮忙开发者更加高效的工作，提供围绕开发者全生命周期的工具与资源 https://developer.aliyun.com/... 阿里云容器服务ACK的容器存储性能基于Kubernetes存储系统，深度交融阿里云存储服务并齐全兼容Kubernetes原生的存储服务，例如EmptyDir、HostPath、Secret、ConfigMap等存储。ACK基于社区容器存储接口（CSI）通过部署CSI插件实现了阿里云存储服务接入能力。容器服务ACK反对Pod主动绑定阿里云云盘、NAS、 OSS、CPFS、本地卷等存储服务，每种存储卷的次要特点及利用场景参见存储CSI概述。 前提条件您须要创立一个注册集群，并将自建Kubernetes集群接入注册集群。具体操作，请参见创立阿里云注册集群并接入自建Kubernetes集群。您的自建集群曾经扩容了阿里云ECS节点，如何为自建Kubernetes集群扩容阿里云ECS节点请参考创立混合集群， 或您的自建集群部署在阿里云ECS上。 注意事项[留神] 阿里云CSI存储组件只反对运行在阿里云ECS节点上。自建Kubernetes集群中的阿里云ECS节点须要打标节点标签 alibabacloud.com/external=true。 如果您的自建集群部署在阿里云ECS上，请参考[阿里云ECS上自建Kubernetes集群接入ACK注册集群]()如果您应用ACK注册集群节点池性能为本地数据中心自建Kubernetes集群扩容了阿里云ECS节点，则默认打标了 alibabacloud.com/external=true 步骤一 在自建集群中配置CSI组件RAM权限在注册集群中装置CSI组件前，您须要在接入集群中设置AK用来拜访云服务的权限。设置AK前，您须要创立RAM用户并为其增加拜访相干云资源的权限。 创立RAM用户。无关如何创立RAM用户的具体步骤，请参见创立RAM用户。创立权限策略。无关创立权限策略的具体操作步骤，请参见创立自定义策略。请受权RAM权限如下所示：{ "Version": "1", "Statement": [ { "Action": [ "ecs:AttachDisk", "ecs:DetachDisk", "ecs:DescribeDisks", "ecs:CreateDisk", "ecs:ResizeDisk", "ecs:CreateSnapshot", "ecs:DeleteSnapshot", "ecs:CreateAutoSnapshotPolicy", "ecs:ApplyAutoSnapshotPolicy", "ecs:CancelAutoSnapshotPolicy", "ecs:DeleteAutoSnapshotPolicy", "ecs:DescribeAutoSnapshotPolicyEX", "ecs:ModifyAutoSnapshotPolicyEx", "ecs:AddTags", "ecs:DescribeTags", "ecs:DescribeSnapshots", "ecs:ListTagResources", "ecs:TagResources", "ecs:UntagResources", "ecs:ModifyDiskSpec", "ecs:CreateSnapshot", "ecs:DeleteDisk", "ecs:DescribeInstanceAttribute", "ecs:DescribeInstances" ], "Resource": [ "*" ], "Effect": "Allow" }, { "Action": [ "nas:DescribeFileSystems", "nas:DescribeMountTargets", "nas:AddTags", "nas:DescribeTags", "nas:RemoveTags", "nas:CreateFileSystem", "nas:DeleteFileSystem", "nas:ModifyFileSystem", "nas:CreateMountTarget", "nas:DeleteMountTarget", "nas:ModifyMountTarget", "nas:TagResources", "nas:SetDirQuota", "nas:EnableRecycleBin", "nas:GetRecycleBinAttribute" ], "Resource": [ "*" ], "Effect": "Allow" }, { "Action": [ "oss:PutBucket", "oss:GetObjectTagging", "oss:ListBuckets", "oss:PutBucketTags", "oss:GetBucketTags", "oss:PutBucketEncryption", "oss:GetBucketInfo" ], "Resource": [ "*" ], "Effect": "Allow" }]} ...

Real-world recommender systems are often composed of two stages: The retrieval stage is responsible for selecting an initial set of hundreds of candidates from all possible candidates. The main objective of this model is to efficiently weed out all candidates that the user is not interested in. Because the retrieval model may be dealing with millions of candidates, it has to be computationally efficient.The ranking stage takes the outputs of the retrieval model and fine-tunes them to select the best possible handful of recommendations. Its task is to narrow down the set of items the user may be interested in to a shortlist of likely candidates.In this tutorial, we're going to focus on the first stage, retrieval. If you are interested in the ranking stage, have a look at our ranking tutorial. ...

为了高效地学习精确的预测框及其散布，论文对Focal loss进行拓展，提出了可能优化间断值指标的Generalized Focal loss，蕴含Quality Focal loss和Distribution Focal loss两种具体模式。QFL用于学习更好的分类分数和定位品质的联结示意，DFL通过对预测框地位进行general散布建模来提供更多的信息以及精确的预测。从试验后果来看，GFL可能所有one-stage检测算法的性能 起源：晓飞的算法工程笔记 公众号论文: Generalized Focal Loss: Learning Qualified and Distributed Bounding Boxes for Dense Object Detection 论文地址：https://arxiv.org/abs/2006.04388论文代码：https://github.com/implus/GFocalIntroduction 目前，dense detector(one-stage)是指标检测中的支流方向，论文次要探讨其中的两个做法： 预测框的示意办法(representation)：可认为是网络对预测框地位的输入，惯例办法将其建模为简略的Dirac delta散布，即间接输入地位后果。而有的办法将其建模为高斯分布，输入均值和方差，别离示意地位后果和地位后果的不确定性，提供额定的信息。 定位品质预计：最近一些钻研减少了额定的定位品质预测，比方IoU-Net退出了IoU分数的预测和FCOS退出了centerness分数的预测，最初将定位品质以及分类分数合并为最终分数。 通过剖析，论文发现上述的两个做法存在以下问题： 定位品质预计和分类分数理论不兼容：首先，定位品质预计和分类分数通常是独立训练的，但在推理时却合并应用。其次，定位品质预计只应用正样本点进行训练，导致负样本点可能预计了高定位品质，这种训练和测试的差别会升高检测的性能。预测框示意办法不够灵便：大多算法将其建模为Dirac delta散布，这种做法没有思考数据集中的歧义和不确定局部，只晓得后果，不晓得这个后果靠不靠谱。尽管有的办法将其建模为高斯分布，但高斯分布太简略粗犷了，不能反映预测框的实在散布。 为了解决下面的两个问题，论文别离提出了解决的策略： 对于定位品质预计，论文将其间接与分类分数进行合并，保留类别向量，每个类别的分数的含意变为与GT的IoU。另外，应用这种形式可能同时对正负样本进行训练，不会再有训练和测试的差别。 对于预测框的示意办法，应用general的散布进行建模，不再强加任何的束缚，不仅可能取得牢靠和精确的预测后果，还能感知其潜在的实在散布状况。如上图所示，对于存在歧义或不确定的边界，其散布会体现为较平滑的曲线，否则，其散布会示意为尖利的曲线。 实际上，应用上述提到的两种策略会面临优化的问题。在惯例的one-stage检测算法中，分类分支都应用Focal loss进行优化，而Focal loss次要针对离散的分类标签。在论文将定位品质与分类分数联合后，其输入变为类别相干的间断的IoU分数，不能间接应用Focal loss。所以论文对Focal loss进行拓展，提出了GFL(Generalized Focal Los)，可能解决间断值指标的全局优化问题。GFL蕴含QFL(Quality Focal Los)和DFL( Distribution Focal Los)两种具体模式，QFL用于优化难样本同时预测对应类别的间断值分数，而DFL则通过对预测框地位进行general散布的建模来提供更多的信息以及精确的地位预测。 总体而言，GFL有以下长处： 打消额定的品质预计分支在训练和测试时的差别，提出简略且高效的联结预测策略。很好地对预测框的实在散布进行灵便建模，提供更多的信息以及精确的地位预测。在引入额定开销的状况下，可能晋升所有one-stage检测算法的性能。Method Focal Loss (FL) FL次要用于解决one-stage指标检测算法中的正负样本不均衡问题： 蕴含规范的穿插熵局部$-log(p_t)$以及缩放因子局部$(1-p_t)^{\gamma}$，缩放因子会主动将容易样本降权，让训练集中于难样本。 Quality Focal Loss (QFL) 因为FL仅反对离散标签，为了将其思维利用到分类与定位品质联合的间断标签，对其进行了扩大。首先将穿插熵局部$-log(p_t)$扩大为残缺模式$-((1-y)log(1-\sigma) + y\ log(\sigma))$，其次将缩放因子$(1-p_t)^{\gamma}$泛化为预测值$\sigma$与间断标签$y$的相对差值$|y-\sigma|^{\beta}$，将其组合失去QFL： ...

本教程的目标是率领大家学会如何给 stack overflow 上的问题进行打标签 首先咱们须要导入要用到的函数库 import matplotlib.pyplot as pltimport osimport reimport shutilimport stringimport numpy as npimport tensorflow as tffrom tensorflow.keras import layersfrom tensorflow.keras import lossesfrom tensorflow.keras import preprocessingfrom tensorflow.keras.layers.experimental.preprocessing import TextVectorization接下来咱们看下 stack overflow 数据集，该数据集有 4 个类别标签，别离是 csharp、java、javascript、python ，每个类别有 2000 个样本，数据集下载地址: http://storage.googleapis.com... 下一步是加载数据集，咱们用的是 tf.keras.preprocessing.text_dataset_from_directory() ，要求的数据寄存构造如下图所示 main_directory/...class_a/......a_text_1.txt......a_text_2.txt...class_b/......b_text_1.txt......b_text_2.txt在开始训练前，咱们须要把数据集划分成训练集、验证集、测试集，不过咱们看下目录能够发现，曾经存在训练集和测试集，那么还缺验证集，这个能够用validation_split 从训练集里划分进去，代码如下所示 batch_size = 32seed = 42raw_train_ds = tf.keras.preprocessing.text_dataset_from_directory( 'stack_overflow/train', batch_size=batch_size, validation_split=0.2, subset='training', seed=seed)raw_val_ds = tf.keras.preprocessing.text_dataset_from_directory( 'stack_overflow/train', batch_size=batch_size, validation_split=0.2, subset='validation', seed=seed)raw_test_ds = tf.keras.preprocessing.text_dataset_from_directory( 'stack_overflow/test', batch_size=batch_size)在开始训练之前咱们还须要对数据进行一些解决，能够通过调用 tf.keras.layers.experimental.preprocessing.TextVectorization 来进行数据的 standardize , tokenize , and vectorize ...

本教程的目标是率领大家学会，依据译文片段预测翻译作者 本次用到的数据集是三个 txt 文本，别离是 cowper.txt、derby.txt、butler.txt ，该文本曾经通过一些预处理，去除了表头，页眉等 接下来咱们加载数据，这里咱们应用 tf.data.TextLineDataset API，而不是之前应用的 text_dataset_from_directory，两者的区别是，前者加载 txt 文件里的每一行作为一个样本，后者是加载整个 txt 文件作为一个样本 DIRECTORY_URL = 'https://storage.googleapis.com/download.tensorflow.org/data/illiad/'FILE_NAMES = ['cowper.txt', 'derby.txt', 'butler.txt']for name in FILE_NAMES: text_dir = utils.get_file(name, origin=DIRECTORY_URL + name)parent_dir = pathlib.Path(text_dir).parentlist(parent_dir.iterdir())def labeler(example, index): return example, tf.cast(index, tf.int64)labeled_data_sets = []for i, file_name in enumerate(FILE_NAMES): lines_dataset = tf.data.TextLineDataset(str(parent_dir/file_name)) labeled_dataset = lines_dataset.map(lambda ex: labeler(ex, i)) labeled_data_sets.append(labeled_dataset) 如上图所示，咱们能够看到，txt 文件里的每一行的确是一个样本，其实下面的数据曾经通过进一步解决了，变成 (example, label) pair 了 接下来咱们须要对文本进行 standardize and tokenize，而后再应用 StaticVocabularyTable，建设 tokens 到 integers 的映射 这里咱们应用 UnicodeScriptTokenizer 来 tokenize 数据集，代码如下所示 ...

本教程的目标是要预测汽车的燃料效率，相比于之前的分类，这是一个回归问题，回归是针对连续变量的，分类是针对离散变量的 用的数据集是 Auto MPG ，蕴含有 MPG、Cylinders、Displacement、Horsepower、Weight、Acceleration、Model Year、Origin 这么 8 个特色，咱们的目标是依据其它 7 个特色去预测 MPG ，数据如下图所示 因为本教程篇幅过长，咱们这里就不粘贴过多代码了，如果须要查看代码，文末有提供链接地址 第一步咱们须要加载数据，而后对数据进行清理，把一些 unknown values 去除，如下图所示，咱们能够发现 Horsepower 这一列有 6 个须要革除的值 咱们仔细观察下数据能够发现，Origin 这一列的值，其实是类别，不是数值，所以须要转化成 one-hot ，处理结果如下图所示 接下来咱们须要进行数据集的划分，执行如下代码 train_dataset = dataset.sample(frac=0.8, random_state=0)test_dataset = dataset.drop(train_dataset.index)咱们再来查看下各个特色的一些统计后果 咱们能够发现一些特色的数值特地大，比方 Weight ，一些特色的数值特地小，比方 Cylinders ，所以咱们须要对数据进行标准化 Linear Regression用一个变量预测 MPGhorsepower = np.array(train_features['Horsepower'])horsepower_normalizer = preprocessing.Normalization(input_shape=[1,], axis=None)horsepower_normalizer.adapt(horsepower)horsepower_model = tf.keras.Sequential([ horsepower_normalizer, layers.Dense(units=1)])horsepower_model.summary()下面是外围代码，其中输出的一个变量指 Horsepower ，预测的指标是 MPG 用多个变量预测 MPGnormalizer = preprocessing.Normalization(axis=-1)normalizer.adapt(np.array(train_features))linear_model = tf.keras.Sequential([ normalizer, layers.Dense(units=1)])下面是外围代码，其中输出的多个变量指 Cylinders、Displacement、Horsepower、Weight、Acceleration、Model Year、Origin 这么 7 个特色，预测的指标是MPG ...

Import TensorFlow into your program: import tensorflow as tffrom tensorflow.keras.layers import Dense, Flatten, Conv2Dfrom tensorflow.keras import ModelLoad and prepare the MNIST dataset. mnist = tf.keras.datasets.mnist(x_train, y_train), (x_test, y_test) = mnist.load_data()x_train, x_test = x_train / 255.0, x_test / 255.0# Add a channels dimensionx_train = x_train[..., tf.newaxis].astype("float32")x_test = x_test[..., tf.newaxis].astype("float32")Use tf.data to batch and shuffle the dataset: train_ds = tf.data.Dataset.from_tensor_slices( (x_train, y_train)).shuffle(10000).batch(32)test_ds = tf.data.Dataset.from_tensor_slices((x_test, y_test)).batch(32)Build the tf.keras model using the Keras model subclassing API: ...

1.leetCode第13题需要：https://leetcode-cn.com/probl... 重点提醒：通常状况下，罗马数字中小的数字在大的数字的左边。但也存在特例，例如 4 不写做 IIII，而是 IV。数字 1 在数字 5 的右边，所示意的数等于大数 5 减小数 1 失去的数值 4 。同样地，数字 9 示意为 IX。这个非凡的规定只实用于以下六种状况：I 能够放在 V (5) 和 X (10) 的右边，来示意 4 和 9。X 能够放在 L (50) 和 C (100) 的右边，来示意 40 和 90。 C 能够放在 D (500) 和 M (1000) 的右边，来示意 400 和 900。 function print(s) { let map = {I: 1,V: 5,X: 10,L: 50,C: 100,D: 500,M: 1000}; let total = 0; for (let i = 0; i < s.length; i++) { /* 计算total 如果以后的数字小于其前面的一位那么就意味着合乎下面的六种状况 那么计算逻辑应该是让总数减去以后位 而后再加上 前面一位就是咱们想要的后果 比方total=0; IV=4 0-1+5=4 */ total = map[s[i + 1]] && map[s[i]] < map[s[i + 1]]? total - map[s[i]]: total + map[s[i]]; } return total; }2.leetCode第14题需要：https://leetcode-cn.com/probl... ...

给你一个整数数组 nums ，找到其中最长严格递增子序列的长度。 子序列是由数组派生而来的序列，删除（或不删除）数组中的元素而不扭转其余元素的程序。例如，[3,6,2,7] 是数组 [0,3,1,6,2,2,7] 的子序列。 示例 1： 输出：nums = [10,9,2,5,3,7,101,18]输入：4解释：最长递增子序列是 [2,3,7,101]，因而长度为 4 。示例 2： 输出：nums = [0,1,0,3,2,3]输入：4示例 3： 输出：nums = [7,7,7,7,7,7,7]输入：1思路这边采纳 Vue 中 DOM diff 的思路，即贪婪法，须要留神的是，最初 stack 的长度是对的，然而内容可能不是正确的。因为采纳了两层循环遍历，工夫复杂度为 O(n^2) 。 var lengthOfLIS = function (nums) { let stack = []; for (let i = 0; i < nums.length; i++) { // 数组为空间接入栈，不为空则获取栈顶元素判断大小 if (stack.length == 0 || getTopEle(stack) < nums[i]) { stack.push(nums[i]); } else { let index = findNextEle(stack, nums[i]); stack[index] = nums[i]; } } return stack.length;};function getTopEle(arr) { if (!arr.length) return 0; return arr[arr.length - 1];}function findNextEle(arr, n) { // 判断大小用 >= ，即不替换栈顶元素 return arr.findIndex(item => item >= n);}进一步优化，能够将 findIndex 办法替换为二分查找，工夫复杂度升高到 O(nlogn) 。 ...

This short introduction uses Keras to: Build a neural network that classifies images.Train this neural network.And, finally, evaluate the accuracy of the model.import tensorflow as tfLoad and prepare the MNIST dataset. Convert the samples from integers to floating-point numbers: mnist = tf.keras.datasets.mnist(x_train, y_train), (x_test, y_test) = mnist.load_data()x_train, x_test = x_train / 255.0, x_test / 255.0Build the tf.keras.Sequential model by stacking layers. Choose an optimizer and loss function for training: ...

原文链接：http://tecdat.cn/?p=23151  这个例子展现了如何应用深度学习长短期记忆（LSTM）网络对文本数据进行分类。 文本数据是有程序的。一段文字是一个词的序列，它们之间可能有依赖关系。为了学习和应用长期依赖关系来对序列数据进行分类，能够应用LSTM神经网络。LSTM网络是一种递归神经网络（RNN），能够学习序列数据的工夫程序之间的长期依赖关系。 要向LSTM网络输出文本，首先要将文本数据转换成数字序列。你能够应用单词编码来实现这一点，该编码将文件映射为数字指数的序列。为了取得更好的后果，还能够在网络中退出一个词嵌入层。词汇嵌入将词汇映射为数字向量，而不是标量索引。这些嵌入发现了单词的语义细节，因而具备类似含意的单词具备类似的向量。它们还通过向量算术来模仿单词之间的关系。例如，"罗马之于意大利就像巴黎之于法国 "的关系由方程式意大利-罗马+巴黎=法国来形容。 在这个例子中，训练和应用LSTM网络有四个步骤。 导入并预处理数据。应用单词编码将单词转换为数字序列。创立并训练一个带有单词嵌入层的LSTM网络。应用训练好的LSTM网络对新的文本数据进行分类。导入数据导入工厂报告数据。该数据蕴含对工厂事件的标签化文本形容。要把文本数据导入为字符串，指定文本类型为 "字符串"。 head(data) 这个例子的目标是通过类别栏中的标签对事件进行分类。为了将数据划分为类别，将这些标签转换为分类的。  Category = categorical(Category);应用直方图查看数据中的类别散布。 figurehistogram(Category); 下一步是将其划分为训练和验证的汇合。将数据划分为一个训练分区和一个用于验证和测试的保留分区。指定保留的百分比为20%。  cvp = cv(Category,'Holdout',0.2);从分区的表中提取文本数据和标签。  DataTrain = Description;DataValidation = Description;为了查看你是否正确地导入了数据，能够用词云来可视化训练文本数据。  wordcloud(DataTrain); 预处理文本数据创立一个函数，对文本数据进行标记和预处理。列在例子开端的函数preprocessText，执行这些步骤。   应用tokenizedDocument对文本进行标记。应用lower将文本转换为小写。应用 erasePunctuation 擦除标点符号。对训练数据和验证数据进行预处理。  Train = preprocessText(DataTrain);查看最后几个预处理的训练文件。  documentsTrain(1:5) 将文件转换为序列为了将文档输出到LSTM网络中，应用一个单词编码将文档转换为数字指数序列。 创立一个词的编码  下一个转换步骤是对文件进行填充和截断，使它们的长度都雷同。 要填充和截断文件，首先要抉择一个指标长度，而后截断比它长的文件，左移比它短的文件。为了达到最佳成果，指标长度应该很短，而不会抛弃大量的数据。为了找到一个适合的指标长度，能够查看训练文档长度的直方图。 histogram(documentLengths) 大多数的训练文件都少于10个标记。将此作为截断和填充的指标长度。 将文档转换为数字索引序列。要截断或向左填充序列的长度为10，将 "长度 "选项设置为10。 doc2sequence(enc,'Length'); 应用雷同的选项将验证文件转换为序列。  sequence(Length);创立和训练LSTM网络定义LSTM网络结构。为了向网络输出序列数据，包含一个序列输出层，并将输出大小设置为1。接下来，包含一个维度为50的词嵌入层，词的数量与词的编码雷同。接下来，包含一个LSTM层，并将暗藏单元的数量设置为80。最初，增加一个与类的数量雷同的全连贯层，一个softmax层，以及一个分类层。  inputSize = 1;Dimension = 50;HiddenUnits = 80; 指定训练选项应用Adam优化器进行训练.指定一个16的小批处理量。每隔一段时间对数据进行随机化。通过设置 "Plots "选项为 "training-progress "来监测训练进度。应用'ValidationData'选项指定验证数据。通过将'Verbose'选项设置为false来克制输入。默认状况下，如果有GPU，会应用GPU（须要并行计算工具箱™和反对CUDA®的计算能力3.0以上的GPU）。否则，它将应用CPU。在CPU上训练的工夫可能比在GPU上训练的工夫长很多。  options('adam', ...    'BatchSize',16, ...    'Shuffle','every-epoch', ...);训练LSTM网络。 应用新数据进行预测对三个新报告的事件类型进行分类。创立一个蕴含新报告的字符串数组。  应用预处理步骤对文本数据进行预处理，作为训练文档。  preprocessText(New);将文本数据转换为序列，选项与创立训练序列时雷同。 sequence(enc,sequenceLength);应用训练好的LSTM网络对新序列进行分类。  classify(XNew) 最受欢迎的见解 1.探析大数据期刊文章钻研热点 2.618网购数据盘点-剁手族在关注什么 3.r语言文本开掘tf-idf主题建模，情感剖析n-gram建模钻研 4.python主题建模可视化lda和t-sne交互式可视化 5.疫情下的新闻数据察看 6.python主题lda建模和t-sne可视化 7.r语言中对文本数据进行主题模型topic-modeling剖析 8.主题模型：数据凝听人民网留言板的那些“网事” 9.python爬虫进行web抓取lda主题语义数据分析

原文链接：http://tecdat.cn/?p=23225 自回归条件异方差（ARCH）模型波及具备时变异方差的工夫序列，其中方差是以特定工夫点的现有信息为条件的。 ARCH模型ARCH模型假如工夫序列模型中误差项的条件均值是常数（零），与咱们迄今为止探讨的非安稳序列不同），但其条件方差不是。这样一个模型能够用公式1、2和3来形容。 方程4和5给出了测试模型和假如，以测试工夫序列中的ARCH效应，其中残差e^t来自于将变量yt回归一个常数，如1，或回归一个常数加上其余回归因子；方程4中的测试可能包含几个滞后项，在这种状况下，无效假设（方程5）是所有这些项都不显著。 无效假设是不存在ARCH效应。测验统计量为  上面的例子应用了数据集，它蕴含了500个股票收益率的生成观测值。图显示了数据的工夫序列图和柱状图。 plot.ts(r)hist(r) 图: 变量 的程度和柱状图 让咱们首先对数据集中的变量r一步一步地进行公式4和5中形容的ARCH测验。 summary(yd) ehsq <- ts(resid(mean)^2)summary(ARCH) Rsq <- glance(ARCH)\[\[1\]\]LM <- (T-q)*RsqChicr <- qchisq(1-alpha, q) 后果是LM统计量，等于62.16，与=0.05和q=1自由度的临界卡方值进行比拟；这个值是2(0.95,1)=3.84；这表明回绝了无效假设，论断是该序列具备ARCH效应。 如果咱们不应用一步步的程序，而是应用R的ARCH测验性能之一，也能够得出同样的论断。 ArchTest 函数garch()，当应用order=参数等于c(0,1)时，成为一个ARCH模型。这个函数能够用来预计和绘制方程3中定义的方差ht，如以下代码和图所示。  garch(r,c(0,1)) summary(arch) ts(2*fitted.values^2)plot.ts(hhat) 图 对数据集的ARCH(1)方差的预计 GARCH模型# 应用软件包\`garch\`来建设GARCH模型fit(spec=garch, data=r)coef(Fit) fitted.valuesfit$sigma^2)plot.ts(hhat) 图: 应用数据集的规范GARCH模型（sGARCH）。 # tGARCH garchfit(spec, data=r， submodel="TGARCH")coef(garchfit) fitted.valuesfit$sigma^2)plot.ts(hhat) 图: 数据集的tGARCH模型 # GARCH-IN-MEAN模型fit( data=r,            distribution="std",variance=list(model="fGARCH")coef(garchFit) fit$fitted.valuesfit$sigma^2)plot.ts(hhat) 图：应用数据集的GARCH-in-mean模型的一个版本 图显示了GARCH模型的几个版本。预测后果能够通过ugarchboot()来取得。 最受欢迎的见解 1.在python中应用lstm和pytorch进行工夫序列预测 2.python中利用长短期记忆模型lstm进行工夫序列预测剖析 3.应用r语言进行工夫序列（arima，指数平滑）剖析 4.r语言多元copula-garch-模型工夫序列预测 5.r语言copulas和金融工夫序列案例 6.应用r语言随机稳定模型sv解决工夫序列中的随机稳定 7.r语言工夫序列tar阈值自回归模型 8.r语言k-shape工夫序列聚类办法对股票价格工夫序列聚类 9.python3用arima模型进行工夫序列预测

This guide trains a neural network model to classify images of clothing, like sneakers and shirts. This guide uses tf.keras, a high-level API to build and train models in TensorFlow. # TensorFlow and tf.kerasimport tensorflow as tf# Helper librariesimport numpy as npimport matplotlib.pyplot as pltprint(tf.__version__)Import the Fashion MNIST datasetThis guide uses the Fashion MNIST dataset which contains 70,000 grayscale images in 10 categories. The images show individual articles of clothing at low resolution (28 by 28 pixels), as seen here: ...

Leetcode 200 岛屿数量给你一个由 '1'（海洋）和 '0'（水）组成的的二维网格，请你计算网格中岛屿的数量。 岛屿总是被水突围，并且每座岛屿只能由程度方向和/或竖直方向上相邻的海洋连贯造成。 此外，你能够假如该网格的四条边均被水突围。 示例 1： 输出：grid = [ ["1","1","1","1","0"], ["1","1","0","1","0"], ["1","1","0","0","0"], ["0","0","0","0","0"]]输入：1示例 2： 输出：grid = [ ["1","1","0","0","0"], ["1","1","0","0","0"], ["0","0","1","0","0"], ["0","0","0","1","1"]]输入：3思路传入的是一个二维数组，遍历这个二维数组，如果以后为 1，则进入感化函数并将岛个数 +1 。 感化函数（也叫做深度优先搜寻）其实就是一个递归标注的过程，它会将所有相连的 1 都标注成 2 。为什么要标注？这样就防止了遍历过程中的反复计数的状况，一个岛所有的 1 都变成了 2 后，遍历的时候就不会反复遍历了（实际上标注为 0 也是能够的）。 参考代码class Solution { public int numIslands(char[][] grid) { int count = 0; for (int i=0; i<grid.length; i++) { for (int j=0; j<grid[0].length; j++) { if (grid[i][j] == '1') { infect(grid, i, j); // 如果遍历到 1，进行递归标注，将四周的 1 标注为 2 count++; // 岛个数 +1 } } } return count; } public void infect(char[][] grid, int i, int j) { if (i<0 || i>=grid.length || j<0 || j>=grid[0].length || grid[i][j] != '1') { return; } grid[i][j] = '2'; infect(grid, i+1, j); infect(grid, i-1, j); infect(grid, i, j+1); infect(grid, i, j-1); }}注意事项:1. 留神矩阵外面的类型是 char ；2. 感化函数中边界条件判断；3. 在 Java 中，单引号 '' 代表 char 类型，双引号 "" 代表字符串；Leetcode 695 岛屿的最大面积给定一个蕴含了一些 0 和 1 的非空二维数组 grid 。 ...

本文是对FCOS的小修小改，最终性能达到了50.4AP，堪称相当强劲了，大家在工程上能够参考其中的改良以及晋升办法 起源：晓飞的算法工程笔记 公众号论文: FCOS: A Simple and Strong Anchor-freeObject Detector 论文地址：https://arxiv.org/abs/2006.09214论文代码：https://github.com/aim-uofa/AdelaiDetIntroduction 论文由FCOS原团队从新批改后发表，作者管这篇为FCOS的扩大版本而不是FCOSv2，但为了好分辨，咱们就管他叫FCOSv2吧。FCOSv2的整体思维根本与FCOS统一，但性能杰出很多。比照FCOS，根底骨干ResNet-101-FPN上的性能从41.5AP晋升了43.2AP，而最高版本的性能则是达到了50.4AP。 本文次要探讨FCOSv2其中的一些改良与晋升办法，具体的其它实现可参考之前的FCOS文章。 FCOSv2FCOS FCOSv2在思想上与FCOS基本一致，在特色图的每个地位预测指标的类别、尺寸信息以及Center-ness，Center-ness用来示意以后地位与指标中心点的间隔，指标的最终分数由分类分数和Center-ness分数联合所得。尺寸信息跟以往的bbox回归办法不同，预测的是特色地位到指标的四个边界的间隔。 图2为FCOSv2中的骨干网络结构，骨干网络仍然采纳FPN，每层特色应用独特的head预测类别信息、尺寸信息以及Center-ness，具体的能够看看之前的文章。 Change 上面列举了一些FCOSv2绝对于FCOS的批改，因为论文没有与原版进行比照，所以不晓得各局部带来的收益具体是多少： 正样本点指定的批改，FCOS要求该特色点位于指标外部，以及该特色点到指标边界的间隔满足所处的FPN层的束缚，而FCOSv2则要求特色点位于指标的核心区域$(c_x-rs, c_y-rs, c_x + rs, c_y+rs)$，$s$为以后层的stride，$r=1.5$为超参数。回归指标批改，FCOS的回归指标间接是特色点到指标边界的间隔，因为Head是共用的，所以在预测时为每个level预设一个可学习的scale因子，而FCOSv2则退出stride，变得更适应FPN的尺寸，可学习的scale因子仍然应用。 center-ness预测的地位，FCOS的center-ness预测与分类预测放到了一起，而FCOSv2则将其与回归预测放到了一起。回归损失函数批改，FCOS应用IoU损失进行回归的学习，而FCOSv2则采纳了GIoU损失进行回归的学习。最终分数的计算，FCOS采纳分类分数以及center-ness之积，FCOSv2则采纳分类分数以及center-ness之积的平方根： Improvement 为了取得更好的性能，除了更换更强的骨干网络外，论文还将FCOSv2进行了如下扩大： 应用BiFPN代替一般FPN，留神没有采纳深度拆散卷积，这部分能带来约2AP晋升。测试阶段的数据加强，将图片顺次缩放至$[400,1200]$，每次步长为100，每个尺寸应用原图以及垂直翻转图片进行推理，这部分能带来约2.5AP晋升。减少可变形卷积，别离替换骨干网络的第三和第四阶段的卷积，以及Head的两个分支的前四个卷积，这部分带来约1.5AP晋升。Experiment 与SOTA办法比照。 推理性能比照。 Conclusion 本文是对FCOS的小修小改，最终性能达到了50.4AP，堪称相当强劲了，大家在工程上能够参考其中的改良以及晋升办法。 如果本文对你有帮忙，麻烦点个赞或在看呗～ 更多内容请关注 微信公众号【晓飞的算法工程笔记】

本次教程的目标是率领大家学会用 Tensorflow serving 部署训练好的模型 这里咱们用到的数据集是 Fashion MNIST，所以训练进去的模型能够实现以下几个类别的分类 'T-shirt/top', 'Trouser', 'Pullover', 'Dress', 'Coat', 'Sandal', 'Shirt', 'Sneaker', 'Bag', 'Ankle boot' 因为这篇教程次要关注部署，所以咱们间接从曾经训练好的模型开始，保留的格局是 SavedModel，如上图所示 在这之前呢，咱们须要先装置好 tensorflow_model_server 接下来咱们能够在控制台执行以下指令，就能够启动一个 serving 服务了，咱们能够通过 REST API 进行申请，并返回预测后果 import requestsheaders = {"content-type": "application/json"}json_response = requests.post('http://localhost:8501/v1/models/fashion_mnist:predict', data=data, headers=headers)predictions = json.loads(json_response.text)["predictions"]show(0, "The model thought this was a {} (class {}), and it was actually a {} (class {})".format(class_names[np.argmax(predictions[0])], np.argmax(predictions[0]), class_names[test_labels[0]], test_labels[0])) 上图是通过申请，而后预测失去的后果，到此，咱们实现了模型的 Tensorflow serving 的部署 代码链接: https://codechina.csdn.net/cs...

背景最近得悉 cabbage 拿到了微软的 offer，并在筹备拿其余更大公司的 offer。就急不可待地分割了他，心愿他自己能够承受采访。于是这篇采访稿就和大家见面了。 cabbage 是一个做事件十分认真细致的人，看待工作精打细算，基本上事件交给他你就能够释怀那种，这样的人谁不喜爱？我自己十分看好他，肯定能够进更好的公司。 以下 Q 为 lucifer，A 为 cabbage。 采访Q: 你是什么时候开始接触数据结构与算法（以下简称算法）的？A: 20年筹备跳大厂的时候才开始的，科班出身的前端开发，以前基本都用不到算法所以也就没去学过。Q: 你是什么时候接触 91 天学算法（以下简称 91 天）的？从什么路径得悉的？A: 通过GitHub上的Lucifer的算法repo关注的公众号，而后通过公众号理解到的。Q: 91 天有给你带来了什么样的变动么？A: 从根本啥都不会到对根本的数据结构有一点理解，以前只会做easy的题，当初有局部medium的题也能做进去了，次要是学会了套模板。Q: 学习算法过程中有“顿悟”的时刻么？A: 有吧，就忽然有一天发现看到新题了会不盲目地去拿以前做题的套路去往上套，而后发现还真能用。Q: 你比拟善于的算法是什么？能够给大家简略分享一下么？A: 说不上善于，就是套模板的题我都还挺喜爱的，比如说找排列组合的上来就先写个dfs，找满足条件的substring就先上一个sliding window，大部分的时候套上模板就能解决了。Q: 有没有什么想和刚入坑算法的同学分享的？A: 模板特地有用，不论会不会先背下来，背的同时就是一个了解的过程，91算法的题解就能够帮你加深记忆也能够帮你更好的了解。另外刷题能够一次性把一个类型的都刷完，比方能够跟着91的分类刷，会更有效率。Q: 相对而言，你感觉 91 天哪里做的还不够好？应该如何改良？A: 同类型的题能够再多加几道加深记忆，容易到艰难的过渡不晓得还能不能再smooth一点，没有CS背景的对于有些类型的题了解起来不容易，可能须要更多的background，比方DP和back track这样的。（因为始终在做前端开发的缘故，思维总是习惯性的线性思维，不容易绕过来）Q: 在你学习算法的过程中，对你帮忙最大的学习材料是什么？A: LeetCode 的题解讨论区以及油管的一些视频。lucifer 注：有的leetcode 题解和油管视频真的做的不错，咱们也在《91天学算法》的讲义中给大家进行了举荐。Q: 违心把 91 天分享给你的敌人么？A: 违心。lucifer 点评收到 cabbage 的倡议。 下一期《91天学算法》西法打算做几点扭转。 目前正在和力扣官网单干，心愿能够将《91天学算法》整合力扣的学习打算和LeetBook。这样大家学习起来更加无缝，效率更高。届时也会有专门的交换群。减少图， 模仿与枚举 的题目，以前这部分是自习的减少排序 章节后面减少了几道题目，相应其余章节须要删除题目，我打算将高频面试题删掉。局部题解不够欠缺，再次打磨。局部难度梯度跨度较大，减少一点缓冲题目或者对跨度较大的进行大篇幅解说，尽量让大家不落伍。另外当初曾经不倡议大家加入这一期（第四期）的《91 天学算法》了，大家能够期待下一期。并且下期的周期可能缩短为一个月左右，而不是当初的 91 天。这是因为每天一道题节奏太慢，会导致学习效果变差。而如果你感觉 91 天都跟不上，一个月岂不是更跟不上？这种放心我感觉是多余的，因为跟不上和工夫关系不大，更多的是学习的办法技巧以及一直做题后的顿悟。

在实时通信技术迅猛发展的明天，人们对通话时的降噪要求也一直进步。深度学习也被利用于实时的噪声克制。在 LiveVideoStackCon 2021 上海站中，声网Agora 音频算法负责人冯建元分享深度学习落地挪动端的范例，遇到的问题和将来的瞻望。文 / 冯建元 整顿 / LiveVideoStack 尊敬的各位来宾大家好，我是来自声网的冯建元。明天给大家介绍一下咱们在如何基于深度学习做实时噪声克制，这也是一个深度学习落地挪动端的范例。 咱们就依照这样一个程序来进行介绍。首先噪声其实是有一些不同的品种，它们是如何进行分类的，如何抉择算法并怎么通过算法去解决这些噪声的问题；另外，会介绍如何通过深度学习的形式去设计一些这样的网络，如何通过AI的模型去进行算法的设计；另外，咱们都晓得深度学习网络的算力，模型不可避免的都会比拟大。咱们在落地一些RTC的场景时，不可避免会遇到一些问题，有哪些问题是须要咱们解决的，如何解决模型大小的问题、算力的问题；最初会介绍目前降噪能达到什么样的成果和一些利用的场景，以及如何能将噪声克制等做得更好。 01.噪声的分类与降噪算法的抉择先理解下咱们平时的噪声都有哪些品种。 其实噪声不可避免的会跟着你所处的环境，所面临的物体都会收回各种各样的声音。其实每一个声音都有本人的意义，但如果你在进行实时沟通时，只有人声是有意义的，那其余声音你可能会把它认为是乐音。其实很多噪声是一个稳态的噪声，或者说安稳的噪声。比如说我这种录制的时候可能会有一些底噪，你当初可能听不到。比如说空调运行时会有一些呼呼的风声。像这些噪声都是一些安稳的噪声，它不会随着工夫变动而去变动。这种能够通过我晓得这个噪声之前是什么样的，我把它estimate进去，就通过这样的形式，在之后如果这个噪声始终呈现就能够通过很简略的减法的形式把它去掉。像这种安稳的噪声其实很常见，但其实不是都那么安稳，都能那么不便的去去除。另外，还有很多噪声是不安稳的，你不能预测这个房间里会不会有人忽然手机铃声响起来了；忽然有人在旁边放了一段音乐或者在地铁、在马路上车子呼啸而过的声音。这种声音都是随机呈现的，是不可能通过预测的形式去解决的。其实这块也是咱们会用深度学习的起因，像传统的算法对于非稳态的噪声会难以打消和克制。 在应用场景上来说，就算你是很宁静的会议室或者在家，可能也不可避免的会被设施引入的一些底噪或一些突发的噪声都会产生一些影响。这一块也是在实时通信中不可避免的一道前解决的工序。 抛开咱们平时会碰到的这些噪声在感官上的了解。看到它在数字方面，在信号层面是一个怎么样的体现。噪声，声音都是通过空气的流传介质的流传最初到你耳朵里，通过你耳毛的感应，最初造成心里的感知。在这些过程中，比方咱们采纳一些麦克风的信号，在一些采集的时候它是一个wave的信号。它是一些高低震荡的一些波形。那如果是洁净的人声，他谈话的时候会看到一些波形，他不谈话的时候根本就是0，那如果加上一些噪声它就会变成左边一样，会有波形上的一些混叠，噪声的触动会和人声的触动混叠在一起，会有一些模糊不清。即便不在谈话也会有一些波形。这是间接从wave信号的层面，如果说把它通过傅里叶变换，变到频域上来看，在不同的频率上，人声的发音个别在20赫兹到2k赫兹之间，人还会有基频、振峰、谐波的产生。你能够看到人在频谱上是这样一些形态，然而你加上噪声会发现频谱变得模糊不清，频谱不该呈现能量的中央有很多能量。 做噪声克制其实就是做一个inverse，一个反向的过程。把这些时域的信号通过一些滤波的形式变成一个污浊的信号。也能够通过频域的形式把这些嘈杂的噪点去掉，造成一些比拟污浊的语料。 降噪这种算法很早之前就有了，在贝尔实验室创造电话的时候就发现噪声会有很大的通信的影响。不同的信噪比会导致因为香农定理影响你的带宽，你是一个污浊的信号甚至能够用比拟小的带宽进行一个传输。在2000年之前咱们能够把这些算法统称为，知之为知之。 第一块，它们次要针对比拟稳态的噪声就是Stationary Noise，为什么叫知之为知之呢，就是你不再谈话没有人声的时候就只有噪声，另外你去通过静音段噪声的捕获去构建出噪声的一些散布。因为它是稳态的噪声，它随着工夫的变动也没有那么激烈，当前就算是有人声了，你也能够通过你estimate好的模型去进行一些谱减或者是维纳滤波的形式解决。像这种Stationary Noise是因为一开始咱们的元器件有很多底噪，所以他们第一个会干掉这种Stationary Noise的噪声。其实办法来说就是一些谱减法、维纳滤波，起初可能有高级一点波差、小波合成，这些办法都万变不离其宗，它会通过静音段estimate它的这样的noise，在当前的过程中就能够通过一些谱减的办法来解决。 缓缓大家会发现除了Stationary Noise其实平时通话中想要只保有人声，其余的噪声也要解决，这块到了2000年之后咱们会说，因为其实人的声音的散布和风的声音的散布是不一样的，有些风声通过麦克风的，比方我这样吹的，低频局部可能会高一些，高频局部可能衰减的更快。其实都是通过聚类的形式能够把人声和噪声合成开来，次要的思维都是把声音的信号投射到更高维的空间进行聚类，聚类的形式就会有些自适应的办法缓缓能够去应用，也相似于深度学习的前身，会把声音分成不同的品种，在高维空间进行降噪时把合乎人声的特点保留下来，其余局部舍去就能够做到。这块办法来说比方Subspace 空间合成，在图像畛域大获胜利，在音频畛域去风噪也比拟好的非负矩阵合成。再比如说不止一种噪声，要合成出好多种噪声，像字典学习这种形式也是能够做的。 像常见的一种噪声咱们把它叫Non-Stationary Noise with Simple Patterns，是不稳固的噪声，像呼呼的风声，但它可能有固定的模式。比方呼呼的风声有时呈现有时没有呈现，但它是遵循风的低频比拟密集等等这种特色。其中是能够通过一个一个去学习，比方风声、雷电的声音、底噪的声音等等，能够通过学习的形式去实现。当初咱们发现，物以类聚的话，噪声的品种是无穷无尽的，每一种机械每一种摩擦每一种风吹过的声音导致的涡流可能都是不一样的。在这种状况下很多噪声混叠咱们无奈去穷尽，这时候咱们就想到通过大量数据去训练一个模型，这样采集到的噪声也好人声的混加也好，能过通过一直的去学习，咱们叫它游刃有余2020。通过训练的形式，通过大量的数据样本，能让模型学到足够的常识，对噪声更加鲁棒，不必一个一个去做合成。 依照这样的思路，曾经有很多深度学习的模型能够做到这样噪声的克制，同时保障它对不同的噪声都有克制成果。 很多噪声不是繁多存在的，尤其是一些复合的噪声。比方你在一个咖啡馆里可能会听到那些觥筹交错的声音混杂着各种人在聊天谈话的声音。咱们把背景的人声叫Babble noise，Babble就是呢喃的声音，这种背景的噪声你也是想去掉的。多个声音混淆在一起你就会发现它的频谱就像洪水过路个别所有货色都混淆在外面，会很难去去除。如果你用传统的算法，它把显著的人声会保留，比拟高频的混叠会更加重大，其实很难去辨别开，它把在4k以上的高频对立当成噪声去除掉了。这是传统降噪办法的一些缺点。 像深度学习的办法，判断一个降噪办法的好坏次要是两点： 第一点，对原声人声的保留水平是怎么样的，是不是对语谱的伤害尽量的小。 第二点，把噪声去得尽量的洁净。 满足这两点，左边是深度学习的办法，语谱在高频也能够失去保留，同时噪声也没有混淆在其间。 02.基于深度学习的算法设计当初针对深度学习办法怎么去设计。 和其余深度学习一样也会包含这几个步骤。 第一步，喂给模型什么样的输出，输出能够去进行抉择，咱们的声波信号能够通过wave的模式通过频谱的模式或者是更加高维的MFCC的模式甚至心理听阈BARK域的模式去给到它。不同的输出决定了你的模型采纳的构造也不一样。在模型构造上，可能会抉择相似图像的，如果是频谱可能相似CNN的办法去做。声音是有肯定工夫连续性的，你也能够通过waveform间接去做。这块抉择不同的模型构造，然而咱们发现在挪动端的时候，也会受到算力和存储空间的限度，可能会对模型进行一些组合，不是用繁多的模型去做。在模型的抉择这块会有所考量，另外一块也会比拟重要就是抉择一个适合的数据去训练模型 。 训练模型的过程比较简单，就是把人声信号和噪声信号混在一起喂到程序里，这样模型会给你一个污浊的人声信号。这时就会抉择我这个数据是不是为了cover所有不同的语言，上一个会议上也提到不同的语言组成的因素也是不一样的，比方中文会比日文多五六个音素，如果是英文还有五六个音素和中文是不一样的，为了cover住这些的语言可能会抉择多语言的数据。另外一块性别也是不一样的，如果语料训练不够平衡，对男声和女声的降噪能力可能有所偏差。另外噪声上的类型可能会有一些抉择上的思考，因为不可能把所有噪声都穷尽，所以会抉择一些typical noise。这边大略列举进去，不同Feature 的抉择，模型的设计，以及数据的筹备回来看看要留神哪些方向。 咱们先看一下咱们会抉择什么样的数据给到模型。 第一个思考的是把最原始的wave信号做一个端到端的解决生存一个wave信号。这个想法一开始的时候是被否定的，因为wave信号和它的采样率无关，可能16K的采样率1帧10毫秒会有160个点，数据量十分宏大如果间接喂的话可能导致模型解决须要很大一个模型能力handle。咱们在之前就在想能不能转化成频域，在频域上做能缩小数据的输出。在17、18年之前都是在频域下来做这个事件，然而在2018年像Tasnet模型曾经能通过时域端到端的去生成降噪的一个成果。 频域可能会更早一些，之前在频域上做噪点的去除，通过掩码的模式去解决噪声的问题。比方把噪声的能量去除掉只保留人声的能量。 19年有一篇paper做了一个比拟，无论从时域还是频域都能够失去一个比拟好的降噪成果，而且模型计算复杂度不是相当的。这个输出信号不会很大水平上决定你模型的算力或者成果，就是能够的。 在这个根底上，时域频域都是能够的话，咱们想要进一步缩小模型的算力可能须要选用一些高维度像MFCC这种模式去做，这块也是一开始设计模型考量的中央。依据算力限度，原本200多个频点到MFCC只有40个bin，这样就能够缩小输出。因为声音存在一些遮蔽效应你可能把它分成一些足够细小的子带就能做到噪声克制的作用，所以也是卓有成效能缩小模型算力的办法。 刚刚是讲到信号的输出，在做模型构造抉择的时候也会有很多对模型构造算力的考量，能够把模型算力的复杂度和模型参数量画一个XY轴去表正。像一些CNN办法，因为是卷积的存在，外面很多算子是能够复用的，卷积核能够在整个频谱上复用。这种状况下，在同样参数构造中它的算力复杂度会最高，因为它是复用的它的参数量就很小。如果一些手机APP对参数量有限度，比方手机APP不能大于200M可能模型给你的空间就1-2兆，这种状况下尽量抉择CNN模型。 参数量并不是一个很大的限度而运算力可能会受到一些挑战，比方一个算力较差的芯片，只有1GHz。这时卷积神经网络的形式并不是适宜的，这时可能是用一些linear 这种层来表征，所以linear 也是矩阵乘。矩阵乘在一些DSP芯片和传统CPU方面体现的算力都不是很高，毛病是每个算子是不可复用的。这种状况下参数量比拟大，但计算力上可能会更加的小。但只用linear这种形式就像DNN一样只有linear 层，就是它参数很大算力也很大。 后面提到人的谈话工夫是有连续性的，能够用RNN这种有短时或长时记忆的这种形式，把参数通过实时的自适应去记忆出以后噪声的状态，这样能够进一步缩小它的算力。 综合下来说，当你抉择模型时尽量少去应用linear layers，这种会带来很大参数量的晋升和算力的晋升。你能够去交融这些不同的构造，比方先用CNN再用RNN这种CRN的模式，那它第一步通过压缩你输出的维度，再通过长短时记忆的形式，把模型算力进一步的缩小。 依据不同场景，如果做离线的解决，可能应用双向的人工神经网络去做成果可能是最好的。在RTC场景中不能去减少提早。像LSTM这种单向型的网络可能更加适合。如果想进一步缩小算力，三个门的LSTM还是太大那就用两个门构造的GRU等等，在一些细节上晋升算法的能力。 怎么抉择模型构造和应用场景和算力无关。另外一块就是怎么抉择喂到模型的数据。数据外面一块是语谱的伤害，要筹备更充沛洁净的语料，外面包含不同的语言、性别，以及语料自身可能含有底噪，尽量抉择录音棚消音室录的比拟污浊的语料。这样你的reference决定了你的指标可能是比拟污浊的，成果会更好一些。 还有一块是能不能cover住噪声，噪声是无穷无尽的，能够依据你的场景，比方会议场景抉择一些比拟典型的办公室里的人声、手机提示音等等，这些作为训练语料。其实很多噪声是简略噪声的一些组合，当简略噪声数量足够多的时，模型的鲁棒性也会晋升，哪怕是一些没有见过的噪声也能cover。噪声有时不能收集的话能够本人做一些，人工合成一些，比方日光灯管、辉光效应造成的杂音、50赫兹的交流电时时刻刻都在开释50赫兹、100赫兹的谐波的噪声。这种噪声能够通过人造的办法去退出训练集外面晋升模型的鲁棒性。 03.RTC挪动端窘境假如咱们曾经有一个比拟好的模型了，在落地时会遇到哪些艰难呢？ ...

原文链接：http://tecdat.cn/?p=23141定量战术资产配置策略（QATAA）模型是应用10个月的挪动平均线作为过滤器。如果在月末，资产的价格高于挪动平均线，就留在市场中；否则就会来到市场。 10个月有什么特别之处；为什么10个月对所有资产和区制都是不变的。我提出了依据历史稳定率来调整挪动平均线回溯的想法。也就是说，在高稳定期间，较短的挪动平均线会让咱们更快地来到市场，而在低稳定期间，较长的挪动平均线会让咱们留在市场中。然而，这导致了更差的后果。 我花了一些工夫剖析根底的10个月挪动平均线策略，看到了相当大的损失，简略的解决办法是在10个月挪动平均线四周应用+/-5%的区间，以缩小损失，减少收益。 上面我将展现这个概念是如何运作的。 #*****************************************************************# 加载历史数据#*****************************************************************# 加载保留的代理原始数据tickers = 'SPYCASH = SHY + TB3Y'#*****************************************************************# 用来显示信号的辅助函数#*****************************************************************    signal = iif(model == 'base', prices > sma,      #基于信号创立一个模型 share(data, clean.signal=T, silent=T)  # 创立一个图来显示信号  plot(p\[dates\] ,type='l', plotX=F, x.highlight = highlight) visuali('2000::2001') 提早进场/登场的益处是交易量少，成交量小。  #*****************************************************************# 设置#*****************************************************************models = list()#*****************************************************************# SPY#******************************************************************run(data)#*****************************************************************#  SPY + 10个月过滤器#******************************************************************apply(prices, SMA, 10*22) iif(prices > sma, 1, 0)CASH = 1 - ifna( ifna(SPY), 0)#*****************************************************************# SPY+10个月+5/-5%过滤器#******************************************************************(cross(prices, sma * 1.05), (prices, sma * 0.95), 0, NA)我还包含了我对动静回测挪动平均线的尝试，但在这种模式下，并不实用。 #*****************************************************************#  SPY + 基于稳定率的动静过滤器#******************************************************************vol = matrix(ret, SD, n = 21)if(vol.rank < 0.5, bt(prices, SMA, 10\*22),matrix(prices, SMA, 1\*22))data$w#*****************************************************************# SPY+基于稳定率的动静过滤器；多个级别#******************************************************************nbreaks = 5sma.cash = sma * NAfor(i in 1:nbreaks) { temp = data(matrix(prices, SMA, (nbreaks - i + 1)* 2 *22) }#*****************************************************************# 报告#*****************************************************************plot(models) SPY SPY.CASH SPY.CASH.BAND SPY.CASH.VOL.SIMPLE SPY.CASH.VOL Period Jan1993 - Feb2015 Jan1993 - Feb2015 Jan1993 - Feb2015 Jan1993 - Feb2015 Jan1993 - Feb2015 Cagr 9.4 9.9 12.1 9.2 8 DVR 41.9 78.3 91.4 83.8 74 Sharpe 56.7 83.6 97.1 90.8 77.1 R2 73.9 93.7 94.1 92.3 96 Win.Percent 100 41.1 100 45.7 43.3 Avg.Trade 623.7 1.9 27.6 0.7 0.7 MaxDD ...

以下文章来源于蜜蜂学堂 作者余杰丰 “小李，你本周的体现十分杰出。您的销售额增长了70％，从而帮忙你的团队在排行榜中获得第一的好问题。然而你依然有很多凋谢的机会，所以请持续致力哦！” 接管绩效反馈有助于员工成长，它激励学习并处分良好的体现。 然而，如果是算法提供反馈而不是人，该怎么办？这就是组织中算法治理的根底。 什么是算法治理？ 算法治理是通过算法对员工进行策略跟踪、评估和治理。组织通过算法接管了过来由管理者执行的工作。 这种治理翻新在零工经济中尤为常见。例如，Uber，Deliveroo和UpWork之类的平台应用算法来治理和亲密监督其寰球员工。 算法给员工分配任务并评估其绩效。他们还提供反馈和无关如何进步绩效的倡议。 然而，应用算法治理员工缓缓地不再局限于零工经济。传统组织越来越发现提高效率和以数据为根据的决策的益处。 大数据和自动化已成为大多数业务部门改革的首要方向，而人力资源部门也将其重点放在了数据驱动的决策上。 人力资源中应用的算法能够提高效率，甚至胜过人类的决策制定。实际上，依据普华永道的钻研报告，跨国公司中已有40％的人力资源部门应用基于AI的工具（相干报告能够私聊小编获取）。 例如，算法的应用在员工提拔中变得十分广泛，该算法被用于简历筛选，使求职者与职位匹配之中。 他们正在通过自然语言解决来剖析视频面试中的面部表情或申请人的书面申请中所体现的动机。此外，算法还向员工和经理提供对于绩效方面的反馈。 随着算法在组织决策中的影响力越来越大，这样就容易导致一个问题：利用算法的决策是否具备相应的客观性和准确性？ 像其它辅助决策的技术一样，算法决策也是一把双刃剑，它会带来一系列的挑战。• 求职者会如何对待一家通过机器主动实现局部面试和人员选拔过程的公司？• 员工对主动绩效反馈有何反馈（反馈不再来源于间接下级）？员工在多大程度上会承受这类反馈？• 管理者在多大程度上会依赖算法做出的决策？ 事实是：施行算法会扭转组织和人际关系的动静。 因而，必须认真钻研算法治理的劣势和挑战，并搞清楚组织实现算法治理的最佳做法。 咱们将在上面具体探讨在您的组织中施行算法治理的倡议。 01组织施行算法治理的三大劣势 1.启动组织绩效 进步生产率和工作效率是算法治理的最重要劣势之一。例如，一个小时内，比拟算法与一个招聘人员能够扫描的简历数？ 后果是：算法根本能把人类招聘者按在地上摩擦，两者之间的差别微小，这样能够帮忙公司在人才竞争中放弃领先地位。 将手动的工作转变为自动化，将为管理人员腾出更多的工夫和资源，以专一于有更高策略影响力的工作，从而帮忙进步组织绩效。未能将剖析和人工智能集成到其策略事务中的公司将面临落后别人的危险。 欧莱雅集团，是一间总部位于法国巴黎的皮肤护理、化妆品公司，在寰球领有80000名员工，每个职位空缺均匀会收到130份职位申请。 欧莱雅每年凋谢约15000个职位，须要解决近百万份申请，因而其开始尝试利用AI技术帮忙招聘人员解脱令人头痛的简历筛选工作。 Mya是一款聊天机器人，它可能解决候选人提出的问题，从而在招聘晚期帮忙欧莱雅节约大量贵重的工夫。此外，它还可能查看各项重要细节，例如求职者是否尚未找到工作，以及签证的以后状态等。 接下来，求职者须要面对Seedlink，这款AI软件负责评估他们在开放式面试问题中给出的答案。这款工具可能找到在简历评审过程中被疏忽的求职者。 该公司招聘人员示意，在一次从12000名候选人中选出80名实习生的过程中，该软件帮忙他们节约了200个小时的工作工夫。AI技术帮忙欧莱雅可能更快地招聘10倍的员工，并减少25％的求职者面试机会。 2.改善管理决策和远程管理 近年来，基于证据和数据驱动的决策已变得越来越广泛。算法能够帮忙解决管理者每天面对的日益简单的问题。算法零碎的数据处理能力远远超出了人类的能力范畴。 他们能够思考所有相干数据并排除不相干因素。这样就能够进行主观、公正、数据驱动的决策。而且，它能够缩小决策过程中的偏见。 例如，认知偏见可能会导致零售商置信须要对其员工进行不稳固的安顿。批发中不稳固的安顿是指零售商通过工作打算的变动来缩小人工成本。 许多零售商认为这种类型的打算是无效的，因为他们看到了间接的短期收益（例如削减工资），却疏忽了长期的负面影响（例如对客户服务的影响）。 在这里，能够依据客户流量和其余数据预测人员需要的算法开始发挥作用。钻研表明，“将算法与管理者的直觉相结合能够导致更好的人员配置决策”。 算法对于近程办公也可能是无益的。劳动力将变得越来越扩散，在某种程度上，近程和混合办公将成为常态。 这可能给员工带来微小的益处。然而，管理人员可能很难跟上员工的进度和绩效。绩效监控算法可能是胜利进行远程管理的重要工具。 3.接管个性化的见解和反馈 算法治理不仅为管理人员带来益处，而且为员工带来益处。算法能够提供个性化的绩效反馈。 Deliveroo向其快递员发送个性化的月度绩效报告。他们取得无关其均匀“承受订单工夫”，“到餐厅的途程时长”，“到客户处的途程工夫”以及算法跟踪的其余指标的信息。 算法能够洞察员工的工作进度、待办事项和发展的我的项目。它们还用于改善员工的福祉。这种算法剖析员工的需要和指标，并举荐培训和倒退打算。 算法还能够跟踪和评估对员工的福祉和能源最重要的因素，在此基础上，他们能够就如何进步员工福利向管理人员提供倡议。 02组织使用算法治理的三个最重要的挑战 1. 对于算法治理的伦理问题 除了算法治理的益处之外，还有几个重要的伦理问题。 算法的次要指标是改良决策，使决策更加主观公正。然而，状况可能恰恰相反，因为算法能够打消或缩小决策过程中的人工干预，因而，人们可能认为算法是不偏心的。 次要的关注点是算法所根据的数据。在样本数据上训练算法来预测事件并做出决策，因而，数据的品质是一个重要的因素。 例如，一个组织能够训练一种对于历史人才数据的算法，在这些数据中，很少有女性负责治理职位，而后，该算法可能会做出预测：女性在公司治理岗位上取得成功的可能性较低。因而，女性可能被排除在组织的人才治理打算之外。 算法通常是在“黑箱”中操作，它们并不通明，而且算法的工作精度通常也不分明。这可能会对算法的信任度提出挑战，并为算法的决策提出问责性问题。 美国一些州曾经在钻研算法和人工智能在招聘中的应用，以及如何确保它们的公平性和透明度。纽约州正在立法，要求招聘技术供应商进行反偏见审计，并确保恪守待业歧视法。 伊利诺伊州颁布了《人工智能视频面试法》(AI Video Interview Act)，对应用人工智能剖析应聘者视频面试的公司施加了限度。 利用算法治理不是一个是或否的问题。通常，只有局部决策是自动化的。因而，偏心和责任问题取决于公司在多大程度上依赖算法决策。 真正的问题是：算法的作用是加强还是齐全自动化？你是用算法来给你提供倡议，还是用它来代替人类决策，这都是有区别的。 2. 算法治理挑战管理者和人力资源的角色 算法治理缩小或取代了不同流程中的人工参加和交互。这对管理者和人力资源形成了挑战。当集体和同理心的一面隐没后，员工治理会产生怎么的变动? 管理者和人力资源从业者都须要适应算法治理带来的新动静，他们须要新的技能和能力，为负责任地应用算法做筹备。 管理者和人力资源管理者也须要采纳(潜在的)员工的观点。例如，当候选人不置信算法能看出本人有多独特时，招聘中应用的算法可能会呈现问题。 那么，管理者和人力资源部门如何面对算法治理使用后，带来的自动化水平的进步和人际交往的缩小呢? 他们如何胜利地发明数据驱动文化的改革呢?所有这些都是人力资源和管理人员必须找到答案的问题。 3.算法治理对员工福利的危险 ...

原文链接：http://tecdat.cn/?p=23184 在本文中，咱们将学习如何应用keras，用手写数字图像数据集（即MNIST）进行深度学习。本文的目标是为了让大家亲自体验并相熟培训课程中的神经网络局部。 1 软件包的下载和装置在这个例子的笔记本中，须要keras R包。因为它有许多须要下载和装置的依赖包，因而须要几分钟的工夫能力实现。请急躁期待!  1.1 下载 keras咱们能够通过CRAN调用install.packages("keras")来取得。 1.2 加载keras包和所需的tensorflow后端因为keras只是风行的深度学习框架的一个接口，咱们必须装置一个非凡的深度学习后端。默认和举荐的后端是TensorFlow。通过调用install_keras()，它将为TensorFlow装置所有须要的依赖项。上面的单元格须要一分钟左右的工夫来运行。    当初，咱们筹备好摸索深度学习了。 2 MNIST数据集的概述在深度学习中，比传统的机器学习畛域更胜利的利用之一是图像识别。咱们将在本教程中应用宽泛应用的MNIST手写数字图像数据集。对于该数据集的更多信息能够在以下网站找到：https://en.wikipedia.org/wiki...。 2.1 加载MNIST数据集这个数据集曾经蕴含在keras/tensorflow的装置中，咱们能够依照上面的单元格形容简略地加载数据集。加载数据集只须要不到一分钟的工夫。 dataset_mnist() 2.2 训练和测试数据集MNIST数据集的数据结构简单明了，有两块。(1) 训练集：x（即特色）：60000x28x28张量，对应于60000张28x28像素的图像，采纳灰度示意（即每个28x28矩阵中所有的值都是0到255之间的整数），y（即因变量）：一个长度为60000的向量，蕴含相应的数字，整数值在0到9之间。(2) 测试集：与训练集雷同，但只有10000个图像和因变量。数据集的具体构造能够通过上面的str(mnist)看到。 str(mnist) 当初咱们筹备好训练和测试数据集的特色（x）和因变量（y），咱们能够用str()函数查看x\_train和y\_train的构造。  str(x_train)str(y_train) 2.3 绘制图像当初让咱们应用R将一个选定的28x28矩阵绘制成图像。显示图像的形式是从矩阵表示法中旋转了90度。因而，还须要额定的步骤来重新排列矩阵，以便咱们可能应用image()函数来显示它的理论方向。 index_image = 28 ## 扭转这个索引以看不同的图像。output\_matrix <- t(output\_matrix) 这里是上述图像的原始28x28矩阵。 input_matrix 3 卷积神经网络模型在本节中，咱们将展现如何应用卷积神经网络（CNN）对MNIST手写数据集进行分类，将图像分为数字。这与咱们之前学习的问题完全相同，但CNN是一种比个别的深度神经网络更好的图像识别深度学习办法。CNN利用了二维图像中相邻像素之间的关系来取得更好的性能。它还防止了为全彩的高分辨率图像生成数千或数百万的特色。 3.1 数据集导入和参数设置当初让咱们再次从头开始导入MNIST数据集，因为咱们曾经专门为深度神经网络模型做了一些预处理。对于CNN，有不同的预处理步骤。咱们还定义了一些当前要应用的参数。 #加载mnist数据的训练和测试数据集x_train <- train$xy_train <- train$yx_test <- test$xy_test <- test$y# 定义一些用于CNN模型的参数epochs <- 10# 输出图像维度img_rows <- 283.2 数据预处理对于个别的CNN办法，MxN图像的输出是一个具备K个特定通道的MxNxK三维数组。例如，一个灰度MxN图像只有一个通道，其输出是MxNx1张量。一个MXN每通道8位的RGB图像有三个通道，有3个MxN数组，数值在0和255之间，所以输出是MxNx3张量。对于咱们当初的问题，图像是灰度的，但咱们须要通过应用array\_reshape()将二维数组重塑为三维张量来特地定义有一个通道。input\_shape变量将在前面的CNN模型中应用。对于RGB色彩的图像，通道的数量是3，如果输出的图像是RGB格局，咱们须要在上面的代码单元中用 "3 "代替 "1"。 3.2.1 在维度中增加通道x\_train <- array\_reshape(x\_train, c(nrow(x\_train), img\_rows, img\_cols, 1))x\_test <- array\_reshape(x\_test, c(nrow(x\_test), img\_rows, img\_cols, 1))input\_shape <- c(img\_rows, img_cols, 1)这里是重塑图像的构造，第一维是图像索引，第2-4维是一个三维张量，只管只有一个通道。 str(x_train) 3.2.2 标准化与DNN模型一样，为了在优化过程中同样思考数值的稳定性，咱们将输出值标准化为0和1之间。 x\_train <- x\_train / 255x\_test <- x\_test / 2553.2.3 将因变量转换为分类变量与DNN模型一样，因变量被转换为分类变量。 #将类向量转换为二进制类矩阵to_categorical(train, numclass)3.3 构建一个CNN模型正如咱们所探讨的，CNN模型蕴含一系列二维卷积层，其中有几个参数。(1)kernal\_size，通常是3x3或5x5；(2)过滤器的数量，对应于输入张量中的通道数量（即第三维）；(3)激活函数。对于第一层，还有一个input\_shape参数，即输出图像的尺寸和通道。为了避免适度拟合和放慢计算速度，通常在一个或几个二维卷积层之后利用一个池化层。一个典型的池化层将2x2池大小的最大值作为输入的新值，这基本上是将大小缩小到一半。除了池化街坊值之外，也能够应用Dropout。在几个二维卷积层之后，咱们还须要将三维张量输入 "扁平化 "为一维张量，而后增加一个或几个密集层，将二维卷积层的输入连贯到指标因变量类别。 3.3.1 定义一个CNN模型构造当初咱们定义一个CNN模型，其中有两个带有最大池的二维卷积层，第2层带有附加滤波以避免过拟合。而后将输入扁平化，并应用两个密集层连贯到图像的类别。 #定义模型构造   conv_2d(filters = 32,size = c(3,3)) %>%   max\_pooling\_2d(size = c(2, 2)) %>%   conv_2d(filters = 64, size = c(3,3),  'relu') %>%   max_pooling(size = c(2, 2)) %>%   dropout(rate = 0.25) %>%   layer_flatten() %>%summary(model) 3.3.2  编译模型与DNN模型相似，咱们须要编译所定义的CNN模型。 # 编译模型 loss\_categorical\_crossentropy,optimizer_adadelta(), c('accuracy')训练模型并保留每个训练迭代（epochs）的历史。请留神，因为咱们没有应用GPU，它须要几分钟的工夫来实现。如果在GPU上运行，训练工夫能够大大减少。 3.3.3 训练模型当初，咱们能够用咱们解决过的数据来训练模型。每个epochs的历史记录都能够被保留下来以追踪进度。请留神，因为咱们没有应用GPU，它须要几分钟的工夫来实现。在期待后果时，请急躁期待。如果在GPU上运行，训练工夫能够大大减少。 # 训练模型fit(  x\_train, y\_train,  validation_split = 0.2) plot(cnn) 能够在测试数据集上评估训练后的模型准确性，这是很好的。  evaluate(x\_test, y\_test) 3.4 模型预测对于任何新的图像，在通过同样的预处理后，咱们能够用训练好的模型来预测该图像属于哪一个数字。 ## 模型预测               predict\_classes(x\_test) 3.5 查看误判的图像当初让咱们查看几张被误判的图像，看看是否能比这个简略的CNN模型做得更好。 ## 错分类图像的数量sum(cnn_pred != testy) ...

本教程的目标是率领大家学会用 RNN 进行文本分类 本次用到的数据集是 IMDB，一共有 50000 条电影评论，其中 25000 条是训练集，另外 25000 条是测试集 首先咱们须要加载数据集，能够通过 TFDS 很简略的把数据集下载过去，如下代码所示 dataset, info = tfds.load('imdb_reviews', with_info=True, as_supervised=True)train_dataset, test_dataset = dataset['train'], dataset['test']train_dataset.element_spec接下来咱们须要创立 text encoder，能够通过 tf.keras.layers.experimental.preprocessing.TextVectorization 实现，如下代码所示 VOCAB_SIZE = 1000encoder = tf.keras.layers.experimental.preprocessing.TextVectorization( max_tokens=VOCAB_SIZE)encoder.adapt(train_dataset.map(lambda text, label: text))接下来咱们须要搭建模型，下图是模型结构图 对应的代码如下所示 model = tf.keras.Sequential([ encoder, tf.keras.layers.Embedding( input_dim=len(encoder.get_vocabulary()), output_dim=64, # Use masking to handle the variable sequence lengths mask_zero=True), tf.keras.layers.Bidirectional(tf.keras.layers.LSTM(64)), tf.keras.layers.Dense(64, activation='relu'), tf.keras.layers.Dense(1)])model.compile(loss=tf.keras.losses.BinaryCrossentropy(from_logits=True), optimizer=tf.keras.optimizers.Adam(1e-4), metrics=['accuracy'])到这一步，咱们就能够开始训练了，以及训练后进行模型评估 history = model.fit(train_dataset, epochs=10, validation_data=test_dataset, validation_steps=30)test_loss, test_acc = model.evaluate(test_dataset)print('Test Loss:', test_loss)print('Test Accuracy:', test_acc) ...

【 NO.1 字符串转化后的各位数字之和】 解题思路循环 k 次加和即可。 代码展现 class Solution { public int getLucky(String s, int k) { String s2 = ""; for (int i = 0; i < s.length(); i++) { s2 += String.valueOf((int) (s.charAt(i) - 'a' + 1)); } int result = 0; for (int i = 0; i < k; i++) { result = 0; for (int j = 0; j < s2.length(); j++) { result += s2.charAt(j) - '0'; } s2 = String.valueOf(result); } return result;}} ...

给你两个有序整数数组 nums1 和 nums2，请你将 nums2 合并到 nums1 中，使 nums1 成为一个有序数组。 初始化 nums1 和 nums2 的元素数量别离为 m 和 n 。你能够假如 nums1 的空间大小等于 m + n，这样它就有足够的空间保留来自 nums2 的元素。 示例1： 输出：nums1 = [1,2,3,0,0,0], m = 3, nums2 = [2,5,6], n = 3输入：[1,2,2,3,5,6]示例2： 输出：nums1 = [0], m = 0, nums2 = [1], n = 1输入：[1]示例3： 输出：nums1 = [5, 6, 7, 8, 0, 0, 0], m = 4, nums2 = [2, 3, 3], n = 3输入：[2, 3, 3, 5, 6, 7, 8]public class Solution { public void merge() { int a = m - 1; // nums1 的指针 int b = n - 1; // nums2 的指针 int p = m + n - 1; // 插入元素的指针 while (a >= 0 && b >= 0) { if (nums1[a] > nums2[b]) { nums1[p] = nums1[a]; a--; } else { nums1[p] = nums2[b]; b--; } p--; } // 解决一开始 a = -1 和到最初 a = -1 但 b 还没遍历完的状况 while (b >= 0) { nums1[p] = nums2[b]; b--; p--; } }}

序言小明同学上一次在产品经理的忽悠下，写好了一个中英文拼写纠正工具：https://github.com/houbb/word-checker。 原本认为能够一劳永逸了，直到昨天闲来无事，发现了另一个开源我的项目，形容简要如下： Spelling correction & Fuzzy search: 1 million times faster through Symmetric Delete spelling correction algorithmThe Symmetric Delete spelling correction algorithm reduces the complexity of edit candidate generation and dictionary lookup for a given Damerau-Levenshtein distance. It is six orders of magnitude faster (than the standard approach with deletes + transposes + replaces + inserts) and language independent.小明认为本人眼睛花了，100W 倍，这牛吹得厉害了。 秉着不信谣，不传谣的准则，小明开始了算法的学习之旅。 单词拼写算法思路针对英文单词拼写，有上面几种算法： 实时计算编辑间隔给定两个字符串 $s_1$ 和 $s_2$，它们之间的编辑间隔是将 $s_1$ 转换为 $s_2$ 所需的最小编辑操作次数。 ...

原文连贯：http://tecdat.cn/?p=6154偶然我想在R中的图表旁边绘制一个表格，例如，显示图表自身的摘要统计数据。非常简单。该函数tableGrob创立像一个数据帧的曲线图表，显示在ggplot2图形对象的网页上。 这是一个小例子： p++   annotation_custom(grob = tableGrob(table, rows = NULL),+                     ymin = 7.5,ymax = 14)++   theme(axis.text = element_text(size = 14),+         axis.title = element_text(size = 16)) 会话信息R version 3.2.1 (2015-06-18)Platform: x86_64-apple-darwin13.4.0 (64-bit)Running under: OS X 10.10.4 (Yosemite)locale:\[1\] en\_GB.UTF-8/en\_GB.UTF-8/en\_GB.UTF-8/C/en\_GB.UTF-8/en_GB.UTF-8attached base packages:\[1\] stats     graphics  grDevices utils     datasets  methods  \[7\] base     other attached packages:\[1\] gridExtra\_2.0.0 ggplot2\_1.0.1  loaded via a namespace (and not attached): \[1\] Rcpp\_0.11.6      digest\_0.6.8     MASS_7.3-42      \[4\] grid\_3.2.1       plyr\_1.8.3       gtable_0.1.2     \[7\] magrittr\_1.5     scales\_0.2.5     stringi_0.5-5   \[10\] reshape2\_1.4.1   proto\_0.3-10     labeling_0.3    \[13\] tools\_3.2.1      stringr\_1.0.0    munsell_0.4.2   \[16\] colorspace_1.2-6

原文链接：http://tecdat.cn/?p=23170 简介本文与以下两个问题无关。你应该如何增加虚构变量？你应该如何解释后果？ 如果应用一个例子，咱们可能会更容易了解这些问题。 数据假如咱们想钻研工资是如何由教育、教训和某人是否负责治理职务决定的。假如 每个人都从年薪4万开始。实际出真知。每减少一年的教训，工资就减少5千。你学得越多，你的支出就越多。高中、大学和博士的年薪增长别离为0、10k和20k。海面平静时，任何人都能够掌舵。对于负责治理职位的人，要多付20k。天生就是平凡的领导者。对于那些只上过高中却负责治理职位的人，多给他们3万。随机因素会影响工资，平均值为0，标准差为5千。上面是局部数据和摘要。 绘制数据有和没有治理职位的人的工资和教育之间的关系。  jitter(alpha=0.25,color=colpla\[4\])+  facet_wrap(~治理职位)+boxplot(color=colpla\[2\]) 有治理职位和没有治理职位的人的工资和教训之间的关系，以教育为根底。  stat_smooth(method = "lm")+  facet_wrap(~治理职位) 回归剖析疏忽教育和治理之间的相互作用咱们只将工资与教育、教训和治理职位进行回归。其后果是  尽管这些参数在统计学上是有意义的，但这并没有任何意义。与高中相比，大学学历怎么可能使你的工资缩小5105？ 正确的模型应该包含教育和治理职位的交互项。 增加教育和治理之间的交互作用当初，让咱们增加教育和治理之间的交互项，看看会产生什么。 对后果的解释当初的后果是有意义的。 截距为40137（靠近4万）是基本保障支出。教育的基数是高中。与高中相比，大学教育能够均匀减少9833元（靠近1万）的工资。与高中相比，博士教育能够减少19895元（靠近2万）的工资。多一年的工作教训能够使工资减少4983元（靠近5千）。负责治理职位的高中毕业生有49695元的溢价（靠近5万）。这些人是天生的领导者。与负责治理职位的高中毕业生相比，负责治理职位的大学毕业生的溢价缩小了29965.51至29571（49735.74-29965.51，靠近2万）。与高中毕业生负责治理职位相比，博士毕业生负责治理职位的溢价缩小了29501至19952.87（靠近2万）。另外，你能够说治理职位产生了20K的根本溢价，而不思考教育程度。除了这2万外，高中毕业生还能失去3万，使总溢价减少到5万。测验是否违反了模型的假如为了使咱们的模型无效，咱们须要满足一些假如。 误差应该遵循正态分布正态Q-Q图看起来是线性的。所以这个假如失去了满足。 没有自相干D-W测验值为1.8878，靠近2，因而，这个假如也满足。 没有多重共线性预测变量edu、exp和mngt的VIF值均小于5，因而满足这一假如。 用数据的子集进行回归你能够通过用一个数据子集运行模型来取得同样的后果。你能够将数据按教育水平分成子集，并在每个子集上运行回归模型，而不是应用一个教育的虚构变量。 如果只用高中生的数据，你会失去这样的后果。 sub<-d %>% +   filter(教育=="高中") 仅凭大学生的数据，你就能失去这个后果。 只用来自博士生的数据，你会失去这个后果。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言混合效应逻辑回归Logistic模型剖析肺癌 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.R语言逻辑回归、Naive Bayes贝叶斯、决策树、随机森林算法预测心脏病 8.python用线性回归预测股票价格 9.R语言用逻辑回归、决策树和随机森林对信贷数据集进行分类预测

简介本文与以下两个问题无关。你应该如何增加虚构变量？你应该如何解释后果？ 如果应用一个例子，咱们可能会更容易了解这些问题。 2 数据假如咱们想钻研工资是如何由教育、教训和某人是否负责治理职务决定的。假如 每个人都从年薪4万开始。实际出真知。每减少一年的教训，工资就减少5千。你学得越多，你的支出就越多。高中、大学和博士的年薪增长别离为0、10k和20k。海面平静时，任何人都能够掌舵。对于负责治理职位的人，要多付20k。天生就是平凡的领导者。对于那些只上过高中却负责治理职位的人，多给他们3万。随机因素会影响工资，平均值为0，标准差为5千。上面是局部数据和摘要。 3 绘制数据有和没有治理职位的人的工资和教育之间的关系。  jitter(alpha=0.25,color=colpla\[4\])+  facet_wrap(~治理职位)+boxplot(color=colpla\[2\]) 有治理职位和没有治理职位的人的工资和教训之间的关系，以教育为根底。  stat_smooth(method = "lm")+  facet_wrap(~治理职位) 4 回归剖析4.1 疏忽教育和治理之间的相互作用咱们只将工资与教育、教训和治理职位进行回归。其后果是  尽管这些参数在统计学上是有意义的，但这并没有任何意义。与高中相比，大学学历怎么可能使你的工资缩小5105？ 正确的模型应该包含教育和治理职位的交互项。 4.2 增加教育和治理之间的交互作用当初，让咱们增加教育和治理之间的交互项，看看会产生什么。 5 对后果的解释当初的后果是有意义的。 截距为40137（靠近4万）是基本保障支出。教育的基数是高中。与高中相比，大学教育能够均匀减少9833元（靠近1万）的工资。与高中相比，博士教育能够减少19895元（靠近2万）的工资。多一年的工作教训能够使工资减少4983元（靠近5千）。负责治理职位的高中毕业生有49695元的溢价（靠近5万）。这些人是天生的领导者。与负责治理职位的高中毕业生相比，负责治理职位的大学毕业生的溢价缩小了29965.51至29571（49735.74-29965.51，靠近2万）。与高中毕业生负责治理职位相比，博士毕业生负责治理职位的溢价缩小了29501至19952.87（靠近2万）。另外，你能够说治理职位产生了20K的根本溢价，而不思考教育程度。除了这2万外，高中毕业生还能失去3万，使总溢价减少到5万。6 测验是否违反了模型的假如为了使咱们的模型无效，咱们须要满足一些假如。 误差应该遵循正态分布正态Q-Q图看起来是线性的。所以这个假如失去了满足。 没有自相干D-W测验值为1.8878，靠近2，因而，这个假如也满足。 没有多重共线性预测变量edu、exp和mngt的VIF值均小于5，因而满足这一假如。 7 用数据的子集进行回归你能够通过用一个数据子集运行模型来取得同样的后果。你能够将数据按教育水平分成子集，并在每个子集上运行回归模型，而不是应用一个教育的虚构变量。 如果只用高中生的数据，你会失去这样的后果。 sub<-d %>% +   filter(教育=="高中") 仅凭大学生的数据，你就能失去这个后果。 只用来自博士生的数据，你会失去这个后果。

回归算法最小角回归（LARS）通过高维数据的线性组合提供变量。它与正向逐步回归无关。在这种办法中，在每个步骤中抉择最相干的变量，其方向在两个预测因子之间是等角的。    在本教程中，咱们将学习如何用Python中的LARS和Lasso Lars算法拟合回归数据。咱们将在本教程中预计住房数据集。这篇文章包含   筹备数据如何应用LARS如何应用Lasso LARS 让咱们从加载所需的包开始。   from sklearn import linear_model筹备数据咱们将加载波士顿的数据集，并将其分成训练和测试两局部。   boston = load_boston()xtrain, xtest, ytrain, ytest=train\_test\_split(x, y, test_size=0.15)如何应用LARS咱们将用Lars()类定义模型（有默认参数），并用训练数据来拟合它。   Lars().fit(xtrain, ytrain)并查看模型的系数。   print(lars.coef_)\[-1.16800795e-01  1.02016954e-02 -2.99472206e-01  4.21380667e+00 -2.18450214e+01  4.01430635e+00 -9.90351759e-03 -1.60916999e+00 -2.32195752e-01  2.80140313e-02 -1.08077980e+00  1.07377184e-02 -5.02331702e-01\]接下来，咱们将预测测试数据并查看MSE和RMSE指标。   mean\_squared\_error(ytest, ypred)print("MSE: %.2f" % mse)MSE: 36.96print("RMSE: %.2f" % sqrt(mse))RMSE: 6.08最初，咱们将创立绘图，使原始数据和预测数据可视化。   plt.show()  如何应用Lasso LarsLassoLars是LARS算法与Lasso模型的一个实现。咱们将用LassoLars()类定义模型，将参数设置为0.1，并在训练数据上拟合模型。   LassoLars(alpha =.1).fit(xtrain, ytrain)咱们能够查看系数。   print(coef_)\[ 0.          0.          0.          0.          0.          3.00873485  0.          0.          0.          0.         -0.28423008  0. -0.42849354\]接下来，咱们将预测测试数据并查看MSE和RMSE指标。   predict(xtest)print("MSE: %.2f" % mse)MSE: 45.59print("RMSE: %.2f" % sqrt(mse))RMSE: 6.75最初，咱们将创立绘图，使原始数据和预测数据可视化。   plt.show()    在本教程中，咱们曾经简略理解了如何用LARS和Lasso Lars算法来拟合和预测回归数据。 参考文献 Least Angle Regression, _by Efron Bradley; Hastie Trevor; Johnstone Iain; Tibshirani Robert (2004)_Least-Angel Regression, Wikipedia

原文链接：http://tecdat.cn/?p=23130 原文出处：拓端数据部落公众号 To 本文指标是创立合成稳定率指数，1）当利用于规范普尔500指数时，尽可能地反映VIX指数；2）齐全依附价格作为输出，因而它能够利用于任何市场指数。 所述的解决方案是合成稳定率指数。\> Mov(ATR(1)/C,20,S) 上面我将尝试代码。 #*****************************************************************# 加载历史数据#*****************************************************************tickers = 'SP=^GSPC,VIX=^VIX'#*****************************************************************# 绘制数据#*****************************************************************layout(1:3)plot(SP)plot.legend('SP',SP) matplot(scale(temp)#*****************************************************************# 测试策略#*****************************************************************vol= SMA( SP),1/ Cl), 20 )high= vol > SMA(vol, 40)low= vol< SMA(vol, 40)plot(SP\[index\], type='l', plotX=F, x.highlight = highlight) #*****************************************************************# 测试策略#*****************************************************************models = list()data$weight\[\] = NArun(data)#*****************************************************************# 报告#*****************************************************************#performance(models, T)   该估计值与TTR软件包提供的其余稳定率估计值类似。 print(cor(, use='complete.obs',method='pearson'))  最受欢迎的见解 1.在python中应用lstm和pytorch进行工夫序列预测 2.python中利用长短期记忆模型lstm进行工夫序列预测剖析 3.应用r语言进行工夫序列（arima，指数平滑）剖析 4.r语言多元copula-garch-模型工夫序列预测 5.r语言copulas和金融工夫序列案例 6.应用r语言随机稳定模型sv解决工夫序列中的随机稳定 7.r语言工夫序列tar阈值自回归模型 8.r语言k-shape工夫序列聚类办法对股票价格工夫序列聚类 9.python3用arima模型进行工夫序列预测

原文链接：http://tecdat.cn/?p=23159 原文出处：拓端数据部落公众号混合模型在统计学畛域曾经存在了很长时间。例如，规范的方差分析办法能够被看作是混合模型的非凡状况。最近，混合模型有多种利用和扩大，使其可能涵盖各种不同的数据状况。 术语对于不相熟的人来说，围绕混合模型的术语，特地是跨学科的术语，可能有点令人困惑。你可能遇到的对于这些类型的模型的一些术语包含。 方差重量随机截距和斜率随机效应随机系数变动的系数截距和/或斜率作为后果分层线性模型多层次模型（意味着多层次的分层聚类数据增长曲线模型（可能是Latent GCM）。混合效应模型都形容了混合模型的类型。 混合效应，或简称混合，模型个别指固定效应和随机效应的混合。对于个别的模型，我更喜爱用 "混合模型 "或 "随机效应模型"，因为它们是更简略的术语，没有暗示具体的构造，而且后者还能够实用于许多人在应用其余术语时不会想到的扩大状况。对于混合效应，固定效应指的是人们在线性回归模型中看到的典型主效应，即混合模型的非随机局部，在某些状况下，它们被称为总体均匀效应。无论如何定义，随机效应只是那些特定于察看样本的效应。本文所概述的办法次要波及察看样本是某种分组因素程度的状况。 聚类的品种数据可能有一个或多个聚类起源，而且聚类可能是分层的，比方聚类是嵌套在其余聚类中。一个例子是对学生进行屡次的学术能力测试（反复察看嵌套在学生中，学生嵌套在学校中，学校嵌套在地区中）。在其余状况下，不存在嵌套构造。一个例子是反应时间试验，参与者执行同一组工作。尽管察看后果是在集体外部嵌套的，但察看后果也是依据工作类型进行聚类的。有人用嵌套和穿插这两个术语来辨别这些状况。此外，聚类可能是均衡的或不均衡的。 在上面的内容中，咱们将看到所有这些数据状况下的混合效应模型。一般来说，咱们的办法将是雷同的，因为这种聚类实际上更多的是数据的属性而不是模型的属性。然而，理解混合模型在解决各种数据状况时的灵活性是很重要的。 随机截距模型上面咱们展现混合模型的最简略和最常见的状况，即咱们有一个繁多的分组/群组构造的随机效应。这通常被称为随机截距模型。 例子：学生大学均匀问题GPA上面咱们将评估预测大学均匀问题（GPA）的因素。200名学生中的每个人都被评估了六次（前三年的每个学期），因而咱们在学生中进行了察看分组。咱们还有其余变量，如状态、性别和高中GPA。有些会以标签和数字的模式呈现。 规范回归模型当初说说根底模型。咱们能够用几种不同的形式来展现它。首先，咱们从一个规范回归开始，来确定咱们的方向。  咱们对截距和工夫的影响有系数（b）。误差（）被假设为正态分布，平均值为0，标准差为。  另一种写法是强调gpa的根本数据生成过程的模型，如下。  更严格地说，GPA和变量有一个隐含的下标来示意每个察看值，但你也能够把它看成是单个个体在单个工夫点的模型。 混合模型形容当初咱们展现一种形容混合模型的办法，其中包含每个学生的独特效应。考虑一下上面这个繁多学生的模型。这表明，学生的特定效应，即GPA的偏差只是因为该学生是谁，能够被看作是一个额定的方差起源。   咱们（通常）会对学生效应做如下假如。 因而，学生效应是随机的，具体来说是正态分布，均值为零，有肯定的预计标准差（）。换句话说，从概念上讲，这个混合模型和规范回归之间的惟一区别是学生效应，均匀而言，学生效应是没有影响的，但通常会因学生的不同而有肯定的变动，均匀而言是。 如果咱们重新排列，咱们反而能够关注模型的系数，而不是作为额定的误差起源。 或者更简洁的说 这样一来，咱们就会有针对学生的截距，因为每个人都会有本人独特的影响加到总体截距上，导致每个人的截距不同。 当初咱们看到截距是正态分布的，有总体截距的平均值和一些标准差。因而，这通常被称为随机截距模型。  多层次模型另一种显示混合模型的形式常见于多层次模型的文献中。它被更明确地显示为一个两局部的回归模型，一个在样本层面，一个在学生层面。 然而，在将第二档次的局部 "插入 "第一档次后，它与前者是雷同的。 请留神，咱们并没有一个针对学生情景的效应。在这种状况下，情景被说成是一个固定效应，而没有随机成分。但状况相对不是这样的，咱们前面会看到。 利用可视化在这里，咱们绘制GPA与情景（即学期）的关系，来理解终点和趋势的变动。 plot(occasion, gpa,smooth(method = 'lm')  所有学生的门路都以浅色门路显示，10个样本以粗体显示。咱们稍后要做的回归所预计的总体趋势显示为红色。有两件事很突出。一是学生在开始时有很大的变数。第二，尽管GPA的总体趋势是随着工夫的推移而回升但个别学生在这个轨迹上可能会有所不同。 规范回归因而，让咱们开始吧。首先，咱们来看看回归，只把工夫指标作为协变量，咱们把它当作数字。 lm(gpa ~ occasion)## summary(lm)  下面的数据通知咱们，开始时，即学期为零时，均匀GPA，用截距示意，是2.6。此外，随着咱们从一个学期到另一个学期，咱们能够预期GPA会减少大概0.11分。这将是很好的，除了咱们疏忽了聚类。这样做的一个副作用是，咱们的标准误差是有偏差的，因而基于标准误差的统计学意义的主张会有偏差。更重要的是，咱们无奈摸索学生效应，但学生效应很有意义。 分组回归另一种办法是对每个学生独自进行回归。然而，这种办法有很多毛病--当有很多组的时候，它不容易被总结，通常每个组内的数据很少，无奈做到这一点（如在这个案例中），而且模型是适度的背景化，意味着他们疏忽了学生的共同点。咱们将在前面比拟这样的办法和混合模型。 运行混合模型接下来咱们运行一个混合模型，它将容许学生的特定效应。在下文中，代码看起来就像你用lm做的回归一样，但有一个额定的局部来指定组，即学生的效应。(1|student)意味着咱们容许截距（用1示意）因学生而异。应用混合模型，咱们能够失去与回归雷同的后果，但将有更多的内容能够探讨。 library(lme4)gpa_mixed = lmer(gpa ~ occasion + (1 | student), data = gpa)## summary(gpa_mixed)  首先咱们看到，截距和工夫的系数，即在这里能够称为固定效应，与咱们在规范回归中看到的雷同，其解释也雷同。另一方面，这里的标准误差是不同的，只管最初咱们的论断在统计意义上是雷同的。请特地留神，截距的标准误差曾经减少。从概念上讲，你能够认为容许每个人的随机截距容许咱们取得对于集体的信息，同时意识到对于总体平均数的不确定性。 尽管咱们有系数和标准误差，但你可能曾经留神到，lme4并没有提供p值，这有几个起因。这有几个起因，即对于混合模型，咱们基本上是在解决不同的样本量，群组内的Nc，可能因群组而异（甚至是单个观测值），以及N个总观测值，这使咱们在参考散布、自由度以及如何近似 "最佳 "解决方案方面处于一种含糊的状态。其余程序主动提供p值，如同没有什么问题，而且没有通知你他们应用哪种办法来计算p值（有几种）。此外，这些近似值在某些状况下可能十分差，或者做出可能不适宜状况的假如。 然而，失去置信区间是比拟间接的，如下所示7。 confint(gpa)  方差成分与规范回归输入相比，有一点是新的，那就是学生效应的预计方差/标准差（在咱们之前的公式形容中是）。这通知咱们，均匀而言，当咱们从一个学生转移到另一个学生时，GPA会有多大的变动。换句话说，即便在依据工夫点进行预测后，每个学生都有本人独特的偏差，而这个值（就标准偏差而言）是整个学生的预计平均偏差。 另一种解释方差输入的办法是留神学生方差在总数中的百分比，或0.064 / 0.122 = 52%。这也被称为类内相干，因为它也是对群内相干的预计，咱们将在前面看到。 随机效应的预计运行模型后，咱们实际上能够失去学生效应的估计值。我为前五个学生展现了两种办法，既能够作为随机效应，也能够作为随机截距（即截距+随机效应）。 ef(mixed)$student %>% head(5)  coef  请留神，咱们不容许学期的变动，所以它对所有的学生都是一个恒定的，也就是固定的成果。 通常状况下，咱们对这些效应十分感兴趣，并心愿对它们有一些不确定性的感觉。能够通过预测区间来实现。或者能够间接去看它们的图。 Interval(mixed)   # 用于各种模型的预测，可能应用新的数据sim(mixed)             #  随机效应估计值的平均值、中位数和SD值plot(mixed))  # 绘制区间估计值上面的图是每个学生的预计随机效应及其区间预计。随机效应是正态分布，其平均值为零，由水平线示意。不包含零的区间用粗体示意。 预测当初让咱们来看看规范预测与特定群组预测的比照。与大多数R模型一样，咱们能够在模型上应用预测函数。 predict(mixed, re.form=NA) %>% head() 在下面的代码中，咱们指定不应用随机效应re.form=NA，因而，咱们对观测值的预测和咱们从规范线性模型中失去的预测差不多。 ...

1.leetCode第三题需要：https://leetcode-cn.com/probl... 给定一个字符串 s ，请你找出其中不含有反复字符的最长子串的长度。输出: s = "pwwkew"输入: 3解释: 因为无反复字符的最长子串是 "wke"，所以其长度为 3。  请留神，你的答案必须是 子串 的长度，"pwke" 是一个子序列，不是子串。 function print(s) { let str = ""; let size = 0; for (let i = 0; i < s.length; i++) { if (str.includes(s[i])) { //拼接字符串的过程中将原来的str置空 而后再从新累加 str = str.substr(i + 1); } else { str += s[i]; //计算size的最大值 size = size < str.length ? str.length : size; } } return size; }2.leetCode第四题需要：https://leetcode-cn.com/probl... 给定两个大小别离为 m 和 n 的正序（从小到大）数组 nums1 和 nums2。请你找出并返回这两个正序数组的 中位数 。 ...

声网Agora Native SDK 3.4.0 本月已正式上线。新版本不仅减少了更丰盛的实时美声音效、屏幕共享、虚构节拍器等性能，同时在 SDK 的稳定性、兼容性及平安合规上做了大幅度降级，心愿为 App 用户带来更顺畅、舒服的互动新体验。 3.4.0 版本更新了什么？性能新增1、音效文件播放进度 在实时音视频互动过程中，当咱们心愿能够更好地衬托氛围、削减趣味性，通常会抉择播放音效（例如，在游戏中增加打斗声，在唱歌时增加伴奏等）来进行互动。但有时候如果需在播放音效文件后调整播放地位，只独自播放一个残缺音轨中的某一段或者心愿疾速跳过某局部音频内容，3.4.0 版本中提供了管制音效文件的播放进度。具体新增如下办法： playEffect3:通过 startPos 参数，在播放音效文件时设置播放地位。setEffectPosition: 在播放音效文件后，设置音效文件的播放地位。getEffectDuration: 获取本地音效文件的总时长。getEffectCurrentPosition: 获取音效文件的播放进度。2、虚构节拍器 为满足在线音乐教学等场景对节拍器的需要，3.4.0 版本新增如下办法： startRhythmPlayer: 开启虚构节拍器。stopRhythmPlayer: 敞开虚构节拍器。configRhythmPlayer: 在开启虚构节拍器后，重新配置虚构节拍器。性能优化1、弱网下的视频流畅性与品质均衡 在带宽受限时，为了保障视频的流畅性，通常视频编码会抉择优先升高视频帧率维持视频品质不变或者抉择升高视频品质保障视频帧率。但在一对一通话、一对一教学或多人会议的场景中，画质与流畅性其实都很难割舍。因而，在 3.4.0 版本中咱们对此对了优化 degradationPreference 新增反对设为 AgoraDegradationBalanced，弱网下会升高视频帧率和视频品质，以在流畅性和视频品质之间获得均衡。 2、原始视频数据（C++） 为不便开发者获取传输各阶段的视频原始数据，满足更多场景需要，在 3.4.0 之前的版本中咱们曾经反对 C++ 回调 getRotationApplied 和 getMirrorApplied 将原始视频数据作旋转、镜像解决。为晋升用户体验，新版本将这些回调函数反对解决的视频数据格式由 RGBA 拓展到 RGBA 和 YUV 420。 3、屏幕共享性能优化 实时互动场景中的屏幕共享是指将屏幕上的内容分享，从而实现信息共享的一种技术。这样的利用在游戏直播、视频会议或在线教育场景中都较为常见（文件、数据、网页、课件、笔记等屏幕共享），用户能够将本人挪动端或 PC 端的屏幕内容共享给别人实时观看。 新版本的 SDK 目前已反对屏幕区域共享、窗口区域共享、全屏共享、共享前置、窗口最小化回调等性能，同时还反对流畅性有先模式或清晰度优先模式的抉择。在屏幕共享的可用性及体验感上都做了很大都晋升。 4、客户端录音 为了便于用户在录音时能够更不便、灵便地设置录音内容，该版本新增startAudioRecordingWithConfig 办法，通过 startAudioRecordingWithConfig的 config 参数，用户可自主抉择设置录音音质、内容、采样率及录音文件的存储门路。 同时，该版本还新增了错误码 AgoraErrorCodeAlreadyInRecording(160)。如果在音乐文件播放实现前再次调用 startAudioRecordingWithConfig，SDK 会报告该错误码。 为什么是目前最“优”版本？Agora Native SDK 3.4.0 是一个性能更丰盛、稳定性更高的集大成版本。为了用户在新版本中领有更好的体验。咱们从 3.0 SDK 到 3.4 SDK 的过程中做了诸多的优化，在音频解决、视频解决、延时优化、平安合规等方面都做了相应的晋升。因而，3.4 版本不仅新增和优化了局部性能，同时也保留和优化了之前版本中优良的性能与个性。 ...

1.leetCode第一题需要：https://leetcode-cn.com/probl...给定一个整数数组 nums 和一个整数目标值 target，请你在该数组中找出 和为目标值 target的那两个整数，并返回它们的数组下标。输出：nums = [2,7,11,15], target = 9输入：[0,1]解释：因为 nums[0] + nums[1] == 9 ，返回 [0, 1] 。 let nums = [2, 7, 11, 15]; function print(nums, target) { //创立映射表 let hash = {}; for (let i = 0; i < nums.length; i++) { //将每次循环的数据存储起来 例如索引为0={2:0} hash[nums[i]] = i; //应用减法来寻找映射表中是否存在对应的值 这里是9-7成立 = 2映射表中存在键为2的属性而它对应的值正是索引 if (hash[target - nums[i]] != undefined) { //将寻找到的2和以后被减的索引return进来就满足了本题的后果 return [hash[target - nums[i]], i]; } } }2.leetCode第二题需要：https://leetcode-cn.com/probl...给你两个非空的链表，示意两个非负的整数。它们每位数字都是依照逆序的形式存储的，并且每个节点只能存储一位数字。输出：l1 = [2,4,3], l2 = [5,6,4]输入：[7,0,8]解释：342 + 465 = 807. ...

原文链接：http://tecdat.cn/?p=23151  这个例子展现了如何应用深度学习长短期记忆（LSTM）网络对文本数据进行分类。 文本数据是有程序的。一段文字是一个词的序列，它们之间可能有依赖关系。为了学习和应用长期依赖关系来对序列数据进行分类，能够应用LSTM神经网络。LSTM网络是一种递归神经网络（RNN），能够学习序列数据的工夫程序之间的长期依赖关系。 要向LSTM网络输出文本，首先要将文本数据转换成数字序列。你能够应用单词编码来实现这一点，该编码将文件映射为数字指数的序列。为了取得更好的后果，还能够在网络中退出一个词嵌入层。词汇嵌入将词汇映射为数字向量，而不是标量索引。这些嵌入发现了单词的语义细节，因而具备类似含意的单词具备类似的向量。它们还通过向量算术来模仿单词之间的关系。例如，"罗马之于意大利就像巴黎之于法国 "的关系由方程式意大利-罗马+巴黎=法国来形容。 在这个例子中，训练和应用LSTM网络有四个步骤。 导入并预处理数据。应用单词编码将单词转换为数字序列。创立并训练一个带有单词嵌入层的LSTM网络。应用训练好的LSTM网络对新的文本数据进行分类。导入数据导入工厂报告数据。该数据蕴含对工厂事件的标签化文本形容。要把文本数据导入为字符串，指定文本类型为 "字符串"。 head(data) 这个例子的目标是通过类别栏中的标签对事件进行分类。为了将数据划分为类别，将这些标签转换为分类的。  Category = categorical(Category);应用直方图查看数据中的类别散布。 figurehistogram(Category); 下一步是将其划分为训练和验证的汇合。将数据划分为一个训练分区和一个用于验证和测试的保留分区。指定保留的百分比为20%。  cvp = cv(Category,'Holdout',0.2);从分区的表中提取文本数据和标签。  DataTrain = Description;DataValidation = Description;为了查看你是否正确地导入了数据，能够用词云来可视化训练文本数据。  wordcloud(DataTrain); 预处理文本数据创立一个函数，对文本数据进行标记和预处理。列在例子开端的函数preprocessText，执行这些步骤。   应用tokenizedDocument对文本进行标记。应用lower将文本转换为小写。应用 erasePunctuation 擦除标点符号。对训练数据和验证数据进行预处理。  Train = preprocessText(DataTrain);查看最后几个预处理的训练文件。  documentsTrain(1:5) 将文件转换为序列为了将文档输出到LSTM网络中，应用一个单词编码将文档转换为数字指数序列。 创立一个词的编码  下一个转换步骤是对文件进行填充和截断，使它们的长度都雷同。 要填充和截断文件，首先要抉择一个指标长度，而后截断比它长的文件，左移比它短的文件。为了达到最佳成果，指标长度应该很短，而不会抛弃大量的数据。为了找到一个适合的指标长度，能够查看训练文档长度的直方图。 histogram(documentLengths) 大多数的训练文件都少于10个标记。将此作为截断和填充的指标长度。 将文档转换为数字索引序列。要截断或向左填充序列的长度为10，将 "长度 "选项设置为10。 doc2sequence(enc,'Length'); 应用雷同的选项将验证文件转换为序列。  sequence(Length);创立和训练LSTM网络定义LSTM网络结构。为了向网络输出序列数据，包含一个序列输出层，并将输出大小设置为1。接下来，包含一个维度为50的词嵌入层，词的数量与词的编码雷同。接下来，包含一个LSTM层，并将暗藏单元的数量设置为80。最初，增加一个与类的数量雷同的全连贯层，一个softmax层，以及一个分类层。  inputSize = 1;Dimension = 50;HiddenUnits = 80; 指定训练选项应用Adam优化器进行训练.指定一个16的小批处理量。每隔一段时间对数据进行随机化。通过设置 "Plots "选项为 "training-progress "来监测训练进度。应用'ValidationData'选项指定验证数据。通过将'Verbose'选项设置为false来克制输入。默认状况下，如果有GPU，会应用GPU（须要并行计算工具箱™和反对CUDA®的计算能力3.0以上的GPU）。否则，它将应用CPU。在CPU上训练的工夫可能比在GPU上训练的工夫长很多。  options('adam', ...    'BatchSize',16, ...    'Shuffle','every-epoch', ...);训练LSTM网络。 应用新数据进行预测对三个新报告的事件类型进行分类。创立一个蕴含新报告的字符串数组。  应用预处理步骤对文本数据进行预处理，作为训练文档。  preprocessText(New);将文本数据转换为序列，选项与创立训练序列时雷同。 sequence(enc,sequenceLength);应用训练好的LSTM网络对新序列进行分类。  classify(XNew) 最受欢迎的见解 1.探析大数据期刊文章钻研热点 2.618网购数据盘点-剁手族在关注什么 3.r语言文本开掘tf-idf主题建模，情感剖析n-gram建模钻研 4.python主题建模可视化lda和t-sne交互式可视化 5.疫情下的新闻数据察看 6.python主题lda建模和t-sne可视化 7.r语言中对文本数据进行主题模型topic-modeling剖析 8.主题模型：数据凝听人民网留言板的那些“网事” 9.python爬虫进行web抓取lda主题语义数据分析

原文链接：http://tecdat.cn/?p=23141定量战术资产配置策略（QATAA）模型是应用10个月的挪动平均线作为过滤器。如果在月末，资产的价格高于挪动平均线，就留在市场中；否则就会来到市场。 10个月有什么特别之处；为什么10个月对所有资产和区制都是不变的。我提出了依据历史稳定率来调整挪动平均线回溯的想法。也就是说，在高稳定期间，较短的挪动平均线会让咱们更快地来到市场，而在低稳定期间，较长的挪动平均线会让咱们留在市场中。然而，这导致了更差的后果。 我花了一些工夫剖析根底的10个月挪动平均线策略，看到了相当大的损失，简略的解决办法是在10个月挪动平均线四周应用+/-5%的区间，以缩小损失，减少收益。 上面我将展现这个概念是如何运作的。 #*****************************************************************# 加载历史数据#*****************************************************************# 加载保留的代理原始数据tickers = 'SPYCASH = SHY + TB3Y'#*****************************************************************# 用来显示信号的辅助函数#*****************************************************************    signal = iif(model == 'base', prices > sma,      #基于信号创立一个模型 share(data, clean.signal=T, silent=T)  # 创立一个图来显示信号  plot(p\[dates\] ,type='l', plotX=F, x.highlight = highlight) visuali('2000::2001') 提早进场/登场的益处是交易量少，成交量小。  #*****************************************************************# 设置#*****************************************************************models = list()#*****************************************************************# SPY#******************************************************************run(data)#*****************************************************************#  SPY + 10个月过滤器#******************************************************************apply(prices, SMA, 10*22) iif(prices > sma, 1, 0)CASH = 1 - ifna( ifna(SPY), 0)#*****************************************************************# SPY+10个月+5/-5%过滤器#******************************************************************(cross(prices, sma * 1.05), (prices, sma * 0.95), 0, NA)我还包含了我对动静回测挪动平均线的尝试，但在这种模式下，并不实用。 #*****************************************************************#  SPY + 基于稳定率的动静过滤器#******************************************************************vol = matrix(ret, SD, n = 21)if(vol.rank < 0.5, bt(prices, SMA, 10\*22),matrix(prices, SMA, 1\*22))data$w#*****************************************************************# SPY+基于稳定率的动静过滤器；多个级别#******************************************************************nbreaks = 5sma.cash = sma * NAfor(i in 1:nbreaks) { temp = data(matrix(prices, SMA, (nbreaks - i + 1)* 2 *22) }#*****************************************************************# 报告#*****************************************************************plot(models) SPY SPY.CASH SPY.CASH.BAND SPY.CASH.VOL.SIMPLE SPY.CASH.VOL Period Jan1993 - Feb2015 Jan1993 - Feb2015 Jan1993 - Feb2015 Jan1993 - Feb2015 Jan1993 - Feb2015 Cagr 9.4 9.9 12.1 9.2 8 DVR 41.9 78.3 91.4 83.8 74 Sharpe 56.7 83.6 97.1 90.8 77.1 R2 73.9 93.7 94.1 92.3 96 Win.Percent 100 41.1 100 45.7 43.3 Avg.Trade 623.7 1.9 27.6 0.7 0.7 MaxDD ...

原文链接：http://tecdat.cn/?p=23130  To 本文指标是创立合成稳定率指数，1）当利用于规范普尔500指数时，尽可能地反映VIX指数；2）齐全依附价格作为输出，因而它能够利用于任何市场指数。 所述的解决方案是合成稳定率指数。\> Mov(ATR(1)/C,20,S) 上面我将尝试代码。 #*****************************************************************# 加载历史数据#*****************************************************************tickers = 'SP=^GSPC,VIX=^VIX'#*****************************************************************# 绘制数据#*****************************************************************layout(1:3)plot(SP)plot.legend('SP',SP) matplot(scale(temp)#*****************************************************************# 测试策略#*****************************************************************vol= SMA( SP),1/ Cl), 20 )high= vol > SMA(vol, 40)low= vol< SMA(vol, 40)plot(SP\[index\], type='l', plotX=F, x.highlight = highlight) #*****************************************************************# 测试策略#*****************************************************************models = list()data$weight\[\] = NArun(data)#*****************************************************************# 报告#*****************************************************************#performance(models, T)   该估计值与TTR软件包提供的其余稳定率估计值类似。 print(cor(, use='complete.obs',method='pearson'))  最受欢迎的见解 1.在python中应用lstm和pytorch进行工夫序列预测 2.python中利用长短期记忆模型lstm进行工夫序列预测剖析 3.应用r语言进行工夫序列（arima，指数平滑）剖析 4.r语言多元copula-garch-模型工夫序列预测 5.r语言copulas和金融工夫序列案例 6.应用r语言随机稳定模型sv解决工夫序列中的随机稳定 7.r语言工夫序列tar阈值自回归模型 8.r语言k-shape工夫序列聚类办法对股票价格工夫序列聚类 9.python3用arima模型进行工夫序列预测

原文链接：http://tecdat.cn/?p=6358原文出处：拓端数据部落公众号多重插补已成为解决缺失数据的罕用办法 。  咱们能够思考应用多个插补来估算X中的缺失值。接下来的一个天然问题是，在X的插补模型中，变量Y是否应该作为协变量蕴含在内？  Stata 为了阐明这些概念，咱们在Stata中模仿了一个小数据集，最后没有缺失数据： gen x = rnormal（）gen y = x + 0.25 * rnormal（）twoway（scatter yx）（lfit yx） 在没有任何数据缺失之前，Y对X的散点图 接下来，咱们将X的100个察看中的50个设置为缺失： gen xmiss =（_ n <= 50）插补模型在本文中，咱们有两个变量Y和X，分析模型由某种类型的回归组成（意味着Y是因变量而X是协变量），心愿生成插补，失去Y | X模型中参数的无效预计。 输出X疏忽Y假如咱们应用回归模型来估算X，然而在插补模型中不包含Y作为协变量。咱们能够在Stata中轻松实现此操作，为每个缺失值生成一个估算值，而后依据X的后果推算察看到的X mi impute reg x，add（1） 上图分明地显示了在X中疏忽Y的缺失值的问题 - 在咱们曾经估算X的那些中，Y和X之间没有关联，实际上应该存在。 将后果思考在内的假如如果咱们反过来将X后果思考为Y（作为X的插补模型中的协变量），则会产生以下步骤。X | Y的插补模型将应用察看到X的样本来拟合。因为咱们假如X在Y处随机缺失，因而残缺的案例剖析拟合是无效的。因而，如果实际上X和Y之间没有关联，咱们应该（在冀望中）在这个残缺的状况下找到它。 要持续咱们的模仿数据集，咱们首先抛弃之前生成的估算值，而后从新输出X，但这次包含Y作为插补模型中的协变量：  mi impute reg x = y，add（1）应用Y估算缺失的X值。 多重插补中的变量抉择抉择要蕴含在插补模型中的变量时的个别规定是，必须包含分析模型中波及的所有变量，或者作为被估算的变量，或者作为插补模型中的协变量。

原文链接：http://tecdat.cn/?p=23115  在这个文章中，咱们演示了copula GARCH办法（个别状况下）。 1 模仿数据首先，咱们模仿一下翻新散布。咱们抉择了一个小的样本量。现实状况下，样本量应该更大，更容易发现GARCH效应。  ## 模仿翻新d <- 2 # 维度tau <- 0.5 # Kendall's tauCopula("t", param = th, dim = d, df = nu) # 定义copula对象rCopula(n, cop) # 对copula进行采样sqrt((nu.-2)/nu.) * qt(U, df = nu) # 对于ugarchpath()来说，边缘必须具备均值0和方差1!当初咱们用这些copula依赖的翻新散布来模仿两个ARMA(1,1)-GARCH(1,1)过程。 ## 边缘模型的参数fixed.p <- list(mu  = 1,spec(varModel, meanModel,                    fixed.pars ) # 条件翻新密度（或应用，例如，"std"）## 应用翻新模仿ARMA-GARCH模型## 留神: ugarchpath(): 从spec中模仿;garchpath(uspec,                n.sim = n, # 模仿的门路长度               ## 提取后果系列X. <- fitted(X) # X\_t = mu\_t + eps_t (simulated process)## 根本查看:stopifnot(all.equal(X.,    X@path$seriesSim, check.attributes = FALSE),## 绘制边缘函数plot(X., type = "l", xlab = "t") 2 基于模仿数据的拟合程序咱们当初展现如何对X进行ARMA(1,1)-GARCH(1,1)过程的拟合（咱们删除参数fixed.pars来预计这些参数）。 spec(varModel, mean.model = meanModel) ugarchfit(uspec, data = x))查看（标准化的）Z，即残差Z的伪观测值。  plot(U.) 对于边缘散布，咱们也假设为t散布，但自由度不同。 fit("t", dim = 2), data = U., method = "mpl")nu. <- rep(nu., d) # 边缘自由度est <- cbind(fitted = c(estimate, nu.), true = c(th, nu, nu.)) # 拟合与实在值 3 从拟合的工夫序列模型进行模仿从拟合的copula 模型进行模仿。  set.seed(271) # 可重复性sapply(1:d, function(j) sqrt((nu\[j\]-2)/nu\[j\]) * qt(U\[,j\], df = nu\[j\]))## => 翻新必须是标准化的garch()sim(fit\[\[j\]\], n.sim = n, m.sim = 1,并绘制出每个后果序列（XtXt）。  apply(sim,fitted(x)) # 模仿序列plot(X.., type = "l") 最受欢迎的见解 1.用机器学习辨认一直变动的股市情况—隐马尔科夫模型(HMM)的利用 2.R语言GARCH-DCC模型和DCC（MVT）建模预计 3.R语言实现 Copula 算法建模依赖性案例剖析报告 4.R语言COPULAS和金融工夫序列数据VaR剖析 5.R语言多元COPULA GARCH 模型工夫序列预测 6.用R语言实现神经网络预测股票实例 7.r语言预测稳定率的实现：ARCH模型与HAR-RV模型 8.R语言如何做马尔科夫转换模型markov switching model 9.matlab应用Copula仿真优化市场危险

原文链接：http://tecdat.cn/?p=23104 多项式回归是独立x变量和因果y变量之间的非线性关系。当咱们剖析有一些蜿蜒的稳定数据时，拟合这种类型的回归是必不可少的。在这篇文章中，咱们将学习如何用多项式回归数据拟合曲线并在Python中绘制。咱们在本教程中应用NumPy和matplotlib库。 咱们将首先加载本教程所需的模块。 import numpy as npimport matplotlib.pyplot as plt咱们须要测试数据，咱们能够按下图所示生成。你也能够应用你本人的数据集。   n = 250         # 元素数train_x = np.array(x)train_y = np.array(y)咱们将通过创立一个散点图来直观地查看x数据。 plt.scatter(train\_x, train\_y)   接下来，咱们将用PolymonialFeatures类定义多项式模型，在训练数据上进行拟合。  fit\_transform(train\_x.reshape(-1, 1))咱们须要一个线性模型，咱们将定义它并在训练数据上拟合。而后咱们用这个模型来预测x数据。   liniearModel.fit(xpol, train_y\[:,\])最初，咱们将绘制出拟合的曲线。  plt.plot(train_x, polyfit, color = 'red') 在这篇文章中，咱们曾经简略地理解了如何在Python中拟合多项式回归数据。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言回归中的Hosmer-Lemeshow拟合优度测验 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.在R语言中实现Logistic逻辑回归 8.python用线性回归预测股票价格 9.R语言如何在生存剖析与Cox回归中计算IDI，NRI指标

原文链接：http://tecdat.cn/?p=23099 在本文对于如何在R中进行贝叶斯剖析。咱们介绍贝叶斯剖析，这个例子是对于职业足球比赛的进球数。 模型首先，咱们认为职业足球比赛的进球数来自散布，其中是均匀进球数。当初假如咱们用一位足球专家的意见来得出足球比赛的均匀进球数，即参数，咱们失去：。 curve(dnorm(x, 2.5, 0.2), from = -2, to = 8,...)  咱们想晓得什么？在这种状况下，咱们想晓得的后验散布是什么样子的，这个散布的平均值是什么。为了做到这一点，咱们将在三种状况下剖析： 咱们有1个察看值x=1，来自散布为的总体。 咱们有3个观测值x=c(1,3,5)，来自一个具备散布的总体。 咱们有10个观测值x=c(5,4,3,4,3,2,7,2,4,5)，来自一个具备散布的总体。 实践办法在这里，我想通知你贝叶斯剖析是如何剖析的。首先，咱们有一个来自具备未知参数的泊松散布的人口的似然函数。    咱们晓得参数的先验散布p()是由以下公式给出的。  最初，的后验散布为。    其中常数C的计算方法如下。 而后验散布E(|x)的平均值由以下公式给出。 计算方法在这里，你将学习如何在R中应用蒙特卡洛模仿来答复下面提出的问题。对于这三种状况，你将遵循以下步骤。 1. 定义数据首先，你须要依据计划定义数据。 x <- 1 #第一种状况2. 计算常数C当初应用蒙特卡洛模仿来计算积分。为此，有必要从先验散布中产生N=10000个值i，并在似然函数中评估它们。最初，为了失去C，这些值被平均化。R中的代码如下。  N <- 100000  # 模仿值的数量rnorm(n=N, mean = 2.5, sd = 0.2) #先验散布prod(dpois(x=x, lambda = theta)) #似然函数 3. 寻找后验散布 计算完C后，你能够失去后验散布，如下所示。         fvero(theta) * dnorm(x=theta) / C  4. 计算后验散布的平均数最初你能够应用蒙特卡洛模拟计算积分来取得后验散布的平均值。  integral <- mean(aux)posterior <- integral/C 后果如前所述，下面介绍的代码用于所有三种状况，惟一依据状况变动的是x。在这一节中，咱们将为每种状况展现一张图，其中蕴含的先验和后验散布、后验散布的平均值（蓝色虚线）和观测值（粉红色的点）。 第一种状况curve(dnorm(x, 2.5, 0.2), col=4,,x=x, y=rep(0, length(x)),line,v = mposterior,legend=c("topright", legend=c("后验", "先验"),)  第二种状况    第三种状况 论断从后果中咱们能够得出这样的论断：当咱们有很少的观测数据时，如图1和图2，因为不足样本证据，后验散布将偏向于相似于先验散布。相同，当咱们有大量的观测数据时，如图3，后验散布将偏离先验散布，因为数据将有更大的影响。 我心愿你喜爱这篇文章并理解贝叶斯统计。我激励你用其余散布运行这个程序。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言回归中的Hosmer-Lemeshow拟合优度测验 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.在R语言中实现Logistic逻辑回归 8.python用线性回归预测股票价格 9.R语言如何在生存剖析与Cox回归中计算IDI，NRI指标

【 NO.1 能够输出的最大单词数】 解题思路签到题，循环遍历判断即可。 代码展现 class Solution { public int canBeTypedWords(String text, String brokenLetters) { if (text == null || text.length() == 0) { return 0; } String[] texts = text.split(" "); Set<Character> set = new HashSet<>(); for (char c : brokenLetters.toCharArray()) { set.add(c); } int ans = 0, flag = 0; for (String word : texts) { for (char c : word.toCharArray()) { if (set.contains(c)) { flag = 1; break; } } if (flag == 0) { ans++; } flag = 0; } return ans;}} ...

原文链接：http://tecdat.cn/?p=8287原文出处：拓端数据部落公众号介绍缺失值被认为是预测建模的首要阻碍。因而，把握克服这些问题的办法很重要。 估算缺失值的办法的抉择在很大水平上影响了模型的预测能力。在大多数统计分析办法中，删除是用于解决缺失值的默认办法。然而，它会导致信息失落。 在本文中，我列出了5个R语言办法。 链式方程进行的多元插补通过链式方程进行的多元插补是R用户罕用的。与单个插补（例如均值）相比，创立多个插补可解决缺失值的不确定性。 MICE假设缺失数据是随机（MAR）缺失，这意味着，一个值缺失概率上观测值仅取决于并且能够应用它们来预测。通过为每个变量指定插补模型，能够按变量插补数据。 例如：假如咱们有X1，X2….Xk变量。如果X1短少值，那么它将在其余变量X2到Xk上回归。而后，将X1中的缺失值替换为取得的预测值。同样，如果X2短少值，则X1，X3至Xk变量将在预测模型中用作自变量。稍后，缺失值将被替换为预测值。 默认状况下，线性回归用于预测间断缺失值。Logistic回归用于分类缺失值。一旦实现此循环，就会生成多个数据集。这些数据集仅在估算的缺失值上有所不同。通常，将这些数据集别离构建模型并组合其后果被认为是一个好习惯。 确切地说，应用的办法是： PMM（预测均值匹配）–用于数字变量logreg（逻辑回归）–对于二进制变量（具备2个级别）polyreg（贝叶斯多元回归）–用于因子变量（> = 2级）比例模型（有序，\> = 2个级别）当初让咱们实际操作。 > path <- "../Data/Tutorial"> setwd(path)#读取数据> data <- iris#随机产生10％的缺失值> summary(iris)#随机产生10％的缺失值> iris.mis <- prodNA(iris, noNA = 0.1)#检查数据中引入的缺失值> summary(iris.mis)我删除了分类变量。让咱们在这里关注间断值。要解决分类变量，只需对类level进行编码并依照以下步骤进行即可。 ＃删除类别变量> iris.mis <- subset(iris.mis, select = -c(Species))> summary(iris.mis) _md.pattern_返回数据集中每个变量中存在的缺失值的表格模式。 > md.pattern(iris.mis) 让咱们理解一下这张表。有98个观测值，没有缺失值。Sepal.Length中有10个观测值缺失的观测值。同样，Sepal.Width等还有13个缺失值。  咱们还能够创立代表缺失值的视觉效果。  > mice_plot <- aggr(iris.mis, col=c('navyblue','yellow'),                    numbers=TRUE, sortVars=TRUE,                    labels=names(iris.mis), cex.axis=.7,                    gap=3, ylab=c("Missing data","Pattern")) 让咱们疾速理解这一点。数据集中有67％的值，没有缺失值。在Petal.Length中短少10％的值，在Petal.Width中短少8％的值，依此类推。您还能够查看直方图，该直方图分明地形容了变量中缺失值的影响。 当初，让咱们估算缺失的值。 Multiply imputed data setCall: Number of multiple imputations: 5Missing cells per column:Sepal.Length Sepal.Width Petal.Length Petal.Width 13            14          16           15 Imputation methods:Sepal.Length Sepal.Width Petal.Length Petal.Width "pmm"        "pmm"        "pmm"       "pmm" VisitSequence:Sepal.Length Sepal.Width Petal.Length Petal.Width 1              2            3           4 PredictorMatrix:              Sepal.Length Sepal.Width Petal.Length Petal.WidthSepal.Length        0          1            1            1Sepal.Width         1          0            1            1Petal.Length        1          1            0            1Petal.Width         1          1            1            0Random generator seed value: 500这是应用的参数的阐明： m – 估算数据集maxit – 插补缺失值的迭代次数method –是指插补中应用的办法。咱们应用了预测均值匹配。因为有5个估算数据集，因而能够应用_complete（）_函数抉择任何数据集。  还能够合并来自这些模型的后果，并应用_pool（）_命令取得合并的输入。 请留神，我仅出于演示目标应用了下面的命令。您能够在最初替换变量值并尝试。 多重插补该程序包还执行多个插补（生成插补数据集）以解决缺失值。多重插补有助于缩小偏差并提高效率。它能够通过基于bootstrap程序的EMB算法，从而能够更疾速，更牢靠地插入许多变量，包含横截面，工夫序列数据等。此外，还能够应用多核CPU的并行插入。 它做出以下假如： 数据集中的所有变量均具备多元正态分布（MVN）。它应用均值和协方差汇总数据。缺失数据实质上是随机的（随机缺失）因而，当数据具备多变量正态分布时，最无效。如果没有，将进行转换以使数据靠近正态分布。 惟一须要留神的是对变量进行分类。  #拜访估算的输入> amelia_fit$imputations\[\[1\]\]> amelia_fit$imputations\[\[2\]\]> amelia_fit$imputations\[\[3\]\]> amelia_fit$imputations\[\[4\]\]> amelia_fit$imputations\[\[5\]\]要检查数据集中的特定列，应用 > amelia_fit$imputations\[\[5\]\]$Sepal.Length#将输入导出到csv文件> write.amelia(amelia\_fit, file.stem = "imputed\_data_set")随机森林顾名思义，missForest是一个实现随机森林算法。它实用于各种变量类型的非参数插补法。那么，什么是非参数办法？ 非参数办法不会有对于函数模式明确的假如_F _。取而代之的是，它尝试预计_f_，使其能够与数据点尽可能靠近。 它是如何工作的 ？简而言之，它为每个变量建设一个随机森林模型。而后，它应用模型在观测值的帮忙下预测变量中的缺失值。 它产生OOB（袋外）估算误差预计。而且，它对插补过程提供了高水平的管制。它有抉择别离返回OOB（每个变量），而不是汇集在整个数据矩阵。这有助于精确估算模型值。 NRMSE是归一化的均方误差。它用于示意从估算间断值得出的误差。PFC（谬误分类的比例）用于示意从估算类别值得出的误差。 ＃比拟理论数据准确性> iris.err <- mixError(iris.imp$ximp, iris.mis, iris)>iris.errNRMSE      PFC 0.1535103 0.0625000这表明类别变量的误差为6％，连续变量的误差为15％。这能够通过调整_mtry_和_ntree_参数的值来改善  。mtry是指在每个分支中随机采样的变量数。ntree是指在森林中成长的树木数量。 非参数回归办法对多个插补中的每个插补应用不同的bootstrap程序重采样。而后，将 加性模型（非参数回归办法）拟合到从原始数据中进行替换失去的样本上，并应用非缺失值（独立变量）预测缺失值（充当独立变量）。 而后，它应用预测均值匹配（默认）来插补缺失值。预测均值匹配非常适合间断和分类（二进制和多级），而无需计算残差和最大似然拟合。 自动识别变量类型并对其进行相应解决。 > impute_arg 输入显示R²值作为预测的缺失值。该值越高，预测的值越好。应用以下命令查看估算值 ＃查看估算变量Sepal.Length> impute_arg$imputed$Sepal.Length带有诊断的多重插补 带有诊断的多重插补 提供了一些用于解决缺失值的办法。 它也构建了多个插补模型来近似缺失值。并且，应用预测均值匹配办法。 尽管，我曾经在下面解释了预测均值匹配（pmm）  ：对于变量中缺失值的每个察看值，咱们都会从可用值中找到最靠近的察看值该变量的预测均值。而后将来自“匹配”的察看值用作推断值。 它能够对插补模型进行图形诊断，并能够实现插补过程的收敛。它应用贝叶斯版本的回归模型来解决问题。插补模型标准相似于R中的回归输入它会自动检测数据中的不规则性，例如变量之间的高共线性。而且，它在归算过程中减少了噪声，以解决加性束缚的问题。  如图所示，它应用汇总统计信息来定义估算值。 尾注在本文中，我阐明应用5个办法进行缺失值估算。这种办法能够帮忙您在建设预测模型时取得更高的准确性。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言回归中的Hosmer-Lemeshow拟合优度测验 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.在R语言中实现Logistic逻辑回归 8.python用线性回归预测股票价格 9.R语言如何在生存剖析与Cox回归中计算IDI，NRI指标 ...

原文链接：http://tecdat.cn/?p=23085 简介本文对构造方程模型进行效力剖析。 本文从一些简略的例子开始。其余部分提供了一些对于统计背景的阐明，各种效应大小的定义，以及本包所含函数的详细描述。 背景介绍数学模型的统计评估通常是通过思考测试统计量来进行的，测试统计量示意察看数据和拟合模型的数据之间的差别。在SEM中，大小为N的样本的相干测试统计量由T = F(N - 1)给出。F示意所选差别函数（如最大似然）的最小化样本值，从而表明模型与样本数据的不匹配。因而，T容许对模型正确的无效假设（H0）进行似然比测验。如果假如的模型在总体中成立，能够证实T在渐进上遵循核心 2（df）散布，df=.5-p（p+1）-q自由度，其中p是体现变量的数量，q示意自在参数的数量。这就是为什么T常常被称为 "卡方模型测验统计量"。 给出一个卡方测验统计量的察看值，能够进行一个无效假设的显著性测验。通常的测验过程如下。给定一个特定的-误差程度（通常是=0.05），从渐近核心 2（df）散布中失去一个临界卡方值。如果卡方测验统计量的察看值超过临界值，则回绝模型合乎数据的无效假设。否则，H0被保留。发现察看统计量超过临界值（意味着上尾概率低于指定的程度），就会导致统计学上的判断，即假如和理论人口协方差矩阵之间的差别太大，不能仅仅归因于抽样误差。因而，具备统计学意义的卡方测验统计数字提供了拥护假如模型有效性的证据。 当应用这个框架测试统计假设时，会呈现两种类型的谬误。不正确地回绝一个真正的H0（一个正确的模型）的谬误（或I型谬误）和不正确地保留一个谬误的H0（一个谬误的模型）的谬误（或II型谬误）。 如果H0为假，则卡方测验统计量不再是核心 2（df）散布，而是能够证实遵循非核心 2（df，）散布，具备非核心性参数和期望值df + （MacCallum, Browne, & Sugawara, 1996）。非核心性参数将非核心 2（df，）散布的期望值移到相应核心散布的左边。在确定了与核心 2（df）散布的冀望概率相干的临界值之后，能够通过构建具备肯定非核心性参数的相应非核心 2（df，）散布并取得该散布向右的面积（即。相应地，统计效力是非核心 2（df，）散布在临界值左边的面积（即积分）。个别状况如图1所示。 图1形容了核心（实线） 2（df）和非核心（虚线） 2（df，）散布，df=200，=100。核心散布 2（df）在临界值右侧的面积反映了误差。实线示意临界值为234，对应于=0.05。虚线示意从折衷效力剖析中失去的临界值为244，与=0.018无关。临界值右边的 2（df，）散布区域是-谬误概率（临界值234和244的=0.006和=0.018）。统计效力定义为1-，即临界值左边的非核心 2（df，）散布下的面积。 衡量标准为了定义H0和H1模型之间的差别，能够应用任何基于非核心性的成果测量。 F0F0是最大似然拟合函数的总体最小值，定义为 其中是p总体协方差矩阵，是p模型隐含的协方差矩阵，p是观测变量的数量。如果模型是正确的，=，F0=0。否则，F0>0，数值越大，示意模型与数据的差别越大（不匹配）。  RMSEA近似根均方误差（RMSEA；Browne & Cudeck, 1992；Steiger & Lind, 1980）通过模型的自由度来掂量F0。 使RMSEA以零为界，较低的值示意较好的拟合。隐含的F0是：  用RMSEA来定义一个效应须要阐明自由度。 McMc（McDonald，1989）是F0在0-1区间上的变换，数值越大示意越适宜。 GFI拟合指数（GFI；Jöreskog & Sörbom, 1984；Steiger, 1990）在0-1的区间内对F0进行标度，数值越高示意拟合度越好。  因为GFI取决于察看变量的数量（p），在用GFI定义效力时须要提供这个数字。 AGFI调整后的拟合指数（AGFI；Jöreskog & Sörbom，1984；Steiger，1990）对GFI进行了批改，包含对自在参数数量的惩办，由模型的自由度来掂量。 用AGFI来阐明成果，须要同时阐明察看变量的数量（p）和模型的自由度（df）。 不基于非核心性的办法不基于非核心性的拟合指数与F0没有间接的关系，因而不太适宜于效力剖析。然而，如果通过H0和H1协方差矩阵来定义效应，至多能够计算出度量。 SRMR标准化根-均方残差（SRMR）是对（标准化）模型和总体协方差矩阵之间均匀（平方）差值的掂量，因而它的范畴是0到1，数值越小示意拟合度越高。设E0为模型隐含与人群协方差矩阵之间的差值，E0=-，vech示意矢量化变换，Q为维度为.5p(p+1)的对角矩阵，蕴含观测变量i和j的标准差的乘积的逆值，那么，SRMR能够定义为 残差矩阵E0与F0的关系很简单，取决于模型隐含的协方差矩阵，所以SRMR不太适宜用F0来定义效应（基于ML预计）。 CFI比拟拟合指数（CFI）是一个增量指数，示意假如模型（F0H）绝对于空模型（F0N）的不适合比例缩小，空模型被定义为一个将所有协方差束缚为零的模型。在总体中，CFI的范畴是0到1，数值越高示意越适宜。 尽管从CFI取得F0很简略，但这须要晓得F0N，而这是很难先验确定的。 ...

原文链接：http://tecdat.cn/?p=5399原文出处：拓端数据部落公众号介绍对商业周期的剖析须要提取工夫序列的周期性成分，该工夫序列通常也受到诸如潜在趋势或噪声等其余因素的影响。本文介绍了一些在最近的文献中用于从给定序列中提取商业周期的办法。它基于Stock and Watson（1999）在“宏观经济学手册”中对于商业周期的章节。我还介绍了绝对较新的办法，如小波滤波器或教训模式合成。因为这篇文章的重点是在R中实现某些过滤技术，我不会波及数学。相同，我将参考各自的文献。对于这些例子，我应用了理论GDP的季度数据。 names(gdp) <- c("Time","GDP") # 重命名gdp\[,"GDP"\] <- log(gdp\[,"GDP"\]) # 取对数为了直观地理解提取工夫序列的周期性成分意味着什么，请查看下图中随工夫变动的对数理论GDP的倒退状况。 ggplot(gdp,aes(x=Time,y=GDP)) + geom\_line(size=.5) + theme\_classic() 数据有显著的增长趋势，逐步变小。此外，该序列以一种或多或少的惯例形式围绕这一趋势稳定。该序列与趋势的偏差十分小，这种偏差常常产生，但也有相当大的偏差，这种偏差可能会继续几个期间。后者是与商业周期剖析相干的稳定。 工夫趋于消退从一序列中剔除趋势的第一种办法是在工夫变量上回归感兴趣的变量并取得残差。这些在下图中绘制，其中线性趋势被移除。 # 可视化ggplot(dat,aes(x=Time,y=Linearly.Detrended)) + geom\_hline+ geom\_line 这种办法绝对有争议，因为它假如存在一个恒定的线性工夫趋势。正如咱们下面所看到的，鉴于趋势增长率随工夫的稳步降落，这种状况不太可能产生。然而，依然能够假如工夫趋势的不同函数模式，例如增加二次项，解脱趋势。这种办法的另一个毛病是它只能排除趋势，而不能排除噪声，即序列中的十分小的稳定。 差分接下来的办法是采纳一阶差分，因为它通常被教诲以取得安稳的工夫序列。这假如数据是不稳固的。获得一阶差分的结果显示在下图中，其中它也与工夫趋势序列进行比拟。差分数据在零线左近稳定得更多，但它也蕴含很多噪声。 #可视化 g <- melt(dat,,na.rm=TRUE)# 定义绘图函数plotaxis.line=element_line(size=.3,colour="black"), # 设置绘图参数# 绘图plot.cycles(d=g)Hodrick Prescott过滤器Hodrick和Prescott（1981）开发了一种滤波器，它将工夫序列分为趋势，周期和噪声重量。须要工夫序列和平滑参数。下图显示了Hodrick-Prescott滤波器取得的理论GDP的周期性成分值，并将其与线性去趋势序列的值进行了比拟。两个序列的行为看起来十分类似，只是HP序列在零左近稳定较大，而线性去趋势序列依然蕴含趋势的成分。此外，循环HP序列还包含一些相似乐音的成分。 #绘图g <- melt(dat\[,c(1,4,3)\],id.vars="Time",na.rm=TRUE)plot(g)Baxter过滤器Baxter和King（1994,1999）提出了一种滤波器，它能够生成与HP滤波器相似的后果，但它能够剔除下面显示的许多相似噪声的行为。它须要序列，周期数量的上限和下限，假设周期产生（pl和pu），以及平滑因子nfix。文献（参见NBER，Stock和Watson（1999））表明商业周期继续6至32个月。这些值用于指定循环周期的上限和下限。BK滤波器的后果如下图所示。该办法的一个绝对序列的毛病是平滑因子导致在序列的开始和完结时样本的失落。这可能是小样本的问题。 # 绘图dat <- cbind(dat,data.frame( bk))g <- melt(dat\[,c(1,5,4)\], ,na.rm=TRUE) plot(g ) 小波滤波器Yogo（2008）提出应用小波滤波器从工夫序列数据中提取商业周期。这种办法的长处是该性能不仅能够提取序列的趋势，周期和噪声，而且能够更加具体地说明周期产生的周期。然而，因为该办法只能捕捉2的幂的周期性，即2,4,8,16,32等，所以没有齐全的自由度。 R中的办法实现也很简洁，但在应用之前须要一些额定的数据转换。它须要工夫序列的不同版本和合成的深度。 该函数给出了多个序列，必须将它们累积起来cumsum，将它们转换回反映周期性模式的数据。此外，一些序列能够联合应用rowSums。当应该一起剖析继续8到16和16到32个周期的周期时，这很有用，如下图所示。小波滤波器产生与BK滤波器相似的后果，因为循环周期的下限在两者中相等，上限仅相差2。 #绘图 g <- melt(dat\[,c(1,6,5)\],id.vars="Time",na.rm=TRUE)levels(g\[,2\]) <- c("Wavelet","Baxter King")plot.cycles(g,"Wavelet vs. Baxter King")教训模式合成（EMD）基于Huang等人。（1998）Kozic和Sever（2014）提出教训模式合成作为商业周期提取的另一种办法。它须要不同的工夫序列，边界条件和规定，该规定指定迭代过程在哪个点取得了称心的后果并且能够进行。该滤波器办法的后果与HP，BK和小波滤波器相比有所不同。  emd <- as.data.frame(emd(xt=diff(gdp\[,2\]),boundary="wave",stoprule="type2")$imf) g <- melt(dat\[,c(1,7,4)\],id.vars="Time",na.rm=TRUE)  plot.cycles(g,"EMD vs. Hodrick Prescott") 最受欢迎的见解 1.在python中应用lstm和pytorch进行工夫序列预测 2.python中利用长短期记忆模型lstm进行工夫序列预测剖析 3.应用r语言进行工夫序列（arima，指数平滑）剖析 4.r语言多元copula-garch-模型工夫序列预测 5.r语言copulas和金融工夫序列案例 6.应用r语言随机稳定模型sv解决工夫序列中的随机稳定 7.r语言工夫序列tar阈值自回归模型 8.r语言k-shape工夫序列聚类办法对股票价格工夫序列聚类 9.python3用arima模型进行工夫序列预测

原文链接：http://tecdat.cn/?p=23075 这个例子展现了如何用Matlab实现贝叶斯优化，应用分位数误差调整回归树随机森林的超参数。如果你打算应用模型来预测条件量值而不是条件平均值，那么应用分位数误差而不是均匀平方误差来调整模型是适合的。 加载和预处理数据加载数据集。思考建设一个模型，预测一辆汽车的燃油经济性中位数，给定它的加速度、汽缸数、发动机排量、马力、制造商、型号和分量。思考将汽缸数、制造商和型号_年份作为分类变量。  Cylinders = categorical(Cylinders); 指定调整参数思考调整: 森林中的树木的复杂性（深度）。深的树偏向于适度拟合，但浅的树偏向于欠拟合。因而，规定每片叶子的最小观测值数量最多为20。成长树时，在每个节点上要采样的预测器数量。指定从1到所有预测的采样。实现贝叶斯优化的函数，要求你将这些参数作为优化变量对象传递。  optim('minLS',\[1,maxMinLS\],'Type');超参数随机森林是一个2乘1的优化变量对象数组 贝叶斯优化偏向于抉择蕴含很多树的随机森林，因为具备更多学习者的合集更精确。如果可用的计算资源是一个思考因素，并且你偏向于树数较少的合集，那么能够思考将树的数量与其余参数离开调整，或者对含有许多学习者的模型进行惩办。 定义指标函数为贝叶斯优化算法定义一个要优化的指标函数。该函数应： 承受要调整的参数作为输出。应用TreeBagger训练一个随机森林。在TreeBagger调用中，指定要调整的参数并指定返回袋外指数。依据中位数预计袋外分位数误差。返回袋外数据的分位数误差。function Err = RF(X)%训练随机森林并预计袋外的分位数误差% 应用X中的预测数据和params中的参数阐明，训练一个由300棵回归树组成的随机森林，而后依据中位数返回袋外误差。X是一个表，params是一个数组，对应于每个节点的最小叶子大小和预测器数量来采样。randomForest = Tree(300,X);Error(randomForest);应用贝叶斯优化实现目标最小化应用贝叶斯优化法，找到在树的复杂性和每个节点的预测因子数量方面达到最小的、惩办的、袋外分位数误差的模型。 bayes(@(params)oobErrRF,parameters,...); 后果是一个BayesianOptimization对象，其中包含指标函数的最小值和优化的超参数值。 显示察看到的指标函数的最小值和优化的超参数值。 MinObjectivebestHyperpara 应用优化的超参数训练模型应用整个数据集和优化的超参数值训练一个随机森林。  Tree(300,X,'MPG','regression',...);Mdl是为中位数预测优化的TreeBagger对象。你能够通过将Mdl和新数据传递给quantilePredict来预测给定的预测数据的燃油经济性中值。  最受欢迎的见解 1.从决策树模型看员工为什么到职 2.R语言基于树的办法：决策树，随机森林 3.python中应用scikit-learn和pandas决策树 4.机器学习：在SAS中运行随机森林数据分析报告 5.R语言用随机森林和文本开掘进步航空公司客户满意度 6.机器学习助推快时尚精准销售工夫序列 7.用机器学习辨认一直变动的股市情况——隐马尔可夫模型的利用 8.python机器学习：举荐零碎实现（以矩阵合成来协同过滤） 9.python中用pytorch机器学习分类预测银行客户散失

题目起源 AcWing。 题目<p>你玩过“拉灯”游戏吗？</p> $25$ 盏灯排成一个 $5 \times 5$ 的方形。 <p>每一个灯都有一个开关，游戏者能够扭转它的状态。</p> 每一步，游戏者能够扭转某一个灯的状态。 <p>游戏者扭转一个灯的状态会产生连锁反应：和这个灯上下左右相邻的灯也要相应地扭转其状态。</p> 咱们用数字 $1$ 示意一盏开着的灯，用数字 $0$ 示意关着的灯。 <p>上面这种状态</p> 1011101101101111000011011<p>在扭转了最左上角的灯的状态后将变成：</p> 0111111101101111000011011<p>再扭转它正中间的灯后状态将变成：</p> 0111111001110011010011011给定一些游戏的初始状态，编写程序判断游戏者是否可能在 $6$ 步以内使所有的灯都变亮。 <h4>输出格局</h4> 第一行输出正整数 $n$，代表数据中共有 $n$ 个待解决的游戏初始状态。 以下若干行数据分为 $n$ 组，每组数据有 $5$ 行，每行 $5$ 个字符。 <p>每组数据形容了一个游戏的初始状态。</p> <p>各组数据间用一个空行分隔。</p> <h4>输入格局</h4> 一共输入 $n$ 行数据，每行有一个小于等于 $6$ 的整数，它示意对于输出数据中对应的游戏状态起码须要几步能力使所有灯变亮。 对于某一个游戏初始状态，若 $6$ 步以内无奈使所有灯变亮，则输入 $-1$。 <h4>数据范畴</h4> $0 \le n \le 500$<h4>输出样例：</h4> 3001110101110001110101110011101111011111011111111110111111111111111111111111<p>输入样例：</p> 32-1题解首先有三点很重要的性质须要阐明： 如果按哪些灯确定了，那么按这些灯的程序不重要，无论什么程序，后果都是雷同的咱们没有必要按一盏灯两次及以上，因为，按两次，相当于没按，按三次，相当于按两次+一次（也就是一次）因而： 因为按灯的程序不重要，咱们能够先把第一行的灯都按了咱们发现，第一行想按的灯都按过之后，如果想要让第一行全亮，那么我第二行只能有一种按法，就是按第一行不亮的灯的上面的灯（上面是例子）第一行状态 10011 （1代表亮的灯）第二口头作 01100 （1代表按按钮）那么，咱们怎么保障第二行全亮呢？只能用第三行来解决！ 那么，咱们怎么保障最初一行（第五行）全亮呢？没法保障！ 咱们发现，如果第一行按法确定了，那么接下来二三四五行的按法和能不能全亮就确定了。 因而，对于任意一种输出状态，咱们把第一行 32 种按法全副遍历一遍，看看哪些能够全亮（通过检测第五行状态），这些全亮的种有没有操作次数小于等于 6 的。有的话，就返回这个操作数，否则就返回 -1 呗。 ...

原文链接：http://tecdat.cn/?p=2652逻辑回归是拟合回归曲线的办法，当y是分类变量时，y = f（x）。典型的应用这种模型是给定一组预测的X预测Ÿ。预测因子能够是间断的，分类的或两者的混合。 R中的逻辑回归实现R能够很容易地拟合逻辑回归模型。要调用的函数是glm()，拟合过程与线性回归中应用的过程没有太大差异。在这篇文章中，我将拟合一个二元逻辑回归模型并解释每一步。 数据集咱们将钻研泰坦尼克号数据集。 指标是预测生存（如果乘客幸存，则为1，否则为0）基于某些诸如等级，性别，年龄等特色。咱们将应用分类变量和连续变量。 数据清理过程在解决实在数据集时，咱们须要思考到一些数据可能缺失的状况，因而咱们须要为咱们的剖析筹备数据集。作为第一步，咱们应用该函数加载csv数据read.csv()。 使每个缺失值编码为NA。 training.data.raw < - read.csv（'train.csv'，header = T，na.strings = c（“”））当初咱们须要查看缺失的值，查看每个变量的惟一值，应用sapply()函数将函数作为参数传递给数据框的每一列。 PassengerId    Survived      Pclass        Name         Sex           0           0           0           0           0         Age       SibSp       Parch      Ticket        Fare         177           0           0           0           0       Cabin    Embarked         687           2 length(unique(x)))PassengerId    Survived      Pclass        Name         Sex         891           2           3         891           2         Age       SibSp       Parch      Ticket        Fare          89           7           7         681         248       Cabin    Embarked         148           4对缺失值进行可视化解决：能够绘制数据集并显示缺失值： 船舱有太多的缺失值，咱们不应用它。 应用subset()函数咱们对原始数据集进行子集化，只抉择相干列。 data < - subset（training.data.raw，select = c（2,3,5,6,7,8,10,12））当初咱们须要解释其余缺失的值。通过在拟合函数内设置参数来拟合狭义线性模型时，R能够解决它们。有不同的办法能够做到这一点，一种典型的办法是用现有的平均值，中位数或模式代替缺失值。我应用平均值。 data$ Age \[is.na（data $ Age）\] < - mean（data$ Age，na.rm = T）就分类变量而言，应用read.table()或read.csv()默认会将分类变量编码为因子。 为了更好地了解R如何解决分类变量，咱们能够应用contrasts()函数。 在进行拟合过程之前，先清理和格式化数据。这个预处理步骤对于取得模型的良好拟合和更好的预测能力通常是至关重要的。 模型拟合咱们将数据分成两局部：训练和测试集。训练集将用于拟合咱们的模型。 通过应用函数，summary()咱们取得了咱们模型的后果： Deviance Residuals:     Min       1Q   Median       3Q      Max  -2.6064  -0.5954  -0.4254   0.6220   2.4165  Coefficients:             Estimate Std. Error z value Pr(>|z|)    (Intercept)  5.137627   0.594998   8.635  < 2e-16 ***Pclass      -1.087156   0.151168  -7.192 6.40e-13 ***Sexmale     -2.756819   0.212026 -13.002  < 2e-16 ***Age         -0.037267   0.008195  -4.547 5.43e-06 ***SibSp       -0.292920   0.114642  -2.555   0.0106 *  Parch       -0.116576   0.128127  -0.910   0.3629    Fare         0.001528   0.002353   0.649   0.5160    EmbarkedQ   -0.002656   0.400882  -0.007   0.9947    EmbarkedS   -0.318786   0.252960  -1.260   0.2076    \-\-\-Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1解释咱们的逻辑回归模型的后果当初咱们能够剖析拟合并解释模型。 首先，咱们能够看到SibSp，Fare和Embarked没有统计意义。至于统计上显着的变量，性别具备最低的p值，这表明乘客的性别与存活的可能性有很强的关联。预测因子的负系数表明所有其余变量雷同，男性乘客不太可能存活下来。因为男性是虚构变量，因而男性将对数概率升高2.75，而单位年龄减少则将对数概率升高0.037。 当初咱们能够运行anova()模型上的函数来剖析偏差表 Analysis of Deviance TableModel: binomial, link: logitResponse: SurvivedTerms added sequentially (first to last)         Df Deviance Resid. Df Resid. Dev  Pr(>Chi)    NULL                       799    1065.39              Pclass    1   83.607       798     981.79 < 2.2e-16 ***Sex       1  240.014       797     741.77 < 2.2e-16 ***Age       1   17.495       796     724.28 2.881e-05 ***SibSp     1   10.842       795     713.43  0.000992 ***Parch     1    0.863       794     712.57  0.352873    Fare      1    0.994       793     711.58  0.318717    Embarked  2    2.187       791     709.39  0.334990有效偏差(_null_ _deviance_)和残差之间的差别越大越好。通过剖析表格，咱们能够看到每次增加一个变量时呈现偏差的状况。同样，减少Pclass，Sex and Age能够显着缩小残差。这里的大p值示意没有变量的模型或多或少地解释了雷同的变动量。最终你想得到显着缩小的偏差和AIC。 评估模型的预测能力在下面的步骤，咱们简要评估模型的拟合。通过设置参数type='response'，R将以P（y = 1 | X）的模式输入概率。咱们的决策边界将是0.5。如果P（y = 1 | X）> 0.5，则y = 1，否则y = 0。请留神，对于某些利用场景，不同的阈值可能是更好的抉择。  fitting.results < - ifelse（fitted.results> 0.5,1,0）misClasificError < - mean（fitted.results！= test $ Survived测试集上的0.84精度是相当不错的后果。然而，如果您心愿失去更准确的分数，最好运行穿插验证，如k折穿插验证验证。 作为最初一步，咱们将绘制ROC曲线并计算二元分类器典型性能测量的AUC（曲线下面积）。 ROC是通过在各种阈值设置下将真阳性率（TPR）与假阳性率（FPR）作图而产生的曲线，而AUC是ROC曲线下的面积。作为一个教训法令，具备良好预测能力的模型应该靠近于1。 最受欢迎的见解 1.R语言多元Logistic逻辑回归 利用案例 2.面板平滑转移回归(PSTR)剖析案例实现 3.matlab中的偏最小二乘回归（PLSR）和主成分回归（PCR） 4.R语言泊松Poisson回归模型剖析案例 5.R语言回归中的Hosmer-Lemeshow拟合优度测验 6.r语言中对LASSO回归，Ridge岭回归和Elastic Net模型实现 7.在R语言中实现Logistic逻辑回归 8.python用线性回归预测股票价格 9.R语言如何在生存剖析与Cox回归中计算IDI，NRI指标

2021年7月，由掘金发动了“入驻成长礼”颁奖流动。本次流动邀请到出名开发者、服务机构代表等业界人士。 据理解，掘金社区“新入驻创作者礼”次要对曾经积攒了肯定历史文章的跨平台创作者进行激励。对于本次评比，社区联合网络投票进行综合评审，通过不同的奖项，对各个创作者对实现赋能技术世界将来倒退的致力进行表彰，共创行业美妙蓝图。  拓端tecdat荣获掘金颁发的“2021受欢迎入驻新人”奖，拓端（http://tecdat.cn）数据成立之初就定位为提供业余的数据分析与数据挖掘服务的解决方案提供商，致力于充沛开掘数据的价值，从而为商业活动以及社会提高做出奉献。通过一直地实际和翻新，已造成由数据挖掘、DT征询，及联合了这二者的解决方案业务模块所组成的业务架构，并由此组成了一个业余互补、教训共享、合作高效的数据挖掘应用服务团队。  掘金是一个帮忙开发者成长的社区，是给开发者用的 Hacker News，给设计师用的 Designer News，和给产品经理用的 Medium。掘金的技术文章由稀土上汇集的技术大牛和极客独特编辑为你筛选出最优质的干货，其中包含：Android、iOS、前端、后端等方面的内容。用户每天都能够在这里找到技术世界的头条内容。与此同时，掘金内还有沸点、掘金翻译打算、线下流动、专栏文章等内容。 喜获“掘金社区入驻新人奖”的荣誉对拓端数据来说是极大的鼓励，一方面必定了拓端数据多年来在数据研发翻新方面的成绩，激励其持续寻求时机，在翻新守业的路线上一直将企业做大做强;另一方面也展示了拓端数据在科技翻新畛域的整体实力、技术服务水平和规范化治理又迈上了一个新的台阶。今后， 拓端数据 将持续秉承“坚守承诺，单干共赢”的指导思想，遵循“数据以人为本”的立业愿景，放慢相干产业翻新降级，助力企业价值晋升，继续一直地为用户提供翻新产品，翻新服务。 微前端架构的倒退方兴未艾，架构在前端畛域也变得更简单，利用的畛域也更加的广大，拓端tecdat期待有在这方向持续深刻并多多奉献相干内容！

摘要：单纯型算法是求解线性规划问题（LP）的一个经典算法，在单纯型算法中最耗时的模块是计算矩阵的逆矩阵的算法。网络单纯形算法是单纯形算法的一个非凡版本，它应用生成树基来更无效地解决具备纯网络模式的线性规划问题。本文分享自华为云社区《网络单纯型算法简介》，原文作者：云小凡 。 前言单纯型算法是求解线性规划问题（LP）的一个经典算法，在单纯型算法中最耗时的模块是计算矩阵的逆矩阵的算法。网络单纯形算法是单纯形算法的一个非凡版本，它应用生成树基来更无效地解决具备纯网络模式的线性规划问题。这样的LP问题能够用有向图上的公式来建模，作为一个最小费用流问题。 网络单纯型是指如下模式的LP问题： 其中，每列只蕴含一个1和一个-1，其余系数都是0。上面是一个例子： 该问题能够看做是最小费用流问题（Minimum cost flow problems）的图模式。图G=（V,E），顶点V示意行（束缚），边E示意列（变量），对于矩阵A中一个列，第i行有个1，第k行有个-1，示意图G中的一条边（i，k）。 对于上述例子，能够用下图示意： 网络流问题满足Hoffman&Gale’s conditions,因而能够确保失去整数解。 关联矩阵：对于图G=（V,E）的关联矩阵A能够示意为： 上例中的关联矩阵能够示意为： 门路： 连通图：图中任意两个顶点都有门路。生成树：图G的一个子图T，蕴含图G中所有顶点。性质：rank(A)=n-1，n是结点个数。 咱们新增一个变量w，A中减少一个列 ，r∈{1,2……n}中任意一个值，w=0，则LP模型为： 其中，r称为根节点(root vertex)，w称为根边（root edge）(going nowhere)对于上述例子，如果抉择根节点 r=2 A 是图G的关联矩阵，T是G的生成树，则(A│e_r )的基B=e_r∪{a_e |e∈T} 单纯型算法： 咱们能够从根节点进行先序遍历，失去y2=0, y1-y2=1, y1-y3=10，即顺次遍历基5，基1，基4伪代码：(递归)solve(Vertex p,Tree S){//p是树S的根节点Vertex v=root(S);if(v==r) y[r]=c[w];else if ((p,v)∈E y[v]=y[p]-c[(p,v)];else y[v]=y[p]+c[(v,p)];solve(v,S.left());solve(v,S.right());} 参考文献：https://www.cs.upc.edu/~erodr... 点击关注，第一工夫理解华为云陈腐技术~

前言近几年实时音视频通信利用呈现出了大暴发的趋势。在这些实时通信技术的背地，有一项不得不提的技术——WebRTC。 往年 1 月，WebRTC 被 W3C 和 IETF 公布为正式规范。据调研机构 GrandViewReseach 的报告显示，预计 2025 年寰球 WebRTC 市场规模将达到 210.23 亿美元，相较 2019 年 23 亿美元的市场规模，5 年的复合年增长率为 43.6％。 本系列内容将和大家一起来探讨，为什么 WebRTC 受到开发者及企业的青眼 ？将来 WebRTC 又将如何倒退？以及声网Agora 是怎么基于 WebRTC 进行二次开发，又将如何反对 WebRTC NV 版本的？ WebRTC能够被看作是一个不须要装置任何插件或者下载任何额定程序就能运行的浏览器原生实时通信伎俩。不同的客户端通过（雷同或不同）浏览器跳转到同一个 URL 就能实现实时互通、看见彼此。但这只是“上帝视角”的说法，其中蕴含的技术框架和实现细节远没那么简略。 基本概念在咱们开始探讨 WebRTC 是如何工作之前，先来理清几个要害的技术概念。 P2P能够实现实时点对点音视频（即多媒体）通信是 WebRTC 最为显著的一个特色。为了通过 Web 浏览器进行通信，要求每个人的 Web 浏览器都须要批准“开始接通”，晓得对方的网络定位，并且还须要绕过网络安全和防火墙爱护并实时传输所有多媒体通信才可能得以实现。 在基于浏览器的对等通信中，如何定位和建设与另一台计算机的 Web 浏览器的网络连接并进行高效数据传输是其最大的挑战之一。 当你想要拜访一个网站时，个别都是间接输出网址或者点击连贯跳转来进行页面查看。在这个过程中，其实是你向通过提供网页（HTML，CSS和JavaScript）进行响应的服务器收回了一个申请。而收回这个拜访申请的要害是你向已知且易于定位的服务器（通过DNS）收回HTTP申请，并取得响应（即网页）。 乍看之下，如同这个问题也没那么难，但咱们举个例子来看看：当初假如我想和共事进行视频沟通。那咱们怎么能力发出请求并理论间接接管到对方的音频和视频数据呢？ 上述场景中呈现的问题就能够通过 P2P（点对点传输）技术来解决，而 WebRTC 自身就是基于点对点（Peer-to-Peer）连贯的，其中的 RTCPeerConnection就是负责建设 P2P 连贯以及传输多媒体数据的 API。 防火墙和 NAT 穿透日常生活中，咱们大都是通过工作或家庭网络进行互联网拜访，这时候咱们的设施通常是在防火墙和网络拜访转换设施（NAT）的前面，因而并没有调配动态的公共 IP 地址。更进一步来看，NAT 设施会将防火墙外部的公有 IP 地址转换为面向公众的IP地址，以确保对可用公共 IP 地址的安全性和 IPv4 限度。 ...

原文链接：http://tecdat.cn/?p=23061数据集信息：这个数据集能够追溯到1988年，由四个数据库组成。克利夫兰、匈牙利、瑞士和长滩。"指标 "字段是指病人是否有心脏病。它的数值为整数，0=无病，1=有病。 指标:次要目标是预测给定的人是否有心脏病，借助于几个因素，如年龄、胆固醇程度、胸痛类型等。 咱们在这个问题上应用的算法是： 二元逻辑回归Naive Bayes算法决策树随机森林数据集的形容:该数据有303个察看值和14个变量。每个察看值都蕴含对于集体的以下信息。 年龄:- 集体的年龄，以年为单位sex:- 性别（1=男性；0=女性）cp - 胸痛类型（1=典型心绞痛；2=非典型心绞痛；3=非心绞痛；4=无症状）。trestbps--静息血压chol - 血清胆固醇，单位：mg/dlfbs - 空腹血糖程度>120 mg/dl（1=真；0=假)restecg - 静息心电图后果（0=失常；1=有ST-T；2=瘦小)thalach - 达到的最大心率exang - 静止诱发的心绞痛（1=是；0=否)oldpeak - 绝对于静止状态，静止诱发的ST压低slope - 静止时ST段峰值的斜率（1=上斜；2=平坦；3=下斜)ca - 次要血管的数量（0-4），由Flourosopy着色地中海贫血症--地中海贫血症是一种遗传性血液疾病，会影响身材产生血红蛋白和红细胞的能力。1=失常；2=固定缺点；3=可逆转缺点指标--预测属性--心脏疾病的诊断（血管造影疾病状态）（值0=<50%直径狭隘；值1=>50%直径狭隘)在Rstudio中加载数据 heart<-read.csv("heart.csv",header = T)header = T意味着给定的数据有本人的题目，或者换句话说，第一个观测值也被思考用于预测。  head(heart) 当咱们想查看和检查数据的前六个观察点时，咱们应用head函数。  tail(heart)  显示的是咱们数据中最初面的六个观察点 colSums(is.na(heart)) 这个函数是用来查看咱们的数据是否蕴含任何NA值。 如果没有发现NA，咱们就能够继续前进，否则咱们就必须在之前删除NA。 查看咱们的数据结构str(heart) 查看咱们的数据摘要 summary(heart) 通过观察以上的总结，咱们能够说以下几点 性别不是连续变量，因为依据咱们的形容，它能够是男性或女性。因而，咱们必须将性别这个变量名称从整数转换为因子。cp不能成为连续变量，因为它是胸痛的类型。因为它是胸痛的类型，咱们必须将变量cp转换为因子。fbs不能是连续变量或整数，因为它显示血糖程度是否低于120mg/dl。restecg是因子，因为它是心电图后果的类型。它不能是整数。所以，咱们要把它转换为因子和标签。依据数据集的形容，exang应该是因子。心绞痛产生或不产生。因而，将该变量转换为因子。斜率不能是整数，因为它是在心电图中察看到的斜率类型。因而，咱们将变量转换为因子。依据数据集的形容，ca不是整数。因而，咱们要将该变量转换为因子。thal不是整数，因为它是地中海贫血的类型。因而，咱们将变量转换为因子。指标是预测变量，通知咱们这个人是否有心脏病。因而，咱们将该变量转换为因子，并为其贴上标签。根据上述思考，咱们对变量做了一些变动 #例如sex<-as.factor(sex)levels(sex)<-c("Female","Male")查看上述变动是否执行胜利 str(heart) summary(heart)   EDAEDA是探索性数据分析（Exploratory Data Analysis）的缩写，它是一种数据分析的办法/哲学，采纳各种技术（次要是图形技术）来深刻理解数据集。 对于图形示意，咱们须要库 "ggplot2" library(ggplot2)ggplot(heart,aes(x=age,fill=target,color=target)) + geom_histogram(binwidth = 1,color="black") + labs(x = "Age",y = "Frequency", title = "Heart Disease w.r.t. Age") 咱们能够得出结论，与60岁以上的人相比，40至60岁的人患心脏病的概率最高。  table <- table(cp)pie(table) 咱们能够得出结论，在所有类型的胸痛中，在集体身上察看到的大多数是典型的胸痛类型，而后是非心绞痛。 执行机器学习算法Logistic回归首先，咱们将数据集分为训练数据（75%）和测试数据（25%）。 set.seed(100) #100用于管制抽样的permutation为100. index<-sample(nrow(heart),0.75*nrow(heart))在训练数据上生成模型，而后用测试数据验证模型。  glm(family = "binomial")# family = " 二项式 "意味着只蕴含两个后果。为了查看咱们的模型是如何生成的，咱们须要计算预测分数和建设混同矩阵来理解模型的准确性。  pred<-fitted(blr)# 拟合只能用于取得生成模型的数据的预测分数。 咱们能够看到，预测的分数是患心脏病的概率。但咱们必须找到一个适当的分界点，从这个分界点能够很容易地区分是否患有心脏病。 为此，咱们须要ROC曲线，这是一个显示分类模型在所有分类阈值下的性能的图形。它将使咱们可能采取适当的临界值。 pred<-prediction(train$pred,train$target)perf<-performance(pred,"tpr","fpr")plot(perf,colorize = T,print.cutoffs.at = seq(0.1,by = 0.1)) 通过应用ROC曲线，咱们能够察看到0.6具备更好的敏感性和特异性，因而咱们抉择0.6作为辨别的分界点。 pred1<-ifelse(pred<0.6,"No","Yes") # 训练数据的准确性acc_tr 从训练数据的混同矩阵中，咱们晓得模型有88.55%的准确性。 当初在测试数据上验证该模型 predict(type = "response")## type = "response "是用来取得患有心脏病的概率的后果。head(test) 咱们晓得，对于训练数据来说，临界点是0.6。同样地，测试数据也会有雷同的临界点。 ...

 原文链接：http://tecdat.cn/?p=6690在最近的一篇文章中，我形容了一个Metropolis-in-Gibbs采样器，用于预计贝叶斯逻辑回归模型的参数。 这篇文章就此问题进行了钻研，以展现Rcpp如何帮忙克服这一瓶颈。  TLDR：只需用C ++编写log-posterior而不是矢量化R函数，咱们就能够大大减少运行工夫。  我模仿了模型的数据： 对于这个剖析，我编写了两个Metropolis-Hastings（MH）采样器：sample\_mh（）和sample\_mh\_cpp（）。前者应用对数后验编码作为向量化R函数。后者应用C ++（log\_post.cpp）中的log-posterior编码，并应用Rcpp编译成R函数。Armadillo库对C ++中的矩阵和向量类很有用。  因而，在每次迭代中，提出了系数向量。上面用红线示意链，示意生成数据的参数值。 burnin <- 1000iter <- 100000p <- ncol(X)cpp(X, Y, iter = iter, jump = .03)par(mfrow=c(2,2))plot(mh_cpp\[\[1\]\]\[burnin:iter,'intercept'\])abline(h= -1, col='red') 仿佛趋同。均匀承受概率在采样运行中收敛到约20％。 那么Rcpp实现与R实现相比如何呢？Rcpp的运行工夫显著较低。当log-posterior被编码为矢量化R函数时，采样器绝对于Rcpp实现运行速度大概慢7倍（样本大小为100）。下图显示了样本大小为100到5000的绝对运行工夫，增量为500。 for(i in 1:length(s){ benchmark(mh(X, Y, iter = iter)  time\[i\] <- time/rcppplot(ss, time) 直观地说，C ++带来了一些效率增益。但很显著，Rcpp是解决代码瓶颈的好办法。 十分感谢您浏览本文，有任何问题请在上面留言！

Assessment TaskIAB303 Data Analyticsfor Business InsightSemester I 2019Assessment 2 – Data Analytics NotebookName Assessment 2 – Data Analytics NotebookDue Sun 28 Apr 11:59pmWeight 30% (indicative weighting)Submit Jupyter Notebook via BlackboardRationale and DescriptionFoundational to addressing business concerns with data analytics is an understanding ofpotential data sources, the kinds of techniques that may be used to process and analysethose data, and an ability to present the final analytics in a way that is meaningful for thestakeholders.This assessment will involve the creation a Jupyter notebook, demonstrating yourunderstanding of the technical process required to address a business concern using dataanalytics.You will use your knowledge from the workshops together with the techniques practiced in thepractical lab sessions, and apply both to a selected business scenario. You will not onlyperform the necessary steps, but also provide an explanation of your decision process.Learning OutcomesA successful completion of this task will demonstrate: ...

须要给double类型的数据开根号要求精度在0.0001之内 public double getSqrtNum(double num){ double left; double right; double mid; if(n<1&&n>0){ left = num; right = 1; } if(n>1){ left = 0; right = num; } mid = (left+right)/2; while(Math.abs(mid*mid-n)>0.0001){ if(mid*mid<n){ left = mid; }else{ right = mid; } mid = (left+right)/2; } return mid;}

原文链接：http://tecdat.cn/?p=23050原文出处：拓端数据部落公众号在本文中，咱们将用R语言对数据进行线性混合效应模型的拟合，而后可视化你的后果。 线性混合效应模型是在有随机效应时应用的，随机效应产生在对随机抽样的单位进行屡次测量时。来自同一天然组的测量后果自身并不是独立的随机样本。因而，这些单位或群体被假设为从一个群体的 "人口 "中随机抽取的。示例状况包含 当你划分并对各局部进行独自试验时（随机组）。当你的抽样设计是嵌套的，如横断面内的四分仪；林地内的横断面；地区内的林地（横断面、林地和地区都是随机组）。当你对相干个体进行测量时（家庭是随机组）。当你反复测量受试者时（受试者是随机组）。混合效应的线性模型在R命令lme4和lmerTest包中实现。另一个抉择是应用nmle包中的lme办法。lme4中用于计算近似自由度的办法比nmle包中的办法更精确一些，特地是在样本量不大的时候。 测量斑块长度这第一个数据集是从Griffith和Sheldon（2001年，《动物行为学》61：987-993）的一篇论文中提取的，他们在两年内对瑞典哥特兰岛上的30只雄性领头鶲的红色额斑进行了测量。该斑块在吸引配偶方面很重要，但其大小每年都有变动。咱们在这里的指标是预计斑块长度（毫米）。 读取和检查数据从文件中读取数据。查看数据的前几行，看是否正确读取。创立一个显示两年钻研中每只飞鸟的测量对图。能够尝试制作点阵图。是否有证据表明不同年份之间存在着测量变异性？构建线性混合效应模型对数据进行线性混合效应模型，将单个鸟类视为随机组。注：对每只鸟的两次测量是在钻研的间断年份进行的。为了简略起见，在模型中不包含年份。在R中把它转换成一个字符或因子，这样它就不会被当作一个数字变量。依照上面步骤（2）和（3）所述，用这个模型从新计算可重复性。重复性的解释如何扭转？从保留的lmer对象中提取参数估计值（系数）。查看随机效应的输入。随机变异的两个起源是什么？固定效应指的是什么？在输入中，查看随机效应的标准差。应该有两个标准差：一个是"（截距）"，一个是 "残差"。这是因为混合效应模型有两个随机变异的起源：鸟类外部反复测量的差别，以及鸟类之间额斑长度的实在差别。这两个起源中的哪一个对应于"（截距）"，哪一个对应于 "残差"？同时查看固定效应后果的输入。模型公式中惟一的固定效应是所有长度测量的平均值。它被称为"（截距）"，但不要与随机效应的截距相混同。固定效应输入给了你平均值的估计值和该估计值的标准误差。留神固定效应输入是如何提供均值估计值的，而随机效应输入则提供方差（或标准差）的估计值。从拟合模型中提取方差重量，预计各年斑块长度的可重复性*。解释上一步中取得的重复性测量后果。如果你失去的重复性小于1.0，那么个体内测量后果之间的变动起源是什么。仅是测量误差吗？产生一个残差与拟合值的图。留神到有什么问题？仿佛有一个轻微的正向趋势。这不是一个谬误，而是最佳线性无偏预测器（BLUPs）"膨胀 "的后果。剖析步骤读取并检查数据。 head(fly) # 点阵图chart(patch ~ bird) # 但显示成对数据的更好办法是用成对的交互图来显示plot(res=patch, x = year) # 优化版本plot(y = patch, x = factor(year), theme_classic) 拟合一个线性混合效应模型。summary()的输入将显示两个随机变异的起源：单个鸟类之间的变异（鸟类截距），以及对同一鸟类进行的反复测量之间的变异（残差）。每个起源都有一个预计的方差和标准差。固定效应只是所有鸟类的平均值--另一个 "截距"。  # 1.混合效应模型# 2. 参数估计summary(z) # 5. 方差重量VarCorr(z) # 可重复性1.11504^2/(1.11504^2 + 0.59833^2)## \[1\] 0.7764342# 7.残差与拟合值的关系图plot(z) 金鱼视觉Cronly-Dillon和Muntz(1965; J. Exp. Biol 42: 481-493)用视静止反馈来测量金鱼的色觉。在这里，咱们将对数据进行拟合，包含测试的全副波长。5条鱼中的每一条都以随机的程序在所有的波长下被测试。敏感度的值大表明鱼能够检测到低的光强度。视静止反馈的一个重要特点是，鱼不习惯，在一个波长下的视觉敏感度的测量不太可能对起初在另一个波长下的测量产生影响。 读取和检查数据读取文件中的数据，并查看前几行以确保读取正确。应用交互图来比拟不同光波长试验下的个体鱼的反馈。应用什么类型的实验设计？*这将决定在拟合数据时应用的线性混合模型。构建线性混合效应模型对数据拟合一个线性混合效应模型。能够用lmer()来实现。发现“畸形拟合”，“boundary (singular) fit: see ?isSingular ”绘制拟合（预测）值**。每条鱼的预测值和察看值之间的差别代表残差。你在（1）中做了什么假如？创立一个残差与拟合值的图，以查看这些假如之一。从保留的lmer对象中提取参数估计值。查看固定效应的后果。给出的系数与应用lm剖析的分类变量的解释雷同。查看随机效应的输入。咱们的混合效应模型中再次出现了两个随机误差的起源。它们是什么？其中哪个对应于输入中的"（截距）"，哪个对应于 "残差"？留神，在这个数据集中，其中一个变动源的预计标准差十分小。这就是畸形拟合信息背地的起因。鱼类之间的方差不太可能真的为零，然而这个数据集十分小，因为抽样误差，可能会呈现低方差预计。生成基于模型的每个波长的均匀敏感度的预计。各个波长之间的差别是否显著？生成lmer对象的方差分析表。这里测试的是什么效应，随机效应还是固定效应？解释方差分析后果。*这是一个 "按试验对象 "的反复测量设计，因为每条鱼在每个试验下被测量一次。它实质上与随机齐全区块设计雷同（把每条鱼看作是 "区块"）。 *可视化是首选，因为数据和拟合值都被绘制进去。请留神鱼与鱼之间的预测值是如许的类似。这表明在这项钻研中，个体鱼之间的预计差别十分小。 *一般来说，在方差分析表中只测试固定效应。应用测试随机效应中没有方差的无效假设是可能的。 剖析步骤读取并检查数据。 x <- read.csv("fish.csv",         stringsAsFactors = FALSE)head(x) 拟合一个线性混合效应模型。 该模型假如所有拟合值的残差为正态分布，方差相等。该办法还假如个体鱼之间的随机截距为正态分布。该办法还假如组（鱼）的随机抽样，对同一鱼的测量之间没有影响。 # # 1. 拟合混合效应模型。## boundary (singular) fit: see ?isSingular # 2. 这就为每条鱼别离绘制了拟合值。vis(z)  # 3.测试假如plot(z) # 4. 提取参数估计值summary(z) # 6.  基于模型的均匀敏感度预计 means(z) # 7. ANOVA方差分析 蓍草酚类物质的浓度我的项目实验性地考察了国家公园的南方森林生态系统中施肥和食草的影响（Krebs, C.J., Boutin, S. & Boonstra, R., eds (2001a) Ecosystem dynamics of the Boreal Forest.Kluane我的项目. 牛津大学出版社，纽约）) ，目前的数据来自于一项对于动物资源和食草动物对底层动物物种防御性化学的影响的钻研。 16个5x5米的小区中的每一个都被随机调配到四个试验之一。1）用栅栏围起来排除食草动物；2）用N-P-K肥料施肥；3）用栅栏和施肥；4）未试验的对照。而后，16块地中的每一块被分成两块。每块地的一侧（随机抉择）在20年的钻研中继续承受试验。每块地的另一半在头十年承受试验，之后让它复原到未试验的状态。这里要剖析的数据记录了欧蓍草（Achillea millefolium）中酚类物质的浓度（对动物进攻化合物的粗略测量），欧蓍草是地块中常见的草本植物。测量单位是每克干重毫克丹宁酸当量。 可视化数据从文件中读取数据。查看前几行的数据。试验是作为一个有四个档次的繁多变量给出的（而不是作为两个变量，围墙和肥料，用2x2因子设计的模型）。持续时间示意半块土地是否承受了整整20年的试验，或者是否在10年后进行试验。变量 "ch "是蓍草中酚类物质的浓度。画一张图来阐明不同试验和持续时间类别中蓍草中的酚类物质的浓度。在每个试验和持续时间程度的组合中没有很多数据点，所以按组画条形图可能比按组画箱形图更好。增加线段来连接成对的点。拟合一个线性混合效应模型应用的是什么类型的实验设计？*这将决定对数据的线性混合模型的拟合。在没有试验和持续时间之间的交互作用的状况下，对数据进行线性混合模型拟合。应用酚类物质的对数作为因变量，因为对数转换改善了数据与线性模型假如的拟合。可视化模型对数据的拟合。按持续时间（如果xvar是试验）或试验（如果xvar是持续时间）离开面板。visreg()不会保留配对，但会容许你查看残差。当初反复模型拟合，但这次包含试验和持续时间之间的相互作用。将模型与数据的拟合状况可视化。两个模型拟合之间最显著的区别是什么，一个有交互作用，另一个没有？形容包含交互项的模型 "容许 "什么，而没有交互项的模型则不容许。判断，哪个模型最适宜数据？应用诊断图查看包含交互项的模型的线性混合模型的一个要害假如。应用拟合模型对象预计线性模型的参数（包含交互作用）。请留神，当初固定效应表中有许多系数。在上一步的输入中，你会看到 "随机效应 "标签下的 "Std.Dev "的两个数量。解释一下这些数量指的是什么。来预计所有固定效应组合的模型拟合平均值。生成固定效应的方差分析表。哪些项在统计学上是显著的？默认状况下，lmerTest将应用Type 3的平方和来测试模型项，而不是按程序（Type 1）。用类型1来反复方差分析表。后果有什么不同吗？***试验采纳了分块设计，即整个块被随机调配到不同的试验，而后将第二种试验（持续时间）的不同程度调配到块的一半。 ...

疾速排序疾速排序（Quicksort）是对冒泡排序算法的一种改良。 排序流程疾速排序算法通过屡次比拟和替换来实现排序，其排序流程如下： 首先设定一个分界值，通过该分界值将数组分成左右两局部。将大于或等于分界值的数据集中到数组左边，小于分界值的数据集中到数组的右边。此时，右边局部中各元素都小于或等于分界值，而左边局部中各元素都大于或等于分界值。而后，右边和左边的数据能够独立排序。对于左侧的数组数据，又能够取一个分界值，将该局部数据分成左右两局部，同样在右边搁置较小值，左边搁置较大值。右侧的数组数据也能够做相似解决。反复上述过程，能够看出，这是一个递归定义。通过递归将左侧局部排好序后，再递归排好右侧局部的程序。当左、右两个局部各数据排序实现后，整个数组的排序也就实现了。劣势综合能力较强的算法，在大部分状况下体现优异（对近乎排序好的数组排序时，不如插入排序） 疾速排序问题和优化优化1问题：在对近乎排序好的数组进行排序时，效率很差。起因：最后设计时，分界值设定为子数列的第一个元素，在一般数组中，这没什么问题，但对于一个曾经排序好的数组，这就导致排序过程中，简直所有的元素都被分到了左边，这样就不能体现出疾速排序【分治】的成果，这时疾速排序会被进化为O(N2)的算法。优化：分界值用随机的办法选取。尽管最差的状况还是很慢，但最差状况产生的概率曾经升高到靠近于0。优化2问题：在对反复度很高的数组排序时，效率很低。起因：有很多的元素和分界值元素相等时，也会导致一边长一边短的景象，算法也会进化。优化：多加一个指针，把等于分界值的元素汇合在两头，这是两头局部相当于曾经排序好，下一步只对小于和大于分界值的元素进行排序即可。演示动画对惯例数组排序查看慢速演示、代码、测试用例 对近乎排序好的数组排序查看慢速演示、代码、测试用例 对反复度很高的数组排序查看慢速演示、代码、测试用例

Guided Anchoring通过在线生成anchor的形式解决惯例手工预设anchor存在的问题，以及可能依据生成的anchor自适应特色，在嵌入方面提供了两种施行办法，是一个很残缺的解决方案 起源：晓飞的算法工程笔记 公众号论文: Region Proposal by Guided Anchoring 论文地址：https://arxiv.org/abs/1901.03278论文代码：https://github.com/open-mmlab/mmdetectionIntroduction Anchor是许多指标检测算法中一个很重要的机制，但也会带来两个问题： 须要事后设计适合的anchor尺寸和长宽比，如果设计不好，对速度和准确率造成很大影响为了使anchor达到足够的召回率，须要在特色图上铺设大量的anchor，不仅引入大量负样本，还消耗计算量 为此，论文提出Guided Anchoring来依据图片特色在线生成anchor。首先判断指标可能呈现的地位，而后学习不同地位上的指标的形态，可依据图片特色在线学习稠密的候选anchor。然而，在线生成的anchor形态各异，固定的感触域可能不匹配其形态，所以Guided Anchoring依据anchor的形态进行自适应特征提取，而后再进行预测框精调与分类。 Guided Anchoring Guided Anchoring尝试在线学习不同形态的anchor及其地位，失去在特色图上不均匀分布的anchor汇合。指标可用四元组$(x,y,w,h)$示意，其地位和形态可认为是遵从图像$I$的一种散布： 公式1蕴含两局部：1) 给定图片，指标仅存在于某些区域 2) 形态与地位严密相干。 基于公式1，论文设计了图1的anchor生成器(Anchor generation)，蕴含地位预测和形态预测两个分支。给定图片$I$，首先失去特色图$F_I$，地位预测分支依据$F_I$预测该像素为指标地位的概率，形态预测分支则预测像素地位相干的形态，基于两个分支抉择概率高于阈值以及每个地位最合适的anchor，失去最终的anchor汇合。因为汇合中的anchor形态可能差别很大，每个地位须要获取不同大小区域的特色，论文提出特色自适应模块(Feature adaption)，依据anchor形态自适应提取特色。 上述的生成过程是基于单个特色的，网络的整体架构蕴含FPN，所以为每层都装备Guided anchoring模块，模块参数是层间共享的。 Anchor Location Prediction 地位预测分支预测特色图$F_I$的概率图$p(\cdot|F_I)$，每项$p(i,j|F_I)$为该地位是指标核心的概率，对应的输出图片中坐标$((i+\frac{1}{2})s, (j+\frac{1}{2})s)$，$s$为特色图的stride。 在实现时，通过子网$\mathcal{N}_L$进行概率图预测，首先应用$1\times 1$卷积提取骨干网络特色图$F_I$的objectness分数，再通过element-wise sigmoid函数转化概率。更简单的子网能够带来更高的准确率，论文采纳的是准确率和速度最实惠的构造，最初取高于阈值$\epsilon_L$的像素地位，可能保障在高召回的前提下过滤90%的无关区域。 Anchor Shape Prediction 形态预测分支的指标是预测每个地位对应指标的最佳形态$(w,h)$，但因为过大的数值范畴，如果间接预测其具体数字会非常不稳固，所以先进行转化： 形态预测分支输入$dw$和$dh$，依据公式2转换出形态$(w,h)$，$s$为特色图的stride，$\sigma=8$为人工设置的缩放因子。这个非线性转换可将[0, 1000]映射到[-1, 1]，更容易学习。在实现时，通过子网$\mathcal{N}_S$进行形态预测，首先应用$1\times 1$卷积取得两维特色图，别离对应$dw$和$dh$，而后通过公式2进行转换。因为每个地位的anchor都是学习来的，与预设的固定anchor比照，这种学习的anchor召回率更高。 Anchor-Guided Feature Adaptation 惯例的预设anchor办法因为各地位的anchor是一样的，能够对每个地位进行一样的特征提取，而后再调整anchor和预测分类。但Guided Anchoring每个地位的anchor各不一样，现实状况下，较大的anchor须要较大的感触域特色，反之则须要较小的感触域特色，所以论文设计了基于anchor形态的特色自适应模块(anchor-guided feature adaptation component)，依据每个地位的anchor形态转换特色： $f_i$为$i$地位的特色，$(w_i, h_i)$为对应的anchor形态，$\mathcal{N}_T$为$3\times 3$可变形卷积，变形卷积的偏移值由$1\times 1$卷积将地位预测分支输入转换取得，$f^{'}_i$为自适应特色，用于后续的anchor调整以及分类预测，具体见图1。 TrainingJoint objective 网络的整体损失函数由4局部形成，别离是分类损失、回归损失、anchor地位损失以及anchor形态损失： ...

之前群里探讨过一道根底算法题，提到过不止一次了，rand5()产生rand7()，看起来很简略，其实也有不少小心机，也算是一个很乏味且奇妙的题目了。尽管网上也有很多答案，但有的并不够循序渐进，所以写篇文章，理下思路。 原题是这样的，“Given a function which produces a random integer in the range 1 to 5, write a function which produces a random integer in the range 1 to 7.” 题目说的很简略，然而蕴含了一些尽管没说，然而大家都默认的一些根本束缚，即你只能使用rand5这个已知函数和一些简略的运算符，不能引入一些其它函数或封装非凡运算符。但如果你认为它真的简略，那可能你就要栽了。 我想，应该没有呆头呆脑的人会这样实现吧 int rand7(){ return 2+rand5(); }为什么这样不对，因为很简略，这个函数无奈生成1，不符合条件。 那如果这样呢？ int rand7(){ int i; i = rand5() + rand5() + rand5() + rand5() + rand5() + rand5() + rand5(); return i%7 + 1; }看起来如同没问题，利用5跟7的最小公倍数，7个5，再模7，每个数字概率是1/5，不正好就是1-7嘛。实际上，这也是错的。 第4行代码中，将会产生5^7种可能的计算，最终这些可能映射到[7,35]的整数区间中，然而[7,35]区间内整数的产生的概率并不相等。看起来有点懵，咱们换个更简略的例子来阐明下，如果有一个rand3的()函数，3个rand3()能生成[3-9]这个区间的数字，然而[3-9]这个区间的数字是不平均的。 #多个rand函数123123123#生成组合3,4,5,4,5,6,5,6,74,5,6,5,6,7,6,7,85,6,7,6,7,8,7,8,9#每个数字概率3=14=35=66=77=68=39=1其实，略微对数字有点敏感的人也能立马判断进去，2+4=6，4+2=6，显然两头的数字有多种组合，呈现的概率就会更高。这就引申出一个高中数学的概率问题了，“一对夫妇生了两个孩子 ,其中一个是男孩,问另一个是女孩的概率是多少?”。这两个问题实质上是一样的。 那么正确的做法应该是怎么呢？思路还是那个思路，rand7的要害不仅是生成1-7之间的数字，还要保障这个数字是随机的，也就是概率均等。做到概率均等，才算正确。如果这么写呢？ int rand7(){ int vals[5][5] = { {1,2,3,4,5}, {6,7,1,2,3}, {4,5,6,7,1}, {2,3,4,5,6}, {7,0,0,0,0} }; int result = 0; while(result == 0) { int i = rand5(); int j = rand5(); result = vals[i - 1][j - 1]; } return result;}当时构建一个方阵，外面平均地放着1-7这七个数，而后rand5只用来生成坐标，这样对否？咱们来看是否满足以下两束缚：1.生成1-7这七个数。2.1-7呈现的概率均等 ...

原文链接：http://tecdat.cn/?p=12292 原文出处：拓端数据部落公众号预测GDP增长咱们复制了Ghysels（2013）中提供的示例。咱们进行了MIDAS回归剖析，来预测季度GDP增长以及每月非农就业人数的增长。预测公式如下 其中yt是按季度季节性调整后的理论GDP的对数增长，x3t是月度总待业非农业工资的对数增长。 首先，咱们加载数据并执行转换。 R> y <- window(USqgdp, end = c(2011, 2))R> x <- window(USpayems, end = c(2011, 7))R> yg <- diff(log(y)) * 100R> xg <- diff(log(x)) * 100最初两行用于平衡样本大小，样本大小在原始数据中有所不同。咱们只需在数据的结尾和结尾增加其余NA值即可。数据的图形示意如图所示。要指定midas_r函数的模型，咱们以下等效模式重写它： 就像在Ghysels（2013）中一样，咱们将估算样本限度在1985年第一季度到2009年第一季度之间。咱们应用Beta多项式，非零Beta和U-MIDAS权重来评估模型。 R> coef(beta0)(Intercept) yy xx1 xx2 xx30.8315274 0.1058910 2.5887103 1.0201202 13.6867809R> coef(betan)(Intercept) yy xx1 xx2 xx3 xx40.93778705 0.06748141 2.26970646 0.98659174 1.49616336 -0.09184983(Intercept) yy xx1 xx2 xx3 xx40.92989757 0.08358393 2.00047205 0.88134597 0.42964662 -0.17596814xx5 xx6 xx7 xx8 xx90.28351010 1.16285271 -0.53081967 -0.73391876 -1.18732001咱们能够应用2009年第2季度至2011年第2季度蕴含9个季度的样本数据评估这三个模型的预测性能。 R> fulldata <- list(xx = window(nx, start = c(1985, 1), end = c(2011, 6)),+ yy = window(ny, start = c(1985, 1), end = c(2011, 2)))R> insample <- 1:length(yy)R> outsample <- (1:length(fulldata$yy))\[-insample\]R> avgf <- average_forecast(list(beta0, betan, um), data = fulldata,+ insample = insample, outsample = outsample)R> sqrt(avgf$accuracy$individual$MSE.out.of.sample)\[1\] 0.5361953 0.4766972 0.4457144 咱们看到，MIDAS回归模型提供了最佳的样本外RMSE。 预测理论稳定作为另一个演示，咱们应用midasr来预测每日实现的稳定率。Corsi（2009）提出了一个简略的预测每日理论稳定率的模型。实现稳定率的异质自回归模型（HAR-RV）定义为   咱们假如一周有5天，一个月有4周。该模型是MIDAS回归的特例：   为了进行教训论证，咱们应用了由Heber，Lunde，Shephard和Sheppard（2009）提供的对于股票指数的已实现稳定数据。咱们基于5分钟的收益数据估算S＆P500指数的年度实现稳定率模型。  Parameters:Estimate Std. Error t value Pr(>|t|)(Intercept) 0.83041 0.36437 2.279 0.022726 *rv1 0.34066 0.04463 7.633 2.95e-14 ***rv2 0.41135 0.06932 5.934 3.25e-09 ***rv3 0.19317 0.05081 3.802 0.000146 ***\-\-\-Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1Residual standard error: 5.563 on 3435 degrees of freedom 为了进行比拟，咱们还应用归一化指数Almon权重来预计模型  Parameters:Estimate Std. Error t value Pr(>|t|)(Intercept) 0.837660 0.377536 2.219 0.0266 *rv1 0.944719 0.027748 34.046 < 2e-16 ***rv2 -0.768296 0.096120 -7.993 1.78e-15 ***rv3 0.029084 0.005604 5.190 2.23e-07 ***\-\-\-Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1Residual standard error: 5.535 on 3435 degrees of freedom咱们能够应用异方差性和自相干鲁棒权重标准测验hAhr_test来测验这些限度中哪些与数据兼容。  hAh restriction test (robust version)data:hAhr = 28.074, df = 17, p-value = 0.04408 hAh restriction test (robust version)data:hAhr = 19.271, df = 17, p-value = 0.3132咱们能够看到，与MIDAS回归模型中的HAR-RV隐含束缚无关的零假如在0.05的显着性程度上被回绝，而指数Almon滞后束缚的零假如则不能被回绝。  图阐明了拟合的MIDAS回归系数和U-MIDAS回归系数及其相应的95％置信区间。对于指数Almon滞后指标，咱们能够通过AIC或BIC抉择滞后次数。 咱们应用了两种优化办法来进步收敛性。将测试函数利用于每个候选模型。函数hAhr_test须要大量的计算工夫，尤其是对于滞后阶数较大的模型，因而咱们仅在第二步进行计算，并且限度了滞后 restriction test 的抉择。AIC抉择模型有9阶滞后：  Selected model with AIC = 21551.97Based on restricted MIDAS regression modelThe p-value for the null hypothesis of the test hAhr_test is 0.5531733 Parameters:Estimate Std. Error t value Pr(>|t|)(Intercept) 0.96102 0.36944 2.601 0.00933 **rv1 0.93707 0.02729 34.337 < 2e-16 ***rv2 -1.19233 0.19288 -6.182 7.08e-10 ***rv3 0.09657 0.02190 4.411 1.06e-05 ***\-\-\-Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1Residual standard error: 5.524 on 3440 degrees of freedomhAh_test的HAC再次无奈回绝指数Almon滞后的原假如。咱们能够应用具备1000个观测值窗口的滚动预测来钻研两个模型的预测性能。为了进行比拟，咱们还计算了无限度AR（20）模型的预测。  Model MSE.out.of.sample MAPE.out.of.sample1 rv ~  (rv, 1:20, 1) 10.82516 26.602012 rv ~  (rv, 1:20, 1, harstep) 10.45842 25.930133 rv ~  (rv, 1:9, 1, nealmon) 10.34797 25.90268MASE.out.of.sample MSE.in.sample MAPE.in.sample MASE.in.sample1 0.8199566 28.61602 21.56704 0.83338582 0.8019687 29.24989 21.59220 0.83673773 0.7945121 29.08284 21.81484 0.8401646咱们看到指数Almon滞后模型略优于HAR-RV模型，并且两个模型均优于AR（20）模型。 参考文献Andreou E，Ghysels E，Kourtellos A（2010）。“具备混合采样频率的回归模型。” 计量经济学杂志，158，246–261。doi：10.1016 / j.jeconom.2010.01。004。 Andreou E，Ghysels E，Kourtellos A（2011）。“混合频率数据的预测。” 在MP Clements中，DF Hendry（编），《牛津经济预测手册》，第225–245页。 

抉择排序抉择排序（Selection sort）是一种简略直观的排序算法。它的工作原理是：第一次从待排序的数据元素中选出最小（或最大）的一个元素，寄存在序列的起始地位，而后再从残余的未排序元素中寻找到最小（大）元素，而后放到已排序的序列的开端。以此类推，直到全副待排序的数据元素的个数为零。 劣势emmm... ，除了比冒泡排序强一点之外，如同没什么劣势 演示动画对惯例数组排序查看慢速演示、代码、测试用例 对近乎排序好的数组排序查看慢速演示、代码、测试用例

插入排序插入排序，个别也被称为间接插入排序。对于大量元素的排序，它是一个无效的算法。插入排序是一种最简略的排序办法，它的根本思维是将一个记录插入到曾经排好序的有序表中，从而一个新的、记录数增1的有序表。在其实现过程应用双层循环，外层循环对除了第一个元素之外的所有元素，内层循环对以后元素后面有序表进行待插入地位查找，并进行挪动。 根本思维插入排序的工作形式像许多人排序一手扑克牌。开始时，咱们的左手为空并且桌子上的牌面向下。而后，咱们每次从桌子上拿走一张牌并将它插入左手中正确的地位。为了找到一张牌的正确地位，咱们从右到左将它与已在手中的每张牌进行比拟。拿在左手上的牌总是排序好的，原来这些牌是桌子上牌堆中顶部的牌 。插入排序是指在待排序的元素中，假如后面n-1(其中n>=2)个数曾经是排好程序的，现将第n个数插到后面曾经排好的序列中，而后找到适合本人的地位，使得插入第n个数的这个序列也是排好程序的。依照此法对所有元素进行插入，直到整个序列排为有序的过程，称为插入排序。 演示动画查看慢动作

作为与FCOS和FSAF同期的Anchor-free论文，FoveaBox在整体构造上也是基于DenseBox加FPN的策略，次要差异在于FoveaBox只应用指标核心区域进行预测且回归预测的是归一化后的偏移值，还有依据指标尺寸抉择FPN的多层进行训练，大家能够学习下 起源：晓飞的算法工程笔记 公众号论文: FoveaBox: Beyound Anchor-Based Object Detection 论文地址：https://arxiv.org/abs/1904.03797论文代码：https://github.com/taokong/FoveaBoxIntroduction 论文认为anchor的应用不肯定是最优的搜寻指标的形式，且受人眼视网膜地方凹(fovea)的启发：视觉区域的中部有最高的视觉敏锐度，所以提出了anchor-free指标检测办法FoveaBox。 FoveaBox联结预测每个无效地位为指标核心的可能性及其对应指标的尺寸，输入类别置信度以及用以转化指标区域的尺寸信息。如果大家看过很多Anchor-free的检测计划，可能感觉论文的实现计划很常见，确实，其实这篇文章也是Anchor-free井喷初期的作品，整体思路很纯正，也是很多大佬都想到的思路，在浏览时须要关注以下细节： 以指标的核心区域进行分类预测与回归预测将回归预测的是归一化后的偏移值训练时可指定FPN多层同时训练提出特色对齐模块，应用回归的输入来调整分类的输出特色FoveaBox Object Occurrence Possibility 给定GT指标框$(x_1, y_1, x_2, y_2)$，将其映射到特色金字塔层$P_l$： $s_l$为特色层绝对于输出的stride，正样本区域$R^{pos}$为大抵为映射框的放大版本： $\sigma$为人为设定缩放因子。在训练阶段，正样本区域内的特色点标记为对应的指标类别，其余的区域为负样本区域，特色金字塔每层的输入为$C\times H\times W$，$C$为类别总数。 Scale Assignment 网络的指标是预测指标的边界，间接预测是不稳固的，因为指标尺寸的跨度很大。为此，论文将指标尺寸归为多个区间，对应特色金字塔各层，各层负责特定尺寸范畴的预测。给予特色金字塔$P_3$到$P_7$根底尺寸$r_l=2^{l+2}$，则层$l$负责的指标尺寸范畴为： $\eta$为人工设置的参数，用于管制特色金字塔每层的回归尺寸范畴，不在该层尺寸范畴内的训练指标则疏忽。指标可能落到多个层的尺寸范畴内，这时应用多层进行训练，多层训练有以下益处： 邻接的特色金字塔层通常有相似的语义信息，可同时进行优化。大幅减少每层的训练样本数，使得训练过程更稳固。Box Prediction 在预测指标尺寸时，FoveaBox间接计算正样本区域$(x,y)$到指标边界的归一化的偏移值： 公式4先将特色金字塔层的像素映射回输出图片，再进行偏移值的计算，训练采纳L1损失函数。 Network Architecture 网络结构如图4所示，骨干网络采纳特色金字塔的模式，每层接一个预测Head，蕴含分类分支和回归分支。论文采纳较简略的Head构造，应用更简单的Head能够取得更好的性能。 Feature Alignment 论文提出了特色对齐的trick，次要是对预测Head进行革新，构造如图7所示， Experiment 与SOTA办法进行比照。 Conclusion 作为与FCOS和FSAF同期的Anchor-free论文，FoveaBox在整体构造上也是基于DenseBox加FPN的策略，次要差异在于FoveaBox只应用指标核心区域进行预测且回归预测的是归一化后的偏移值，还有依据指标尺寸抉择FPN的多层进行训练。因为FoveaBox的整体实现计划太纯正了，与其它Anchor-free办法很像，所以始终投稿到当初才中了，作者也是相当不容易。 如果本文对你有帮忙，麻烦点个赞或在看呗～ 更多内容请关注 微信公众号【晓飞的算法工程笔记】