什么是算法的收敛性?请讨论。

MunchCrunch19

在我的例子中，我应用了快速森林分位数回归(分位数回归森林)与随机网格超参数优化。请解释一下这方面提到的算法收敛!谢谢你！

sgenzer

嗨@MunchCrunch19你能分享一下你的过程吗?

MunchCrunch19

@sgenzer在azure机器学习工作室中应用的模型，

varunm1

你好@MunchCrunch19

如果你问的是ML算法的收敛性，那么收敛性就是当算法函数保持在一个设定的误差范围内时，即使你迭代它几次。

简单地说，当模型收敛时，模型误差不会显著减少。

我认为在你的例子中，当你使用超参数的随机搜索时，你的模型会迭代多个参数集在某个点，它会收敛在那个收敛点之后你的模型不会有太大的改进。

MunchCrunch19

@varunm1嗯，这个问题是我在期刊投稿时被审稿人问的，我不知道该怎么回答他/她!拜托，我需要你的意见，
我对提到的模型和超参数调优使用了分层的10倍交叉验证，我对每个超参数调优使用了17次迭代。最后，我对模型进行了交叉验证，让我向您展示每次迭代得到的0.07分位数和0.95分位数和平均分位数的超参数结果和分位数损失。请看附件的图片

varunm1

请解释一下这方面提到的算法收敛!

他/她问的就是这个问题吗?

你能提供他/她的陈述吗?他/她是否要求你证明收敛性?

从算法的角度来看，我对分位数回归算法了解不多，我需要看一看。

我对提到的模型和超参数调优使用了分层的10倍交叉验证，我对每个超参数调优使用了17次迭代。最后，我对模型进行了交叉验证

你是否使用了分层的10倍内部随机参数搜索?你是在交叉验证的训练数据方面使用参数搜索还是在整个数据上使用参数搜索(一些研究人员这样做)?

MunchCrunch19

@varunm1他/她问的确切问题是“请将第4节(方法论)中的建模方法组织为建模或识别算法，并有明确的步骤。”那么这个算法的收敛性呢?请讨论。”


我使用了分层的10FOLD交叉验证，使用随机搜索的超参数调优，在通过超参数(随机搜索)获得最佳参数值后，我将这些值用于模型，并使用10倍交叉验证和交叉验证模型。

请参阅以下照片中的过程，有超参数调整和没有超参数调整。

MunchCrunch19

@varunm1等待您在这方面的意见!

sgenzer

嗨@MunchCrunch19这些截图看起来不像RapidMiner....