当前位置: 首页 > 科技观察

AI新手必看-参数和超参数还不清楚吗?

时间:2023-03-14 20:19:41 科技观察

计算科学的术语太多,而且很多都没有统一使用。即使是同一个名词,不同学科的人理解起来也应该不同。例如:“模型参数(modelparameter)”和“模型超参数(modelHyperparameter)”。对于初学者来说,这些未定义的术语肯定会造成混淆。特别是对于来自统计或经济学领域的人。让我们仔细看看这些术语。什么是模型参数?模型参数是模型内部的配置变量,其值可以从数据中估计出来。模型在进行预测时需要它们。它们的值定义了可以使用的模型。它们是从数据中估计或学习的。它们通常不是由程序员手动设置的。它们通常保存为学习模型的一部分。参数是机器学习算法的关键。它们通常是从过去的训练数据中总结出来的。在经典的机器学习文献中,我们可以将模型视为假设,将参数视为针对特定数据集量身定制的假设。优化算法是估计模型参数的有效工具。统计:在统计中,您可以假设变量的分布,例如高斯分布。高斯分布的两个参数是均值(μ)和标准差(sigma)。这适用于机器学习,其中可以从数据中估计这些参数并将其用作预测模型的一部分。编程:在编程中,您将参数传递给函数。在这种情况下,参数是一个函数参数,它可能有一个值范围。在机器学习中,您使用的特定模型是一个需要参数才能对新数据进行预测的函数。一个模型的参数数量是固定的还是可变的,决定了它可以称为“参数化”还是“非参数化”。模型参数的一些示例包括:神经网络中的权重。支持向量机中的支持向量。线性回归或逻辑回归中的系数。什么是模型超参数?模型超参数是模型外部的配置,其值无法从数据中估计。它们通常用于帮助估计模型参数。它们通常是手动指定的。它们通常可以使用试探法来设置。它们通常针对给定的预测建模问题进行调整。虽然我们无法知道给定问题的模型超参数的最佳值,但我们可以使用经验法则,在其他问题上使用复制值,或者通过反复试验来搜索最佳值。当针对特定问题调整机器学习算法时(例如,当使用网格搜索或随机搜索时),然后调整模型的超参数或顺序以发现导致最熟练模型的参数预测。“许多模型具有无法直接从数据中估计的重要参数。例如,在K-最近邻分类模型中......因为没有可用于计算适当值的分析公式,所以这种类型的模型参数称为调整参数”-第64-65页,《应用预测模型》,2013如果将模型超参数称为模型参数,存在很多混淆。克服这种混淆的经验法则如下:如果必须手动指定模型参数,则它是可能是模型超参数。模型超参数的一些示例包括:训练神经网络的学习率。支持向量机的C和sigma超参数。K最近邻K。总之,模型参数是根据数据自动估计的。但是模型超参数手动设置并在过程中使用以帮助估计模型参数。模型超参数通常称为参数,因为它们是机器学习的一部分,mus不能手动设置和调整。