走起!我们使用机器学习中的调参过程来练习,共有三种方法可供选择。第一个选项是使用argparse,这是一个流行的Python模块,专用于命令行解析;另一种是读取一个JSON文件,我们可以在其中放置所有超参数;第三种也是鲜为人知的方法是使用YAML文件!好奇,让我们开始吧!先决条件在下面的代码中,我将使用VisualStudioCode,这是一个非常高效的Python集成开发环境。这个工具的美妙之处在于它通过安装扩展支持每一种编程语言,集成了一个终端并允许同时处理大量的Python脚本和Jupyter笔记本。https://www.kaggle.com/datasets/lakshmi25npathi/bike-sharing-dataset使用argparse如上所示,我们有一个标准结构来组织我们的小项目:一个名为data的文件包含我们的数据集文件夹train.py文件选项用于指定超参数的.py文件首先我们可以创建一个文件train.py,我们在其中导入数据,在训练数据上训练模型并在测试集上对其进行评估基本程序:importpandasaspdimportnumpyasnpfromsklearn.ensembleimportRandomForestRegressorfromsklearn。model_selectionimporttrain_test_splitfromsklearn.preprocessingimportStandardScalerfromsklearn.metricsimportmean_squared_error,mean_absolute_errorfromoptionsimporttrain_optionsdf=pd.read_csv('data\hour.csv')print(df.head())opt=train_options()X=df.drop(复制代码['instant','dteday','atemp','casual','registered','cnt'],axis=1).valuesy=df['cnt'].valuesX_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.2)ifopt.normalize==True:scaler=StandardScaler()X=scaler.fit_transform(X)rf=RandomForestRegressor(n_estimators=opt.n_estimators,max_features=opt.max_features,max_depth=opt.max_depth)model=rf.fit(X_train,y_train)y_pred=model.predict(X_test)rmse=np.sqrt(mean_squared_error(y_pred,y_test))mae=mean_absolute_error(y_pred,y_test)print("rmse:",rmse)print("mae:",mae)在代码中,我们还导入了options.py文件中包含的train_options函数。后一个文件是一个Python文件,我们可以从中更改train.py中考虑的超参数:importargparsedeftrain_options():parser=argparse。ArgumentParser()parser.add_argument("--normalize",default=True,type=bool,help='maximumdepth')parser.add_argument("--n_estimators",default=100,type=int,help='number估计量')parser.add_argument("--max_features",default=6,type=int,help='maximumoffeatures',)parser.add_argument("--max_depth",default=5,type=int,help='maximumdepth')opt=parser.parse_args()returnopt在此示例中,我们使用argparse库,它在解析命令行参数时非常流行。首先,我们初始化解析器,然后,我们可以添加我们想要访问的参数。下面是运行代码的例子:pythontrain.py要改变超参数的默认值,有两种方法。第一个选项是在options.py文件中设置不同的默认值。另一种选择是从命令行传递超参数值:pythontrain.py--n_estimators200我们需要指定要更改的超参数的名称和对应的值。pythontrain.py--n_estimators200--max_depth7像以前一样使用JSON文件,我们可以保持类似的文件结构。在这种情况下,我们将options.py文件替换为JSON文件。也就是说,我们要在JSON文件中指定超参数的值,并传递给train.py文件。JSON文件可以作为argparse库的快速且直观的替代品,argparse库利用键值对来存储数据。下面我们创建一个options.json文件,其中包含我们稍后需要传递给其他代码的数据。{"normalize":true,"n_estimators":100,"max_features":6,"max_depth":5}如您所见,它与Python字典非常相似。但与字典不同的是,它包含文本/字符串格式的数据。此外,还有一些语法略有不同的常见数据类型。比如布尔值是false/true,而Python识别False/True。JSON中其他可能的值是数组,用方括号表示为Python列表。在Python中处理JSON数据的美妙之处在于它可以通过load方法转换为Python字典:f=open("options.json","rb")parameters=json.load(f)来访问特定的item,我们只需在方括号中引用它的键:parameters["max_features"],max_depth=parameters["max_depth"],random_state=42)model=rf.fit(X_train,y_train)y_pred=model.predict(X_test)使用YAML文件最后一个选项是使用YAML的潜力。与JSON文件一样,我们将Python代码中的YAML文件作为字典来读取,以访问超参数的值。YAML是一种人类可读的数据表示语言,其中使用双空格字符而不是JSON文件中的括号表示层次结构。下面我们展示options.yaml文件将包含的内容:normalize:Truen_estimators:100max_features:6max_depth:5在train.py中,我们打开options.yaml文件,该文件将始终使用load方法转换为Python字典,这次是Imported来自yaml库:importyamlf=open('options.yaml','rb')parameters=yaml.load(f,Loader=yaml.FullLoader)和之前一样,我们可以使用字典所需的语法来访问super参数的值。最后的想法配置文件编译速度非常快,而argparse需要为我们要添加的每个参数编写一行代码。所以我们应该根据自己的不同情况选择最合适的方式。比如我们需要给参数加上注释,JSON就不适合,因为它不允许注释,而YAML和argparse可能就很适合。
