TensorFlow2.x在构建模型和整体使用上提供了很多便利。那么，tf有什么新功能？使用Keras轻松构建模型；在任何平台上的生产中部署强大的模型；强大的研究实验；通过清理弃用的API简化各个步骤在本文中，我们探索了10个TF2.0函数，它们使TensorFlow的工作更顺畅，减少了代码行并提高了效率，因为这些函数/类属于TensorFlowAPI。1.构建输入管道的tf.dataAPItf.dataAPI提供数据管道和相关操作的函数。我们可以构建管道、映射预处理函数、洗牌或批处理数据集等等。使用tensor构建pipeline>>>dataset=tf.data.Dataset.from_tensor_slices([8,3,0,8,2,1])>>>iter(dataset).next().numpy()8shufflingAnd批处理数据集#Shuffle>>>dataset=tf.data.Dataset.from_tensor_slices([8,3,0,8,2,1]).shuffle(6)>>>iter(dataset).next().numpy()0#Batch>>>dataset=tf.data.Dataset.from_tensor_slices([8,3,0,8,2,1]).batch(2)>>>iter(dataset).next().numpy()array([8,3],dtype=int32)#ShuffleandBatch>>>dataset=tf.data.Dataset.from_tensor_slices([8,3,0,8,2,1]).shuffle(6).batch(2)>>>iter(dataset).next().numpy()array([3,0],dtype=int32)压缩两个数据集>>>dataset0=tf.data.Dataset.from_tensor_slices([8,3,0,8,2,1])>>>dataset1=tf.data.Dataset.from_tensor_slices([1,2,3,4,5,6])>>>dataset=tf.data.Dataset.zip((dataset0,dataset1))>>>iter(dataset).next()(,)映射外部函数definto_2(num):returnnum*2>>>dataset=tf.data.Dataset.from_tensor_slices([8,3,0,8,2,1]).map(into_2)>>>iter(dataset).next().numpy()162.图像数据生成器这是一个tensorflow.kerasAPI的最佳功能之一（在我看来）是图像数据生成器能够在批处理和预处理期间生成数据集切片，以及实时数据扩充。生成器允许直接从目录或数据帧流式传输。关于图像数据生成器中数据增强的一个误解是它向现有数据集添加了更多数据。虽然这是数据增强的实际定义，但在图像数据生成器中，数据集中的图像会在训练过程中的不同步骤动态转换，以便模型可以在未见过的噪声数据上进行训练。train_datagen=ImageDataGenerator(rescale=1./255,shear_range=0.2,zoom_range=0.2,horizo??ntal_flip=True)在这里，所有样本都被重新缩放（用于归一化），而其他参数用于增强。train_generator=train_datagen.flow_from_directory('data/train',target_size=(150,150),batch_size=32,class_mode='binary')我们指定实时数据流的目录，这也可以使用数据帧来完成。train_generator=flow_from_dataframe(dataframe,x_col='filename',y_col='class',class_mode='categorical',batch_size=32)其中x_col参数定义了图像的完整路径，而y_col参数定义了用于分类的标签列。该模型可以直接用发电机供电。虽然需要指定steps_per_epoch参数，但实际上是样本数/batchsize。model.fit(train_generator,validation_data=val_generator,epochs=EPOCHS,steps_per_epoch=(num_samples//batch_size),validation_steps=(num_val_samples//batch_size))3.使用tf.image进行数据扩充，数据扩充是必要的，不足的情况下data的情况下，对数据进行更改并将它们视为单独的数据点是一种使用较少数据进行训练的非常有效的方法。tf.imageAPI具有用于转换图像的工具，稍后可以通过前面讨论的tf.dataAPI将其用于数据增强。flipped=tf.image.flip_left_right(image)visualise(image,flipped)上面代码的输出结果saturated=tf.image.adjust_saturation(image,5)visualise(image,saturated)上面代码的输出结果rotated=tf.图像。rot90(image)visualise(image,rotated)上面代码的输出结果cropped=tf.image.central_crop(image,central_fraction=0.5)visualize(image,cropped)上面代码的输出结果4.TensorFlow数据集pipinstalltensorflow-datasetsThis是一个非常有用的库，因为它是从Tensorflow收集的各个领域转储非常知名的数据集的唯一起点。importtensorflow_datasetsastfdsmnist_data=tfds.load("mnist")mnist_train,mnist_test=mnist_data["train"],mnist_data["test"]assertisinstance(mnist_train,tf.data.Dataset)tensorflow数据集可以在下面的链接中找到：https://www.tensorflow.org/datasets/catalog/overviewaudio,image,imageclassification,objectdetection,structured,summarization,text,translation,video是tfds提供的类型。5.基于预训练模型的迁移学习迁移学习是机器学习的一个新热点。如果一个基线模型已经被其他人训练过，它对我们来说就不再适用和不切实际了。迁移学习解决了这个问题，其中预先训练的模型可以重新用于给定的用例或扩展到不同的用例。TensorFlow提供可轻松扩展到所需用例的基线预训练模型。base_model=tf.keras.applications.MobileNetV2(input_shape=IMG_SHAPE,include_top=False,weights='imagenet')这个base_model可以很容易地用额外的层或不同的模型扩展，例如：model=tf.keras.Sequential([base_model,global_average_layer,prediction_layer])6.EstimatorsEstimators是TensorFlow完整模型的高级表示，专为轻松扩展和异步训练而设计——TensorFlow文档预制Estimators提供了非常高级的模型抽象，因此您可以直接关注for训练模型而不用担心较低级别的复杂性。例如：linear_est=tf.estimator.LinearClassifier(feature_columns=feature_columns)linear_est.train(train_input_fn)result=linear_est.evaluate(eval_input_fn)这表明使用tf.estimator建立和训练估计器非常容易，估计器也可以是定制。TensorFlow有许多预制的估计器，包括LinearRegressor、BoostedTreesClassifier等。您可以前往Tensorflow文档了解完整内容。7.自定义层神经网络以许多层深度网络而闻名，其中层可以是不同类型的。TensorFlow包含许多预定义层（例如Dense、LSTM等）。但对于更复杂的架构，层逻辑要比主层复杂得多。对于此类情况，TensorFlow允许构建自定义层。这可以通过子类化tf.keras.layers.Layer类来完成。classCustomDense(tf.keras.layers.Layer):def__init__(self,num_outputs):super(CustomDense,self).__init__()self.num_outputs=num_outputsdefbuild(self,input_shape):self.kernel=self.add_weight("内核",shape=[int(input_shape[-1]),self.num_outputs])defcall(self,input):returntf.matmul(input,self.kernel)如文档中所述，实现自己层的最佳方法是扩展tf.keras.Layer类并实现：__init__，您可以在其中进行所有与输入无关的初始化。构建，你知道输入张量的形状并可以进行其余的初始化。调用，您可以在其中进行前向计算。虽然内核初始化可以在__init__本身中完成，但最好在构建中进行，否则，您必须在创建的新层的每个实例上显式指定input_shape。8、自定义训练tf.keras序列和模型API，训练模型更简单。但是，大多数时候在训练复杂模型时会使用自定义损失函数。此外，模型训练也可以不同于默认训练（例如，分别将梯度应用于不同的模型组件）。TensorFlow的自动微分有助于以高效的方式计算梯度，这些原语用于定义自定义训练循环。deftrain(模型、输入、输出、学习率):withtf.GradientTape()ast:#ComputingLossesfromModelPredictioncurrent_loss=loss(outputs,model(inputs))#GradientsforTrainableVariableswithObtainedLossesdW,db=t.gradient(current_loss,[model.W,model.b])#ApplyingGradientstoWeightsmodel.W.assign_sub(learning_rate*dW)model.b.assign_sub(learning_rate*db)这个循环可以重复多个时期，根据用例有更多的自定义设置。9.检查点保存TensorFlow模型可以有两种类型：SavedModel：保存模型的完整状态以及所有参数。这与源代码无关。model.save_weights('checkpoint')checkpointcheckpoint捕获模型使用的所有参数的准确值。使用SequentialAPI或ModelAPI构建的模型可以简单地保存为SavedModel格式。但是，对于自定义模型，需要检查点。检查点不包含模型定义的计算的任何描述，因此通常只有在将使用保存的参数值的源代码可用时才有用。保存检查点checkpoint_path="save_path"#DefiningaCheckpointckpt=tf.train.Checkpoint(model=model,optimizer=optimizer)#CreatingaCheckpointManagerObjectckpt_manager=tf.train.CheckpointManager(ckpt,checkpoint_path,max_to_keep=5)#SavingaModelckpt_manager.save点加载TensorFlow工作通过遍历具有命名边的有向图，从加载的对象开始，将变量与检查点值匹配。通过文档ifckpt_manager.latest_checkpoint恢复模型的依赖图：ckpt.restore(ckpt_manager.latest_checkpoint)10.KerasTuner这是TensorFlow中的一个相当新的功能。!pipinstallkeras-tuner超参数调整(Hypertuning)是筛选定义ML模型配置的参数的过程。这些因素是特征工程和预处理后模型性能的决定因素。#model_builderisafunctionthatbuildsamodelandreturnsittuner=kt.Hyperband(model_builder,objective='val_accuracy',max_epochs=10,factor=3,directory='my_dir',project_name='intro_to_kt')除了hyperand，贝叶斯优化和RandomSearch也可以用于调参。tuner.search(img_train,label_train,epochs=10,validation_data=(img_test,label_test),callbacks=[ClearTrainingOutput()])#Gettheoptimalhyperparametersbest_hps=tuner.get_best_hyperparameters(num_trials=1)[0]此外，我们使用最好的超参数训练模型：model=tuner.hypermodel.build(best_hps)model.fit(img_train,label_train,epochs=10,validation_data=(img_test,label_test))11.分布式训练如果你有多个GPU，想传入多个分布式的GPU上的训练循环以优化训练。TensorFlow的各种分布式训练策略可以优化GPU的使用并为您处理GPU上的训练。MirroredStrategy是最常用的策略，它具体是如何工作的呢？所有变量和模型图都复制在副本上。输入在副本之间均匀分布。每个副本计算它接收到的输入的损失和梯度。这些梯度通过对所有副本求和来同步。同步后，对每个副本上的变量副本进行相同的更新。策略=tf.distribute.MirroredStrategy()withstrategy.scope():model=tf.keras.Sequential([tf.keras.layers.Conv2D(32,3,activation='relu',input_shape=(28,28,1)),tf.keras.layers.MaxPooling2D(),tf.keras.layers.Flatten(),tf.keras.layers.Dense(64,activation='relu'),tf.keras.layers.Dense(10)])model.compile(loss="sparse_categorical_crossentropy",optimizer="adam",metrics=['accuracy'])总结说TensorFlow足以构建机器学习中的所有组件。本教程的主要内容是对TensorFlow提供的各种API的介绍，以及如何使用它们的快速操作指南。Git代码地址：https://github.com/rojagtap/tensorflow_tutorials
