主要介绍图片的全景拼接,即将两张有重叠区域的图片“拼接”成一张全景图片。其中,利用计算机视觉和图像处理技术:关键点特征检测、局部不变特征、关键特征点匹配、RANSAC(RandomSampleConsensus,随机采样一致性)和透视变形。具体步骤(1)检测左右图像的SIFT关键特征点,提取局部不变特征;(2)使用knnMatch从右图(左图)中检测SIFT特征,并与左图(右图)进行匹配;(3)计算透视变换矩阵H,利用变换矩阵H对右图进行畸变;(4)将左图(右图)与变换后的图像左(右)相加,得到最终图像;code:importcv2ascv#导入opencvpackageimportnumpyasnp#导入numpy包,图像处理中需要用到矩阵运算#检测图像的SIFT关键特征点defsift_keypoints_detect(image):#处理图像一般很少用到颜色信息,通常直接将图像转换为灰度mapgray_image=cv.cvtColor(image,cv.COLOR_BGR2GRAY)#获取图像特征sift-SIFT特征点,实例化物体siftsift=cv.xfeatures2d.SIFT_create()#keypoints:特征点向量,向量中每个元素为AKeyPoint对象,包含了特征点的各种属性信息(角度,关键特征点坐标等)#features:表示输出的sift特征向量,通常是128维的keypoints,features=sift.detectAndCompute(image,None)#cv.drawKeyPoints():在图像的关键特征点画一个小圆圈#如果传了标志flags=cv.DRAW_MATCHES_FLAGS_DRAW_RICH_KEYPOINTS,就会画一个关键点大小的圆圈anddisplayitsdirection#这个方法还显示了图片的坐标,大小和方向,是最能展示特征的一种绘制方法(features_right,features_left):#创建BFMatcher对象求解匹配bf=cv.BFMatcher()#knnMatch()函数:返回每个特征点最匹配的k个匹配点#features_right为模板图,features_left为匹配图matches=bf.knnMatch(features_right,features_left,k=2)#使用sorted()函数对matches对象进行升序排序(默认)matches=sorted(matches,key=lambdax:x[0].distance/x[1.distance)#x:x[]字母可以随意修改,排序方式是按照方括号[]里面的维度排序,[0]按照第一个维度排序,[2]按照第一个维度排序thirddimension#创建一个列表good来存放匹配点setgood=[]form,ninmatches:#ratio的值越大,匹配的线越密,但是错误的匹配点也越多ratio=0.6ifm.distance4:#得到匹配对的点坐标ptsR=np。float32([keypoints_right[m.queryIdx].ptformingoodMatch]).reshape(-1,1,2)ptsL=np.float32([keypoints_left[m.trainIdx].ptformingoodMatch]).reshape(-1,1,2)#ransacReprojThreshold:将点对视为内点的最大允许重投影误差阈值(仅适用于RANSAC和RHO方法),如果srcPoints和dstPoints以像素为单位,该参数通常设置在1到10的范围ransacReprojThreshold=4#cv.findHomography():计算多个二维点对之间的最优单图变换矩阵H(3行x3列),使用最小均方误差或RANSAC方法#函数作用:利用基于RANSAC的鲁棒算法选取最优的四组配对点,然后计算变换矩阵H(3*3)返回,使得逆投影误差率达到最小Homography,status=cv.findHomography(ptsR,ptsL,cv.RANSAC,ransacReprojThreshold)#cv.warpPerspective():透视变换函数,用于解决cv2.warpAffine()无法处理视野和图像不平行的问题#Function:是坚持对图像进行变换可以保持直线不失真,但平行线可能不再平行Panorama=cv.warpPerspective(image_right,Homography,(image_right.shape[1]+image_left.shape[1],image_right.shape[0]))简历。imshow("畸变变换后的右图",Panorama)cv.waitKey(0)cv.destroyAllWindows()#将左图添加到变换后的右图左端得到最终图像Panorama[0:image_left.shape[0],0:image_left.shape[1]]=image_left#返回全景拼接图returnPanoramaif__name__=='__main__':#读取需要拼接的图片,需要注意左右顺序图片右侧image_left=cv.imread("./Left.jpg")image_right=cv.imread("./Right.jpg")#通过调用cv2.resize()并使用插值来改变图片的大小保证左右图片大小一致#cv.resize()函数中的第二个形参dsize表示输出图像的大小。当设置为0(None)时,表示将fx和fy乘以原始图像尺寸得到输出图像尺寸image_right=cv.resize(image_right,None,fx=0.4,fy=0.24)image_left=cv.resize(image_left,(image_right.shape[1],image_right.shape[0]))#检测关键特征点后得到图像的相关参数keypoints_image_right,keypoints_right,features_right=sift_keypoints_detect(image_right)keypoints_image_left,keypoints_left,features_left=sift_keypoints_detect(image_left)#利用np.hstack()函数将原图和有关键特征点的图像沿垂直方向同时叠加(水平顺序)cv.imshow("左图关键特征点检测",np.hstack((image_left,keypoints_image_left)))#一般在imshow之后设置waitKey(0),表示按任意键继续cv.waitKey(0)#删除之前创建的窗口cv.destroyAllWindows()cv.imshow("Keyfeature右图点检测",np.hstack((image_right,keypoints_image_right)))cv.waitKey(0)cv.destroyAllWindows()goodMatch=get_feature_point_ensemble(features_right,features_left)#cv.drawMatches():提取两幅图像后的图像特征后,绘制匹配点对连接#matchColor–匹配color(特征点和连线),如果matchColor==Scalar::all(-1),则颜色随机one,None,None,None,flags=2)cv.imshow("AllmatchingSIFTkeyfeaturepointconnections",all_goodmatch_image)cv.waitKey(0)cv.destroyAllWindows()#将图片拼接成全景图并保存全景图=Panorama_stitching(image_right,image_left)cv.namedWindow("全景",cv.WINDOW_AUTOSIZE)cv.imshow("全景",全景)cv.imwrite("./Panorama.jpg",全景)cv.waitKey(0)cv.destroyAllWindows()检测左图关键特征点和检测右图关键特征点。图像的主要添加在拼接图像的右侧,导致拼接全景图右侧有大量黑色空白区域