图像配准：从SIFT到深度学习 - 图1
图像配准（Image Registration）是计算机视觉中的基本步骤。在本文中，我们首先介绍基于OpenCV的方法，然后介绍深度学习的方法。

什么是图像配准
图像配准就是找到一幅图像像素到另一幅图像像素间的空间映射关系。这些图像可以是不同时间（多时间配准），不同传感器在不同地方拍摄（多模式配准）。这些图像之间的空间关系可以是刚性（rigid）^1（平移和旋转），仿射（affine）^2（例如剪切），单应性^3（homographies）或复杂的大变形模型（complex large deformations models）。
图像配准：从SIFT到深度学习 - 图2
图像配准具有广泛的应用，适用于同一个场景中有多张图像需要进行匹配或叠加。在医学图像领域以及卫星图像分析和光流（optical flow）方面非常普遍。
图像配准：从SIFT到深度学习 - 图3
CT扫描和MRI配准

在本文中，我们将介绍图像配准的几种不同方法。

传统的基于特征的方法
自21世纪初以来，图像配准主要使用基于特征的方法。这些方法有三个步骤：关键点检测和特征描述，特征匹配，图像变换。简单的说，我们选择两个图像中的感兴趣点，将参考图像（reference image）与感测图像（sensed image）中的等价感兴趣点进行关联，然后变换感测图像使两个图像对齐。
图像配准：从SIFT到深度学习 - 图4
基于特征的方法

关键点检测和特征描述
关键点就是感兴趣点，它表示图像中重要或独特的内容（边角，边缘等）。每个关键点由描述符表示，关键点基本特征的特征向量。描述符应该对图像变换（定位，缩放，亮度等）具有鲁棒性。许多算法使用关键点检测和特征描述：

这些算法都可以在OpenCV中轻松使用。在下面的例子中，我们使用了AKAZE的OpenCV实现。其他算法的代码大致相同，只需要修改算法的名称。

  1. import numpy as npimport cv2 as cv
  2. import cv2 as cv
  4. img = cv.imread('image.jpg')
  5. gray= cv.cvtColor(img, cv.COLOR_BGR2GRAY)
  7. akaze = cv.AKAZE_create()
  8. kp, descriptor = akaze.detectAndCompute(gray, None)
  10. img=cv.drawKeypoints(gray, kp, img)
  11. cv.imwrite('keypoints.jpg', img)

图像配准：从SIFT到深度学习 - 图5
图像关键点

更过关于特征提取和描述的文档

特征匹配
一旦在一对图像中识别出关键点，我们就需要将两个图像中对应的关键点进行关联或“匹配”。其中一种方法是BFMatcher.knnMatch()。这个方法计算每对关键点之间的描述符的距离，并返回每个关键点的k个最佳匹配中的最小距离。

然后我们设定比率来保持正确率。实际上，为了使匹配更可靠，匹配的关键点需要比最近的错误匹配更靠近。

  1. import numpy as npimport cv2 as cvimport matplotlib.pyplot as pltimg1 = cv.imread('image1.jpg', cv.IMREAD_GRAYSCALE)img2 = cv.imread('image2.jpg', cv.IMREAD_GRAYSCALE)# 初始化 AKAZE 探测器akaze = cv.AKAZE_create()# 使用 SIFT 查找关键点和描述kp1, des1 = akaze.detectAndCompute(img1, None)kp2, des2 = akaze.detectAndCompute(img2, None)# BFMatcher 默认参数bf = cv.BFMatcher()matches = bf.knnMatch(des1, des2, k=2)# 旋转测试good_matches = []for m,n in matches:    if m.distance < 0.75*n.distance:        good_matches.append([m])# 画匹配点img3 = cv.drawMatchesKnn(img1,kp1,img2,kp2,good_matches,None,flags=cv.DrawMatchesFlags_NOT_DRAW_SINGLE_POINTS)cv.imwrite('matches.jpg', img3)as np
  2. import cv2 as cv
  3. import matplotlib.pyplot as plt
  5. img1 = cv.imread('image1.jpg', cv.IMREAD_GRAYSCALE)
  6. img2 = cv.imread('image2.jpg', cv.IMREAD_GRAYSCALE)
  8. # 初始化 AKAZE 探测器
  9. akaze = cv.AKAZE_create()
  10. # 使用 SIFT 查找关键点和描述
  11. kp1, des1 = akaze.detectAndCompute(img1, None)
  12. kp2, des2 = akaze.detectAndCompute(img2, None)
  14. # BFMatcher 默认参数
  15. bf = cv.BFMatcher()
  16. matches = bf.knnMatch(des1, des2, k=2)
  18. # 旋转测试
  19. good_matches = []
  20. for m,n in matches:
  21.     if m.distance < 0.75*n.distance:
  22.         good_matches.append([m])
  24. # 画匹配点
  25. img3 = cv.drawMatchesKnn(img1,kp1,img2,kp2,good_matches,None,flags=cv.DrawMatchesFlags_NOT_DRAW_SINGLE_POINTS)
  26. cv.imwrite('matches.jpg', img3)

图像配准：从SIFT到深度学习 - 图6
匹配的关键点

OpenCV中有更多关于特征匹配的实现方法

图像变换
在匹配至少四对关键点之后，我们就可以将一个图像转换为另一个图像，称为图像变换^12（image warping）。空间中相同平面的两个图像通过单应性变换^13（Homographies）进行关联。Homographies是具有8个自由参数的几何变换，由3x3矩阵表示图像的整体变换（与局部变换相反）。因此，为了获得变换后的感测图像，需要计算Homographies矩阵。

为了得到最佳的变换，我们需要使用RANSAC算法检测异常值并去除。它内置在OpenCV的findHomography方法中。同时也存在RANSAC算法的替代方案，例如LMEDS：Least-Median鲁棒方法。

  1. # 选择匹配关键点ref_matched_kpts = np.float32([kp1[m[0].queryIdx].pt for m in good_matches]).reshape(-1,1,2)sensed_matched_kpts = np.float32([kp2[m[0].trainIdx].pt for m in good_matches]).reshape(-1,1,2)# 计算 homographyH, status = cv.findHomography(ref_matched_kpts, sensed_matched_kpts, cv.RANSAC,5.0)# 变换warped_image = cv.warpPerspective(img1, H, (img1.shape[1]+img2.shape[1], img1.shape[0]))cv.imwrite('warped.jpg', warped_image)
  2. ref_matched_kpts = np.float32([kp1[m[0].queryIdx].pt for m in good_matches]).reshape(-1,1,2)
  3. sensed_matched_kpts = np.float32([kp2[m[0].trainIdx].pt for m in good_matches]).reshape(-1,1,2)
  5. # 计算 homography
  6. H, status = cv.findHomography(ref_matched_kpts, sensed_matched_kpts, cv.RANSAC,5.0)
  8. # 变换
  9. warped_image = cv.warpPerspective(img1, H, (img1.shape[1]+img2.shape[1], img1.shape[0]))
  11. cv.imwrite('warped.jpg', warped_image)

图像配准：从SIFT到深度学习 - 图7
变换后的图像

OpenCV对这三个步骤进行了综合叙述

深度学习方法
目前大多数关于图像配准的研究涉及深度学习。在过去的几年中，深度学习使计算机视觉任务具有先进的性能，如图像分类，物体检测和分割。

特征提取
深度学习用于图像配准的第一种方式是用于特征提取。卷积神经网络设法获得越来越复杂的图像特征并进行学习。2014年以来，研究人员将这些网络应用于特征提取的步骤，而不是使用SIFT或类似算法。
图像配准：从SIFT到深度学习 - 图8
SIFT和基于深度学习的非刚性配准方法描述符的结果

Homography学习
研究人员利用神经网络直接学习几何变换对齐两幅图像，而不仅仅局限于特征提取。

监督学习

在2016年，DeTone等人发表了 Deep Image Homography Estimation，提出了HomographyNe回归网络，这是一种VGG风格模型，可以学习两幅相关图像的单应性。该算法具有以端到端的方式同时学习单应性和CNN模型参数的优势，不需要前两个阶段的过程！
图像配准：从SIFT到深度学习 - 图9
HomographyNet回归网络
网络产生八个数值作为输出。以监督的方式进行训练，并计算输出和真实单应性之间的欧几里德损失。
图像配准：从SIFT到深度学习 - 图10
Supervised Deep Homography Estimation

与其他有监督方法一样，该单应性估计方法需要有标记数据。虽然很容易获得真实图像的单应性，但在实际数据上要昂贵得多。

无监督学习

基于这个想法，Nguyen等人提出了一种无监督的深度图像单应性估计方法。他们保留了相同结构的CNN，但是使用适合无监督方法的损失函数：不需要人工标签的光度损失（photometric loss）函数。相反，它计算参考图像和感测变换图像之间的相似性。
图像配准：从SIFT到深度学习 - 图11
L1光度损失函数
他们的方法引入了两种新的网络结构：张量直接线性变换和空间变换层。我们可以简单地使用CNN模型输出的单应性参数获得变换后的感测图像，然后我们使用它们来计算光度损失。
图像配准：从SIFT到深度学习 - 图12
Unsupervised Deep Homography Estimation

作者声称，与传统的基于特征的方法相比，这种无监督方法具有相当或更高的准确率和鲁棒性，并且具有更快的执行速度。此外，与有监督方法相比，它具有更好的适应性和性能。

其他方法
强化学习
强化学习方法作为医学应用的常用方法正在得到越来越多的关注。与预定义的优化算法相反，在这种方法中，我们使用训练好的代理进行配准。
图像配准：从SIFT到深度学习 - 图13
强化学习方法的配准可视化

复杂的转换

在当前图像配准研究中占较大比例的是医学影像。通常，由于患者的局部变形（因呼吸，解剖学变化等），两个医学图像之间的变换不能简单地通过单应矩阵描述，这需要更复杂的变换模型，例如由位移矢量场表示微分同胚（diffeomorphisms）。
图像配准：从SIFT到深度学习 - 图14
心脏MRI图像上的变形网格和位移矢量场示例
研究人员开始尝试使用神经网络来估计这些具有许多参数的大变形模型。
图像配准：从SIFT到深度学习 - 图15
来自MNIST两个输入图像的DIRNet示意图

欢迎关注磐创博客资源汇总站：
http://docs.panchuang.net/
欢迎关注PyTorch官方中文教程站：
http://pytorch.panchuang.net/

ref
https://blog.csdn.net/fendouaini/article/details/97588514