一、双目测距原理推导

image.png
使用三角形相似可以解算出x, y, z

image.png

二、realsense获取三维坐标

realsense有封装好的函数可以获取三维坐标:rs.rs2_deproject_pixel_to_point()

  1. # -*- coding: utf-8 -*-
  2. import pyrealsense2 as rs
  3. import numpy as np
  4. import cv2
  5. import json
  6. pipeline = rs.pipeline() #定义流程pipeline
  7. config = rs.config() #定义配置config
  8. config.enable_stream(rs.stream.depth, 640, 480, rs.format.z16, 30) #配置depth流
  9. config.enable_stream(rs.stream.color, 640, 480, rs.format.bgr8, 30) #配置color流
  10. profile = pipeline.start(config) #流程开始
  11. align_to = rs.stream.color #与color流对齐
  12. align = rs.align(align_to)
  13. def get_aligned_images():
  14. frames = pipeline.wait_for_frames() #等待获取图像帧
  15. aligned_frames = align.process(frames) #获取对齐帧
  16. aligned_depth_frame = aligned_frames.get_depth_frame() #获取对齐帧中的depth帧
  17. color_frame = aligned_frames.get_color_frame() #获取对齐帧中的color帧
  18. ############### 相机参数的获取 #######################
  19. intr = color_frame.profile.as_video_stream_profile().intrinsics #获取相机内参
  20. depth_intrin = aligned_depth_frame.profile.as_video_stream_profile().intrinsics #获取深度参数(像素坐标系转相机坐标系会用到)
  21. camera_parameters = {'fx': intr.fx, 'fy': intr.fy,
  22. 'ppx': intr.ppx, 'ppy': intr.ppy,
  23. 'height': intr.height, 'width': intr.width,
  24. 'depth_scale': profile.get_device().first_depth_sensor().get_depth_scale()
  25. }
  26. # 保存内参到本地
  27. with open('./intr7insics.json', 'w') as fp:
  28. json.dump(camera_parameters, fp)
  29. #######################################################
  30. depth_image = np.asanyarray(aligned_depth_frame.get_data()) #深度图(默认16位)
  31. depth_image_8bit = cv2.convertScaleAbs(depth_image, alpha=0.03) #深度图(8位)
  32. depth_image_3d = np.dstack((depth_image_8bit,depth_image_8bit,depth_image_8bit)) #3通道深度图
  33. color_image = np.asanyarray(color_frame.get_data()) # RGB图
  34. #返回相机内参、深度参数、彩色图、深度图、齐帧中的depth帧
  35. return intr, depth_intrin, color_image, depth_image, aligned_depth_frame
  36. if __name__ == "__main__":
  37. while 1:
  38. intr, depth_intrin, rgb, depth, aligned_depth_frame = get_aligned_images() #获取对齐的图像与相机内参
  39. # 定义需要得到真实三维信息的像素点(x, y),本例程以中心点为例
  40. print("============")
  41. print(aligned_depth_frame)
  42. x = 320
  43. y = 240
  44. dis = aligned_depth_frame.get_distance(x, y) #(x, y)点的真实深度值
  45. print("dis: ", dis)
  46. camera_coordinate = rs.rs2_deproject_pixel_to_point(depth_intrin, [x, y], dis) #(x, y)点在相机坐标系下的真实值,为一个三维向量。其中camera_coordinate[2]仍为dis,camera_coordinate[0]和camera_coordinate[1]为相机坐标系下的xy真实距离。
  47. print(camera_coordinate)
  48. cv2.imshow('RGB image',rgb) #显示彩色图像
  49. key = cv2.waitKey(1)
  50. # Press esc or 'q' to close the image window
  51. if key & 0xFF == ord('q') or key == 27:
  52. pipeline.stop()
  53. break
  54. cv2.destroyAllWindows()