使用opencv Python移除图像的背景

Question

我有两个图像，一个只有背景，另一个有背景+可探测的物体（在我的情况下是一辆车）。下面是图片

我正试图删除背景，这样我只有汽车在产生的图像。下面是我试图获得期望结果的代码

import numpy as np
import cv2


original_image = cv2.imread('IMG1.jpg', cv2.IMREAD_COLOR)
gray_original = cv2.cvtColor(original_image, cv2.COLOR_BGR2GRAY)
background_image = cv2.imread('IMG2.jpg', cv2.IMREAD_COLOR)
gray_background = cv2.cvtColor(background_image, cv2.COLOR_BGR2GRAY)

foreground = np.absolute(gray_original - gray_background)
foreground[foreground > 0] = 255

cv2.imshow('Original Image', foreground)
cv2.waitKey(0)

通过减去这两个图像得到的图像是

这就是问题所在。预期的结果图像应该是一辆车而已。 另外，如果你深入观察这两幅图像，你会发现它们并不完全相同，也就是说，相机移动了一点，所以背景受到了一点干扰。我的问题是，有了这两张图片，我如何才能减去背景。我现在不想使用grabCut或backgroundSubtractorMOG算法，因为我现在不知道这些算法内部发生了什么。

我要做的是得到下面的结果图像

如果可能的话，请用一种通用的方法来指导我，不仅在这种情况下，也就是说，我在一个图像中有一个背景，在第二个图像中有一个背景+对象。最好的办法是什么。很抱歉问了这么长的问题。

Answer 1

问题是，您要减去8位整数的数组。此操作可能溢出。

证明

>>> import numpy as np
>>> a = np.array([[10,10]],dtype=np.uint8)
>>> b = np.array([[11,11]],dtype=np.uint8)
>>> a - b
array([[255, 255]], dtype=uint8)

因为您使用的是OpenCV，所以实现目标的最简单方法是使用^{}。

>>> cv2.absdiff(a,b)
array([[1, 1]], dtype=uint8)

Answer 2

我用OpenCV的watershed算法解决了你的问题。你可以找到分水岭的理论和例子。

首先，我选择了几个点（标记）来指定我要保留的对象的位置，以及背景的位置。这个步骤是手动的，并且可以在不同的图像之间变化很大。而且，它需要一些重复，直到你得到想要的结果。我建议使用一个工具来获取像素坐标。 然后我创建了一个由零组成的空整数数组，其中包含汽车图像的大小。然后我给标记位置的像素分配了一些值（1:背景，[255192128,64]：汽车部件）。

注意：当我下载您的图像时，我必须将其裁剪以获得带有汽车的图像。裁剪后的图像大小为400x601。这可能不是图像的大小，所以标记将关闭。

之后我使用分水岭算法。第一个输入是您的图像，第二个输入是标记图像（除标记位置外，其他位置均为零）。结果如下图所示。

我将所有像素的值设置为1到255（汽车），其余的（背景）为零。然后用3x3核对得到的图像进行放大，以避免丢失汽车轮廓的信息。最后，我使用cv2.bitwise_and（）函数将放大的图像用作原始图像的遮罩，结果如下：

这是我的代码：

import cv2
import numpy as np
import matplotlib.pyplot as plt

# Load the image
img = cv2.imread("/path/to/image.png", 3)

# Create a blank image of zeros (same dimension as img)
# It should be grayscale (1 color channel)
marker = np.zeros_like(img[:,:,0]).astype(np.int32)

# This step is manual. The goal is to find the points
# which create the result we want. I suggest using a
# tool to get the pixel coordinates.

# Dictate the background and set the markers to 1
marker[204][95] = 1
marker[240][137] = 1
marker[245][444] = 1
marker[260][427] = 1
marker[257][378] = 1
marker[217][466] = 1

# Dictate the area of interest
# I used different values for each part of the car (for visibility)
marker[235][370] = 255    # car body
marker[135][294] = 64     # rooftop
marker[190][454] = 64     # rear light
marker[167][458] = 64     # rear wing
marker[205][103] = 128    # front bumper

# rear bumper
marker[225][456] = 128
marker[224][461] = 128
marker[216][461] = 128

# front wheel
marker[225][189] = 192
marker[240][147] = 192

# rear wheel
marker[258][409] = 192
marker[257][391] = 192
marker[254][421] = 192

# Now we have set the markers, we use the watershed
# algorithm to generate a marked image
marked = cv2.watershed(img, marker)

# Plot this one. If it does what we want, proceed;
# otherwise edit your markers and repeat
plt.imshow(marked, cmap='gray')
plt.show()

# Make the background black, and what we want to keep white
marked[marked == 1] = 0
marked[marked > 1] = 255

# Use a kernel to dilate the image, to not lose any detail on the outline
# I used a kernel of 3x3 pixels
kernel = np.ones((3,3),np.uint8)
dilation = cv2.dilate(marked.astype(np.float32), kernel, iterations = 1)

# Plot again to check whether the dilation is according to our needs
# If not, repeat by using a smaller/bigger kernel, or more/less iterations
plt.imshow(dilation, cmap='gray')
plt.show()

# Now apply the mask we created on the initial image
final_img = cv2.bitwise_and(img, img, mask=dilation.astype(np.uint8))

# cv2.imread reads the image as BGR, but matplotlib uses RGB
# BGR to RGB so we can plot the image with accurate colors
b, g, r = cv2.split(final_img)
final_img = cv2.merge([r, g, b])

# Plot the final result
plt.imshow(final_img)
plt.show()

如果你有很多图像，你可能需要创建一个工具来以图形方式注释标记，甚至需要一个算法来自动查找标记。

Answer 3

我推荐使用OpenCV的grabcut算法。首先在前景和背景上画几条线，并一直这样做，直到你的前景与背景完全分离。这里包括：https://docs.opencv.org/trunk/d8/d83/tutorial_py_grabcut.html 以及在这个视频中：https://www.youtube.com/watch?v=kAwxLTDDAwU