近期在整理相册的时候，发现相册中有许多重复图片，人工一张张筛查删除太枯燥，便写下这个脚本，用于删除文件夹下重复的图片。
第一部分：判断两张图片是否相同
要查找重复的图片，必然绕不开判断两张图片是否相同。判断两张图片简单呀！图片可以看成数组，比较两个数组是否相等不就行了。但是这样做太过简单粗暴，因为两个数组的每个元素都要一一比较，效率很低。为了尽量避免两个庞大的数组比较：
- 先进行两张图片的大小(byte)比较，若大小不相同，则两张图片不相同；
- 在两张图片的大小相同的前提下，进行两张图片的尺寸(长和宽)比较，若尺寸不相同，则两张不相同；
- 在两张图片的尺寸相同的前提下，进行两张图片的内容(即数组元素)比较，若内容不相同，则图片不相同；
这样，当图片大小或图片尺寸不相同的时候，便认为两张图片不同，可以省去比较数组元素的部分，效率up~
1 import shutil 2 import numpy as np 3 from PIL import Image 4 import os 5
6
7 def 比较图片大小(dir_image1, dir_image2): 8 with open(dir_image1, "rb") as f1: 9 size1 = len(f1.read()) 10 with open(dir_image2, "rb") as f2: 11 size2 = len(f2.read()) 12 if(size1 == size2): 13 result = "大小相同"
14 else: 15 result = "大小不同"
16 return result 17
18
19 def 比较图片尺寸(dir_image1, dir_image2): 20 image1 = Image.open(dir_image1) 21 image2 = Image.open(dir_image2) 22 if(image1.size == image2.size): 23 result = "尺寸相同"
24 else: 25 result = "尺寸不同"
26 return result 27
28
29 def 比较图片内容(dir_image1, dir_image2): 30 image1 = np.array(Image.open(dir_image1)) 31 image2 = np.array(Image.open(dir_image2)) 32 if(np.array_equal(image1, image2)): 33 result = "内容相同"
34 else: 35 result = "内容不同"
36 return result 37
38
39 def 比较两张图片是否相同(dir_image1, dir_image2): 40 # 比较两张图片是否相同
41 # 第一步：比较大小是否相同
42 # 第二步：比较长和宽是否相同
43 # 第三步：比较每个像素是否相同
44 # 如果前一步不相同，则两张图片必不相同
45 result = "两张图不同"
46 大小 = 比较图片大小(dir_image1, dir_image2) 47 if(大小 == "大小相同"): 48 尺寸 = 比较图片尺寸(dir_image1, dir_image2) 49 if(尺寸 == "尺寸相同"): 50 内容 = 比较图片内容(dir_image1, dir_image2) 51 if(内容 == "内容相同"): 52 result = "两张图相同"
53 return result
第二部分：判断文件夹内是否有重复图片
若要判断文件夹内是否有和图片A相同的图片，则需要遍历文件夹内所有图片，挨个判断两个图片是否相同。若文件夹有1000张图片，那么第1张图片需要与剩下的999张图片作比较，第2张图片需要与剩下的998张图片作比较，第3张需要与剩下的997张图片作比较，以此类推。在此程序中的做法是，先对所有图片按图片大小(byte)排序，然后再执行遍历比较。这样做的结果是：重复图片很大概率会连着出现（因为重复图片大小相同）
if __name__ == '__main__': load_path = 'E:\\测试图片集(未去重)' # 要去重的文件夹
save_path = 'E:\\测试图片集(重复照片)' # 空文件夹，用于存储检测到的重复的照片
os.makedirs(save_path, exist_ok=True) # 获取图片列表 file_map，字典{文件路径filename : 文件大小image_size}
file_map = {} image_size = 0 # 遍历filePath下的文件、文件夹（包括子目录）
for parent, dirnames, filenames in os.walk(load_path): # for dirname in dirnames:
# print('parent is %s, dirname is %s' % (parent, dirname))
for filename in filenames: # print('parent is %s, filename is %s' % (parent, filename))
# print('the full name of the file is %s' % os.path.join(parent, filename))
image_size = os.path.getsize(os.path.join(parent, filename)) file_map.setdefault(os.path.join(parent, filename), image_size) # 获取的图片列表按 文件大小image_size 排序
file_map = sorted(file_map.items(), key=lambda d: d[1], reverse=False) file_list = [] for filename, image_size in file_map: file_list.append(filename) # 取出重复的图片
file_repeat = [] for currIndex, filename in enumerate(file_list): dir_image1 = file_list[currIndex] dir_image2 = file_list[currIndex + 1] result = 比较两张图片是否相同(dir_image1, dir_image2) if(result == "两张图相同"): file_repeat.append(file_list[currIndex + 1]) print("\n相同的图片：", file_list[currIndex], file_list[currIndex + 1]) else: print('\n不同的图片：', file_list[currIndex], file_list[currIndex + 1]) currIndex += 1
if currIndex >= len(file_list)-1: break
# 将重复的图片移动到新的文件夹，实现对原文件夹降重
for image in file_repeat: shutil.move(image, save_path) print("正在移除重复照片：", image)
第三部分：程序运行结果
若文件夹下有10张图片A、5张图片B、1张图片C，程序运行结束后，该文件夹下剩余1张图片A、1张图片B、1张图片C；其他的图片移动到 save_path 指定的文件夹下。
第四部分：注意
程序代码可以直接复制使用，需要修改 load_path 和 save_path 参数；
保证 load_path 文件夹都为图片格式（.jpg .png .jpeg）的文件类型，不可以有其他格式的文件（例如.mp4）；请先用资源管理器处理文件夹，大佬直接修改代码读取文件夹下指定类型的文件；