重复文件查找三级漏斗:大小分桶、首尾 64KB 快哈希与诚实的「疑似」标注
找出硬盘里的重复文件,直觉做法是「每个文件算一遍哈希再比对」,但一万张照片就是上百 GB 的读取量。正确姿势是三级漏斗:先按字节大小分桶(大小不同必不重复),再对同桶文件只读首尾各 64KB 算快哈希,最后只剩极少数候选做全量 SHA-256。这篇拆每级淘汰率、为什么读首尾两头、以及超过 100MB 的文件为什么诚实标注「疑似」而不装确定。
找出硬盘里的重复文件,直觉做法是「每个文件算一遍哈希再比对」,但一万张照片就是上百 GB 的读取量。正确姿势是三级漏斗:先按字节大小分桶(大小不同必不重复),再对同桶文件只读首尾各 64KB 算快哈希,最后只剩极少数候选做全量 SHA-256。这篇拆每级淘汰率、为什么读首尾两头、以及超过 100MB 的文件为什么诚实标注「疑似」而不装确定。