संभव समाधान के रूप में आप मेटाडेटा जानकारी के बिना फ़ाइल को असम्पीडित स्ट्रीम ( pcm
, wav
) में बदलने के लिए किसी भी उपकरण का उपयोग कर सकते हैं और फिर उसकी तुलना कर सकते हैं। रूपांतरण के लिए आप अपने पसंद के किसी भी सॉफ़्टवेयर का उपयोग कर सकते हैं ffmpeg
, sox
या avidemux
।
उदाहरण के लिए मैं ffmpeg के साथ ऐसा कैसे करता हूं
मान लें कि मेरे पास विभिन्न मेटाडेटा के साथ 2 उदाहरण हैं:
$ diff Original.mp3 Possible-dup.mp3 ; echo $?
Binary files Original.mp3 and Possible-dup.mp3 differ
ब्रूट बल की तुलना में वे भिन्न हैं।
तब हम सिर्फ शरीर को रूपांतरित और परिवर्तित करते हैं:
$ diff <( ffmpeg -loglevel 8 -i Original.mp3 -map_metadata -1 -f wav - ) <( ffmpeg -loglevel 8 -i Possible-dup.mp3 -map_metadata -1 -f wav - ) ; echo $?
0
कोर्स का ; echo $?
हिस्सा रिटर्न कोड देखने के लिए प्रदर्शन उद्देश्य के लिए है।
एकाधिक फ़ाइलों को संसाधित करना (ट्रैवर्स डाइरेक्टरी)
आप संग्रह में डुप्लिकेट की कोशिश करना चाहते हैं यह calculate चेकसम को लायक है (किसी भी तरह crc
, md5
, sha2
, sha256
) डेटा की और फिर बस वहाँ टकराव पाते हैं।
यद्यपि यह उस प्रश्न के दायरे से बाहर है, मैं कुछ सरल सुझाव सुझाऊंगा कि कैसे निर्देशिका लेखा में फ़ाइलों के डुप्लिकेट को खोजने के लिए केवल यह मेटाडेटा विचार के बिना सामग्री।
- प्रत्येक फ़ाइल में पहले डेटा की हैश की गणना करें (और अगली प्रोसेसिंग के लिए फ़ाइल में रखें):
for file in *.mp3; do printf "%s:%s\n" "$( ffmpeg -loglevel 8 -i "$file" -map_metadata -1 -f wav - | sha256sum | cut -d' ' -f1 )" "$file"; done > mp3data.hashes
फ़ाइल इस तरह दिखाई देगी:
$ cat mp3data.hashes
ad48913a11de29ad4639253f2f06d8480b73d48a5f1d0aaa24271c0ba3998d02:file1.mp3
54320b708cea0771a8cf71fac24196a070836376dd83eedd619f247c2ece7480:file2.mp3
1d8627a21bdbf74cc5c7bc9451f7db264c167f7df4cbad7d8db80bc2f347110f:Original.mp3
8918674499b90ace36bcfb94d0d8ca1bc9f8bb391b166f899779b373905ddbc1:Other-dup.mp3
8918674499b90ace36bcfb94d0d8ca1bc9f8bb391b166f899779b373905ddbc1:Other.mp3
1d8627a21bdbf74cc5c7bc9451f7db264c167f7df4cbad7d8db80bc2f347110f:Possible-dup.mp3
कोई भी RDBMS इस तरह के डेटा को एकत्रित करने और चुनने के लिए बहुत मददगार होगा। लेकिन शुद्ध कमांड-लाइन समाधान जारी रखें जो आप आगे की तरह सरल कदम कर सकते हैं।
डुप्लिकेट हैश को देखें यदि कोई हो (अतिरिक्त कदम यह दिखाता है कि यह कैसे काम करता है, डुप्लिकेट खोजने के लिए आवश्यक नहीं है):
$ count.by.regexp.awk '([0-9a-f]+):' mp3data.hashes
[1:54320b708cea0771a8cf71fac24196a070836376dd83eedd619f247c2ece7480]=1
[1:1d8627a21bdbf74cc5c7bc9451f7db264c167f7df4cbad7d8db80bc2f347110f]=2
[1:ad48913a11de29ad4639253f2f06d8480b73d48a5f1d0aaa24271c0ba3998d02]=1
- और सभी सामग्री द्वारा डुप्लिकेट फ़ाइलों को सूचीबद्ध करने के लिए एक साथ :
$ grep mp3data.hashes -f <( count.by.regexp.awk '([0-9a-f]+):' mp3data.hashes | grep -oP '(?<=\[1:).{64}(?!]=1$)' ) | sort
1d8627a21bdbf74cc5c7bc9451f7db264c167f7df4cbad7d8db80bc2f347110f:Original.mp3
1d8627a21bdbf74cc5c7bc9451f7db264c167f7df4cbad7d8db80bc2f347110f:Possible-dup.mp3
8918674499b90ace36bcfb94d0d8ca1bc9f8bb391b166f899779b373905ddbc1:Other-dup.mp3
8918674499b90ace36bcfb94d0d8ca1bc9f8bb391b166f899779b373905ddbc1:Other.mp3
count.by.regexp.awkawk
regexp पैटर्न को गिनने की सरल स्क्रिप्ट है।