एक ही सामग्री के साथ लेकिन विभिन्न gd5sums के साथ फ़ाइलें जब gzip'd?

Question

मुझे नहीं पता कि ऐसा क्यों हो रहा है, लेकिन मैं कुछ फ़ाइलों को अपलोड करने के Amazon S3बाद md5sumअमेज़ॅन और स्थानीय रूप से दोनों की जांच कर रही फ़ाइलों को हटा देता हूं । लेकिन हाल ही में मुझे यह पता चला कि एक ही सामग्री के बारे में दो अलग-अलग चीजें उत्पन्न हो रही हैंmd5sum

[valter.silva@alog ~]$ ls
renew.log  s3

[valter.silva@alog ~]$ ls s3/
renew.log

[valter.silva@alog ~]$ md5sum renew.log 
d41d8cd98f00b204e9800998ecf8427e  renew.log

[valter.silva@alog ~]$ md5sum s3/renew.log 
d41d8cd98f00b204e9800998ecf8427e  s3/renew.log

[valter.silva@alog ~]$ gzip renew.log 
[valter.silva@alog ~]$ gzip s3/renew.log 

[valter.silva@alog ~]$ md5sum renew.log.gz 
aa1f0ae9a61aac5bcd32b917fbd9324b  renew.log.gz

[valter.silva@alog ~]$ md5sum s3/renew.log.gz 
6ae0e48edb68e9ed938fdfc3894f6c94  s3/renew.log.gz

क्या किसी को पता है कि ऐसा क्यों हो रहा है? या अगर मेरी फाइलें सुसंगत, विश्वसनीय हैं तो मुझे कैसे जांचना चाहिए?

अद्यतन जवाब टिआगो क्रूज़ उत्तर:

[valter.silva@alog ~]$ sha1sum renew.log 
da39a3ee5e6b4b0d3255bfef95601890afd80709  renew.log

[valter.silva@alog ~]$ sha1sum s3/renew.log 
da39a3ee5e6b4b0d3255bfef95601890afd80709  s3/renew.log

[valter.silva@alog ~]$ gzip renew.log 
[valter.silva@alog ~]$ gzip s3/renew.log 

[valter.silva@alog ~]$ sha1sum renew.log.gz 
2d9111d9db71da9fe4de57fbc19c89eb0bd46470  renew.log.gz

[valter.silva@alog ~]$ sha1sum s3/renew.log.gz 
05014ca24d133f1761f9134e8dab52e6e2111010  s3/renew.log.gz

यह एक ही समस्या टिआगो देता है।

Answer 1

RFC 1952 के अनुसार , gzipफ़ाइल हेडर में मूल फ़ाइल (फ़ील्ड ) का संशोधन समय शामिल होता है MTIME। आप सादे पाठ में शीर्ष लेख प्रदर्शित कर सकते हैं ¹⁾ के साथ gzip -lv renew.log.gz:

method  crc     date  time           compressed        uncompressed  ratio uncompressed_name
defla 64263ac7 Jun 21 17:59                 314                 597  52.1% renew.log

इसलिए, यदि आप वास्तव में gzip'd फाइलों की तुलना करना चाहते हैं, तो उन्हें मूल फ़ाइल नाम और टाइम स्टैम्प-n को नहीं बचाने के लिए, विकल्प के साथ संपीड़ित करें ,

gzip -n renew.log s3/renew.log 

और उनके md5sum समान होना चाहिए।

अन्यथा आप उपयोग कर सकते हैं

md5sum <(zcat renew.log.gz) <(zcat s3/renew.log.gz)

विघटित फ़ाइलों के md5sum की गणना करने के लिए।

---

¹⁾ हालांकि, प्रदर्शित समय और दिनांक हेडर से नहीं लिया जाता है, लेकिन वर्तमान मूल्यों का प्रतिनिधित्व करता है; यह फ़ाइल नाम के लिए भी मामला है:

$ gzip renew.log 
$ mv renew.log.gz foo.gz
$ gzip -lv foo.gz -------- uncompressed name is taken from current name ---v
method  crc     date  time           compressed        uncompressed  ratio uncompressed_name
defla 6c721644 Jul 11 22:34                 580                1586  65.7% foo
$ hexdump -C foo.gz | head -n 2
00000000  1f 8b 08 08 f0 16 df 51  00 03 72 65 6e 65 77 2e  |.......Q..renew.|
00000010  6c 6f 67 00 8d 93 dd 6e  9b 30 18 86 8f 89 94 7b  |log....n.0.....{|
                                                             ^^^-------^^^^^
                                                  original filename is stored in the header

Answer 2

आप एक ही फ़ाइल के संपीड़ित संस्करण के समान होने की उम्मीद क्यों करते हैं? सेक प्रोग्राम (gzip) हेडर में कुछ टाइमस्टैम्प शामिल कर सकता है, या कुछ यादृच्छिक एल्गोरिदम का उपयोग कर सकता है।

और बिल्कुल! Gzip हेडर में टाइमस्टैम्प होता है । यदि आप चाहते हैं कि आपकी संपीड़ित फ़ाइलें समान हों, तो आपकी फ़ाइल में समान टाइमस्टैम्प होना चाहिए!

इसलिए, जब आप किसी फ़ाइल की प्रतिलिपि बनाते हैं, तो हमेशा ऐसा करें cp -p file1 file1, न cp file1 file2कि सिर्फ - यह वास्तव में एक बुरी आदत है!

Answer 3

बस '-n' ध्वज के साथ gzip का उपयोग करें:

tiagocruz@stark:~$ gzip -n Yippie-Ki-Yay.mp3 bla/Yippie-Ki-Yay.mp3 

tiagocruz@stark:~$ sha1sum Yippie-Ki-Yay.mp3.gz bla/Yippie-Ki-Yay.mp3.gz 
b44b21c5f414935f1ced1187bfafd989704474a5  Yippie-Ki-Yay.mp3.gz
b44b21c5f414935f1ced1187bfafd989704474a5  bla/Yippie-Ki-Yay.mp3.gz

स्रोत: /unix/31008/why-does-the-gzip-version-of-files-produce-a-different-md5-ccsum

Comments

मैं अपना जवाब टियागो अपडेट करता हूं, सामान्य तौर पर समस्या यही है।

— वाल्टर सिल्वा

'-N' झंडे के साथ प्रयोग करें

— Tiago Cruz

-1, यह उत्तर एक टिप्पणी (या तीन) होना चाहिए

— वह ब्राजील के लड़के

@ ruda.almeida यह एक वैध पर्याप्त उत्तर है क्योंकि यह दिखाने का प्रयास करता है कि परीक्षण कैसे किया जाए, और फिर समस्या को ठीक करें।

— जेम्स मर्ट्ज़

ठीक है, "सब से पहले" का उपयोग करने के लिए 'के साथ gzip' एक टिप्पणी की जानी चाहिए क्योंकि यह सवाल स्पष्ट करने की कोशिश कर रहा है, वास्तव में क्या टिप्पणी के लिए कर रहे हैं। और फिर, दूसरा भाग तकनीकी रूप से सही है, लेकिन यह एक कम गुणवत्ता वाला उत्तर है क्योंकि यह इस बात की व्याख्या नहीं करता है कि क्या समस्या का कारण बनता है और न ही प्रस्तावित सुझाव इसे हल करता है।

— वह ब्राजील के लड़के