कैसे रखें: एक सप्ताह के लिए दैनिक बैकअप, एक महीने के लिए साप्ताहिक, एक वर्ष के लिए मासिक और उसके बाद वार्षिक


14

मुझे प्रतिदिन इस सर्वर पर डेटा बैकअप और फ़ाइलों को कॉन्फ़िगर करने की आवश्यकता है। मुझे रखने की आवश्यकता है:

  • एक सप्ताह के लिए दैनिक बैकअप
  • एक महीने के लिए साप्ताहिक बैकअप
  • एक साल के लिए मासिक बैकअप
  • उसके बाद वार्षिक बैकअप

यह सब एक शेल स्क्रिप्ट के माध्यम से पूरा होता है जो क्रोन से रोजाना चलता है।

इस तरह से बैकअप फ़ाइलों को चलाने के 10 साल बाद देखना चाहिए:

blog-20050103.tar.bz2
blog-20060102.tar.bz2
blog-20070101.tar.bz2
blog-20080107.tar.bz2
blog-20090105.tar.bz2
blog-20100104.tar.bz2
blog-20110103.tar.bz2
blog-20120102.tar.bz2
blog-20130107.tar.bz2
blog-20130902.tar.bz2
blog-20131007.tar.bz2
blog-20131104.tar.bz2
blog-20131202.tar.bz2
blog-20140106.tar.bz2
blog-20140203.tar.bz2
blog-20140303.tar.bz2
blog-20140407.tar.bz2
blog-20140505.tar.bz2
blog-20140602.tar.bz2
blog-20140707.tar.bz2
blog-20140728.tar.bz2
blog-20140804.tar.bz2
blog-20140811.tar.bz2
blog-20140816.tar.bz2
blog-20140817.tar.bz2
blog-20140818.tar.bz2
blog-20140819.tar.bz2
blog-20140820.tar.bz2
blog-20140821.tar.bz2
blog-20140822.tar.bz2

9
... मेरा सामान्य सुझाव होगा " बकुला का उपयोग करें " (या कुछ अन्य बैकअप सॉफ़्टवेयर जो आपके लिए अवधारण और रोटेशन को संभाल सकते हैं) :-)
voretaq7

1
इस प्रश्न ने मुझे क्रॉनिकल < github.com/Kraymer/cronicle > लिखा क्योंकि स्वीकृत उत्तर में दैनिक / साप्ताहिक / आदि फ़ोल्डरों में बैकअप डुप्लिकेट करने का स्पष्ट दोष है। क्रॉनिकल, सिमिलिंक पर निर्भर करता है और रोटेशन की देखभाल करता है, अंतर्निहित फ़ाइलों को हटाता है जब कोई फ़ोल्डर में सिमिलिंक इंगित नहीं होता है।
kraymer

जवाबों:


29

आप गंभीरता से इस पर इंजीनियरिंग कर रहे हैं। बुरी तरह।

यहाँ कुछ छद्मकोड हैं:

  • रोज रोज:
    • एक बैकअप बनाओ, dailyनिर्देशिका में डाल दिया
    • सब कुछ हटा दें लेकिन अंतिम 7 dailyबैकअप
  • प्रति सप्ताह:
    • एक बैकअप बनाओ, weeklyनिर्देशिका में डाल दिया
    • सब कुछ लेकिन पिछले 5 weeklyबैकअप हटा दें
  • हर महीने:
    • एक बैकअप बनाओ, monthlyनिर्देशिका में डाल दिया
    • सब कुछ हटा दें लेकिन अंतिम 12 monthlyबैकअप
  • हर साल:
    • एक बैकअप बनाओ, yearlyनिर्देशिका में डाल दिया

आपको जितने तर्क लागू करने हैं, उतने ही हैं, एह? चुम्मा।

यह आसान लग रहा है:

s3cmd ls s3://backup-bucket/daily/ | \
    awk '$1 < "'$(date +%F -d '1 week ago')'" {print $4;}' | \
    xargs --no-run-if-empty s3cmd del

या, उम्र के बजाय फाइल काउंट द्वारा:

s3cmd ls s3://backup-bucket/daily/ | \
    awk '$1 != "DIR"' | \
    sort -r | \
    awk 'NR > 7 {print $4;}' | \
    xargs --no-run-if-empty s3cmd del

मैं वास्तव में अलग निर्देशिका नहीं है। यह एक S3 बाल्टी में फ़ाइलों को डंप करने के लिए लिखा गया था। एक बार जब सब कुछ एक जगह पर होता है, तो आपको जिस तर्क को लागू करने की आवश्यकता होती है, उसकी कुल राशि लगभग एक ही होती है, फिर चाहे आप इसके बारे में कैसे भी हों।
फ्लोरिन आंद्रेई

5
जाहिर है यह नहीं है।
MadHatter

6

यदि आप बस रखना चाहते हैं, उदाहरण के लिए, 8 दैनिक बैकअप और 5 साप्ताहिक (प्रत्येक रविवार) बैकअप, यह इस तरह से काम करता है:

for i in {0..7}; do ((keep[$(date +%Y%m%d -d "-$i day")]++)); done
for i in {0..4}; do ((keep[$(date +%Y%m%d -d "sunday-$((i+1)) week")]++)); done
echo ${!keep[@]}

आज (2014-11-10) के अनुसार, यह आउटपुट होगा:

20141012 20141019 20141026 20141102 20141103 20141104
20141105 20141106 20141107 20141108 20141109 20141110

आपके लिए छोड़े गए अभ्यास के रूप में, आपको बस उन सभी बैकअप फ़ाइलों को हटाना होगा, जिनके नाम keep-Rray में दिखाई नहीं देते हैं ।

अगर आप 13 मासिक बैकअप (हर महीने का पहला रविवार) और 6 वार्षिक बैकअप (हर साल का पहला रविवार) रखना चाहते हैं, तो चीजें थोड़ी और जटिल हो जाती हैं:

for i in {0..7}; do ((keep[$(date +%Y%m%d -d "-$i day")]++)); done
for i in {0..4}; do ((keep[$(date +%Y%m%d -d "sunday-$((i+1)) week")]++)); done
for i in {0..12}; do
        DW=$(($(date +%-W)-$(date -d $(date -d "$(date +%Y-%m-15) -$i month" +%Y-%m-01) +%-W)))
        for (( AY=$(date -d "$(date +%Y-%m-15) -$i month" +%Y); AY < $(date +%Y); AY++ )); do
                ((DW+=$(date -d $AY-12-31 +%W)))
        done
        ((keep[$(date +%Y%m%d -d "sunday-$DW weeks")]++))
done
for i in {0..5}; do
        DW=$(date +%-W)
        for (( AY=$(($(date +%Y)-i)); AY < $(date +%Y); AY++ )); do
                ((DW+=$(date -d $AY-12-31 +%W)))
        done
        ((keep[$(date +%Y%m%d -d "sunday-$DW weeks")]++))
done
echo ${!keep[@]}

आज (2014-11-10) के अनुसार, यह आउटपुट होगा:

20090104 20100103 20110102 20120101 20130106 20131103
20131201 20140105 20140202 20140302 20140406 20140504
20140601 20140706 20140803 20140907 20141005 20141012
20141019 20141026 20141102 20141103 20141104 20141105
20141106 20141107 20141108 20141109 20141110

ऊपर के समान, इस सरणी में नहीं मिली सभी बैकअप फ़ाइलों को हटा दें।


अच्छा लगा, और मैं कैसे करूँ rm /dir/*.* except keep[@]?
ताकेशिन

0

जैसा कि एक टिप्पणी में बताया गया है, बैकअप प्रबंधन सॉफ्टवेयर के लिए बैकअप प्रबंधन का कार्य सामान्य रूप से करना सबसे अच्छा है।

लेकिन यहां पुराने बैकअप को अपनी आवश्यकतानुसार हटाने के लिए बैश में तर्क दिया गया है

#!/bin/sh

delete() {
    echo "Deleting $1"
}

DOW=$(date +%u)

if [ $DOW -eq 1 ]; then
    DATE_DAY=$(date -d "-28 days" +"%d")
    if [ $DATE_DAY -gt 7 ]; then
        DATE=$(date -d "-28 days" +"%Y-%m-%d")
        delete $DATE
    fi

    DATE_DAY=$(date -d "-364 days" +"%d")
    DATE_MONTH=$(date -d "-364 days" +"%m")
    if [ $DATE_DAY -le 7 ] && [ $DATE_MONTH -gt 1 ]; then
        DATE=$(date -d "-364 days" +"%Y-%m-%d")
        delete $DATE
    fi
else
    DATE=$(date -d "-7 days" +"%Y-%m-%d")
    delete $DATE
fi

3520 दिनों तक चलने के बाद कौन सी फाइलें दिखती हैं, PHP कोड

https://ideone.com/n2ymQy

Array
(
    [0] => 2005-01-03
    [1] => 2006-01-02
    [2] => 2007-01-01
    [3] => 2008-01-07
    [4] => 2009-01-05
    [5] => 2010-01-04
    [6] => 2011-01-03
    [7] => 2012-01-02
    [8] => 2013-01-07
    [9] => 2013-09-02
    [10] => 2013-10-07
    [11] => 2013-11-04
    [12] => 2013-12-02
    [13] => 2014-01-06
    [14] => 2014-02-03
    [15] => 2014-03-03
    [16] => 2014-04-07
    [17] => 2014-05-05
    [18] => 2014-06-02
    [19] => 2014-07-07
    [20] => 2014-07-28
    [21] => 2014-08-04
    [22] => 2014-08-11
    [23] => 2014-08-16
    [24] => 2014-08-17
    [25] => 2014-08-18
    [26] => 2014-08-19
    [27] => 2014-08-20
    [28] => 2014-08-21
    [29] => 2014-08-22
)
हमारी साइट का प्रयोग करके, आप स्वीकार करते हैं कि आपने हमारी Cookie Policy और निजता नीति को पढ़ और समझा लिया है।
Licensed under cc by-sa 3.0 with attribution required.