Πρακτικοί οδηγοί DevOps
Αυτοματοποιημένα multicloud backups με S3 CLI, Rclone και Cyberduck
Προετοιμάστε συνεπή backups, αντιγράψτε τα σε δύο ανεξάρτητους προορισμούς S3, προγραμματίστε την εργασία και επαληθεύστε την επαναφορά.
1. Προετοιμάστε συνεπή πηγή και ιδιωτικούς προορισμούς
Το παράδειγμα Linux προϋποθέτει εγκατεστημένα AWS CLI v2, rclone, cron και flock. Χρησιμοποιήστε αποκλειστικό λογαριασμό backup. Πάρτε το πραγματικό HTTPS endpoint της Gloman, το signing region, το bucket και τα credentials από τη διαμόρφωση της υπηρεσίας. Τα παραδείγματα περιέχουν σκόπιμα πεδία προς αντικατάσταση.
Προετοιμάστε συνεπή database dumps και αντίστοιχο snapshot αρχείων στο /srv/backup/staged. Συμπεριλάβετε manifest SHA256SUMS από τα αρχεία backup με σχετικές διαδρομές, εξαιρώντας το ίδιο το manifest. Διατηρήστε τον φάκελο αμετάβλητο σε όλη την αντιγραφή και επαλήθευση. Η αντιγραφή ενός ενεργού φακέλου βάσης δεν δημιουργεί συνεπές database backup.
Χρησιμοποιήστε ιδιωτικά buckets, κρυπτογράφηση αποθήκευσης και HTTPS. Περιορίστε τα credentials στα απαιτούμενα buckets και λειτουργίες. Κρατήστε ξεχωριστά δικαιώματα διαγραφής ή διαχείρισης retention όπου υποστηρίζεται. Επιβεβαιώστε versioning ή Object Lock, διατήρηση και δικαιώματα ανάκτησης και στους δύο παρόχους.
2. Ελέγξτε την πρόσβαση S3 με AWS CLI
Εκτελέστε διαδραστικά aws configure --profile gloman-backup ως λογαριασμός backup, με τα δοσμένα credentials και region. Περιορίστε την πρόσβαση στα αρχεία ρυθμίσεων. Συμπληρώστε στις παρακάτω μεταβλητές το πραγματικό endpoint, region και bucket. Μην τοποθετείτε credentials στη γραμμή εντολών.
export S3_ENDPOINT='https://REPLACE-WITH-ASSIGNED-ENDPOINT'
export S3_REGION='REPLACE-WITH-SIGNING-REGION'
export S3_BUCKET='REPLACE-WITH-BUCKET'
aws --profile gloman-backup --region "$S3_REGION" \
--endpoint-url "$S3_ENDPOINT" s3 ls "s3://$S3_BUCKET/"
aws --profile gloman-backup --region "$S3_REGION" \
--endpoint-url "$S3_ENDPOINT" s3 cp /srv/backup/staged/SHA256SUMS \
"s3://$S3_BUCKET/connection-test/SHA256SUMS" --dryrun
Η λίστα ελέγχει πρόσβαση ανάγνωσης. Το dry run δεν αποδεικνύει δικαίωμα εγγραφής. Αφού ελέγξετε τον προορισμό, αφαιρέστε το --dryrun για αυτό το μικρό test upload και κατεβάστε το ξανά για επαλήθευση. Αν χρειάζεται, ρυθμίστε addressing style και checksum options σύμφωνα με την τεκμηρίωση συμβατότητας S3 του παρόχου. Διατηρήστε ενεργή την επαλήθευση πιστοποιητικών.
3. Ρυθμίστε δύο ανεξάρτητα rclone remotes
Εκτελέστε rclone config ως ο ίδιος λογαριασμός backup. Δημιουργήστε S3 remote με όνομα gloman, provider Other και το δοσμένο endpoint, region και credentials. Δημιουργήστε δεύτερο remote με όνομα secondary για άλλον πάροχο, με ξεχωριστά credentials και ιδιωτικό bucket. Χρησιμοποιήστε τις ειδικές ρυθμίσεις παρόχου που τεκμηριώνει το rclone.
Το script αναμένει την προεπιλεγμένη διαμόρφωση rclone του λογαριασμού. Προστατέψτε την με δικαιώματα αρχείων. Τα obscured secrets σε αρχείο ρυθμίσεων δεν είναι secret vault. Αν η διαμόρφωση είναι κρυπτογραφημένη, προβλέψτε προστατευμένο, μη διαδραστικό μηχανισμό ξεκλειδώματος για τον scheduler.
Εκτελέστε πρώτα rclone copy /srv/backup/staged gloman:YOUR-BUCKET/preflight --dry-run και ελέγξτε τις διαδρομές. Επαναλάβετε για secondary. Η προγραμματισμένη ροή χρησιμοποιεί copy, που δεν διαγράφει αρχεία τα οποία υπάρχουν μόνο στον προορισμό, και μοναδικό prefix ανά εκτέλεση. Δημιουργεί πλήρη σύνολα ανάκτησης και καταναλώνει αντίστοιχο χώρο.
4. Αντιγράψτε και επαληθεύστε και τους δύο προορισμούς
Αποθηκεύστε ως /home/backup/bin/upload-backups.sh, αντικαταστήστε και τα δύο ονόματα bucket και δώστε δικαίωμα εκτέλεσης. Ελέγξτε τη διαδρομή rclone με command -v rclone και προσαρμόστε το PATH αν χρειάζεται. Ο αμετάβλητος φάκελος staged και το manifest πρέπει ήδη να υπάρχουν. Γίνεται προσπάθεια και στους δύο προορισμούς, ακόμη κι αν ο ένας αποτύχει.
Η επαλήθευση κατεβάζει τα αντιγραμμένα δεδομένα για σύγκριση, προσθέτοντας κίνηση ανάγνωσης και πιθανές χρεώσεις παρόχου. Αυτό είναι σκόπιμο στο παράδειγμα. Σχεδιάστε κατάλληλο πρόγραμμα επαλήθευσης για μεγάλα αρχεία. Ούτε το copy ούτε το check δοκιμάζει από μόνο του την ανάκαμψη της βάσης.
#!/bin/bash
set -euo pipefail
export PATH=/usr/local/bin:/usr/bin:/bin
umask 077
source_dir=/srv/backup/staged
test -s "$source_dir/SHA256SUMS"
(cd "$source_dir" && sha256sum --check SHA256SUMS)
run_id="$(date -u +%Y%m%dT%H%M%SZ)-$(hostname -s)-$$"
status=0
for destination in \
'gloman:REPLACE-PRIMARY-BUCKET' \
'secondary:REPLACE-SECONDARY-BUCKET'; do
target="$destination/server-backups/$run_id"
if rclone copy "$source_dir" "$target" --immutable \
--retries 3 --log-level INFO &&
rclone check "$source_dir" "$target" --download --log-level INFO; then
printf 'Verified %s\n' "$target"
else
printf 'FAILED %s\n' "$target" >&2
status=1
fi
done
exit "$status"
rclone: επαλήθευση περιεχομένου με check --download (αγγλικά)
5. Προγραμματίστε την εργασία και παρακολουθήστε την ολοκλήρωση
Δημιουργήστε το /home/backup/.local/state με πρόσβαση περιορισμένη στον λογαριασμό backup. Μετά από επιτυχή χειροκίνητη εκτέλεση, προσθέστε αυτή τη γραμμή στο crontab του λογαριασμού. Εκτελείται στις 02:15 στη ζώνη ώρας του server και αποτρέπει επικαλυπτόμενα uploads.
Συντονίστε τη δημιουργία snapshot με την εργασία ώστε να μην αλλάζουν τα staged αρχεία κατά το upload. Συνδέστε αποτυχίες και απουσία επιτυχών εκτελέσεων με το monitoring. Ένα log από μόνο του δεν ειδοποιεί κανέναν. Ρυθμίστε log rotation και παρακολούθηση ελεύθερου χώρου.
15 2 * * * /usr/bin/flock -n /home/backup/.local/state/s3-backup.lock /home/backup/bin/upload-backups.sh >> /home/backup/.local/state/s3-backup.log 2>&1
Ορίστε σκόπιμα retention σε κάθε προορισμό, υπολογίζοντας παλιότερες εκδόσεις και ημιτελή multipart uploads. Δοκιμάστε lifecycle rules σε αναλώσιμα δεδομένα πριν τα εφαρμόσετε σε αντίγραφα ανάκτησης. Ανεξάρτητα credentials και ένα immutable ή offline αντίγραφο μειώνουν την πιθανότητα ένας παραβιασμένος host να καταστρέψει όλα τα backups.
6. Επαναφέρετε με rclone ή ελέγξτε με Cyberduck
Επιλέξτε επαληθευμένο prefix εκτέλεσης και νέο κενό φάκελο επαναφοράς. Κατεβάστε ένα πλήρες σύνολο, ελέγξτε το manifest και εισαγάγετε βάση και αρχεία σε απομονωμένο σύστημα δοκιμής. Επαναλάβετε με τον δεύτερο πάροχο και μετρήστε τον χρόνο ανάκαμψης της εφαρμογής.
rclone copy gloman:REPLACE-PRIMARY-BUCKET/server-backups/REPLACE-RUN-ID \
/srv/restore-test/REPLACE-RUN-ID
cd /srv/restore-test/REPLACE-RUN-ID
sha256sum --check SHA256SUMS
Για χειροκίνητο έλεγχο, δημιουργήστε bookmark Amazon S3 στο Cyberduck με το δοσμένο endpoint και credentials, χρησιμοποιώντας το profile ή region που απαιτεί ο πάροχος. Περιηγηθείτε στο bucket και κατεβάστε ένα αντικείμενο δοκιμής. Το Cyberduck είναι χρήσιμο για διαδραστικές μεταφορές. Ο οδηγός χρησιμοποιεί cron και rclone για αυτόματη εκτέλεση. Καταγράψτε επιτυχή επαναφορά εφαρμογής, πέρα από μια λίστα αντικειμένων.