Als ich heute mit Dennis, der jetzt seine Backup-Strategie aufstockt, über mögliche Backup-Implementationen diskutiert habe, kam mir die Idee, meine persönliche Vorgehensweise zu erläutern.
Die Hardware
Neben den Clients, die die zu sichernden Daten beherbergen, steht mir folgende Hardware für Backups zur Verfügung:
- NAS – Eigenbau-Gerät mit energiesparendem AMD-Prozessor, 4 GB Arbeitsspeicher und sechs 1 TB-Festplatten im Software-RAID 5 (4.5 TB nutzbar)
- Bandroboter – ein gebrauchter HP StorageWorks DAT72-Autoloader mit einem DDS5-Bandlaufwerk und 10 Schächten für Medien
- Externe Festplatte (genau genommen ein DAS) – eine Onnto DataTale mit vier 2 TB-Festplatten im RAID5 (6 TB nutzbar)
Bandroboter, NAS und DAS
Datenüberblick
Die erste Frage dürfte jetzt sein, was überhaupt gesichert wird. Sicherungen werden auf meinem NAS pro “Sicherungsziel” angelegt – solche Sicherungsziele sind beispielsweise:
- Der Webserver, auf dem dieser Blog läuft
- Mein Notebook
- Die virtuellen Maschinen meines Hypervisors
- …
Für jedes Sicherungsziel wird auf dem NAS ein Ordner angelegt. Innerhalb dieses Ordners existiert ein Unterordner “latest” – in diesem Ordner landen dann die jeweils zu sichernden aktuellen Daten. Wenn eine Sicherung isoliert von neueren aufbewahrt werden soll, genügt es den Ordnernamen zu ändern. So habe ich schnell und unkompliziert einen “Snapshot“. Auf dem NAS befindet sich im Backup-Ordner für jedes Sicherungsziel eine Blacklist-Datei (Sicherungsziel_blacklist), die eine Liste von Ordnern und Dateien, die nicht auf Band gesichert werden sollen, enthält.
Überblick des Konzepts
Skripte und Logdateien
Für die Sicherung der einzelnen Sicherungsziele habe ich mir diverse Skripte programmiert, die mir einige händische Arbeit abnehmen und den Prozess so beschleunigen.
Sicherungen eines Ziels erfolgen mithilfe des folgenden Skripts:
#!/bin/bash
###########################################
# #
# !!! AUTOMATISIERTE SICHERUNG !!! #
# #
###########################################
#Variablendeklaration
backups_path="/mnt/storage/data/Backups"
exclude_file_prefix="blacklist_"
max_size_gb=200
dev_streamer="$1"
#Datumprefix und Logfile erstellen
logprefix="$(date +"%d_%m_%Y_%H_%M")"
if [ -d "/var/log/backup/tape/$2" ]; then
#Ordner vorhanden
echo "Log directory for this target (/var/log/backup/tape/$2) exists."
else
#Ordner nicht vorhanden
mkdir -p /var/log/backup/tape/$2
echo "Log directory for this target (/var/log/backup/tape/$2) didn't exist - I created it for you. 
"
fi
echo "log file from $(date)" >> /var/log/backup/tape/$2/$logprefix.log
echo "parameters were: $1 $2 $3 $4" >> /var/log/backup/tape/$2/$logprefix.log
#Wurde ein Streamer angegeben?
if [ "$1" = "" ]; then
#Nein
echo "ERROR: You must specify a streamer device (e.g. nst0)!" | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
fi
#Wurde ein Ziel angegeben?
if [ "$2" = "" ]; then
#Nein
echo "ERROR: You must specify a target (e.g. host)!" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
fi
#Flag setzen
if [ "$3" = "--from" ]; then
#Ein vorheriges Backup wurde angefordert --> wurde ein Datum angegeben?
if [ "$4" = "" ]; then
#Nein
echo "ERROR: You need to tell me the backup date in DD_MM as parameter after --from!" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
else
sel_flag="$4"
fi
else
#Setze Flag
sel_flag="latest"
fi
#Ordner fuer Backup vorhanden?
if [ -d "$backups_path/$2/$sel_flag" ]; then
#Ja
echo "Backup exists" | tee -a /var/log/backup/tape/$2/$logprefix.log
else
#Nein
echo "ERROR: There is no backup #$sel_flag for that target!" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
fi
#Ueberpruefe ob das Backup auf das Tape passt
backup_size="$(du -cs $backups_path/$2/$sel_flag --exclude-from=$backups_path/$exclude_file_prefix$2 | grep insgesamt | cut -f1)"
echo -n "Backup size is $backup_size kbytes" | tee -a /var/log/backup/tape/$2/$logprefix.log
if [ "$backup_size" -gt "$(($max_size_gb*1024*1024))" ]; then
#Nein
echo ", more than $max_size_gb gbytes - that won't fit!" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
else
#Ja
echo " - that will fit." | tee -a /var/log/backup/tape/$2/$logprefix.log
fi
#Streamer vorhanden?
if [ "$(ls /dev | grep $dev_streamer)" = "" ]; then
echo "ERROR: Streamer device not found" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
fi
#Ist das Geraet belegt?
echo -n "Checking whether the device is currently in use..." | tee -a /var/log/backup/tape/$2/$logprefix.log
if [ "$(mt -f /dev/$dev_streamer status | grep busy)" = "" ]; then
#Nein
echo "NO" | tee -a /var/log/backup/tape/$2/$logprefix.log
else
#Ja
echo "YES" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
fi
#Ist ein Band eingelegt?
echo -n "Checking whether a tape is inserted..." | tee -a /var/log/backup/tape/$2/$logprefix.log
if [ "$(mt -f /dev/$dev_streamer status | grep DR_OPEN)" = "" ]; then
#Ja
echo "YES" | tee -a /var/log/backup/tape/$2/$logprefix.log
else
#Nein
echo "NO" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "Aborting..." | tee -a /var/log/backup/tape/$2/$logprefix.log
exit 1
fi
#Spiele Band zurueck
echo "Rewinding tape..." | tee -a /var/log/backup/tape/$2/$logprefix.log
mt -f /dev/$dev_streamer rewind | tee -a /var/log/backup/tape/$2/$logprefix.log
#Gebe Dateien aus
echo "The FOLLOWING files will be backupped:" | tee -a /var/log/backup/tape/$2/$logprefix.log
echo "" | tee -a /var/log/backup/tape/$2/$logprefix.log
du -h "$backups_path/$2/$sel_flag/" --exclude-from="$backups_path/$exclude_file_prefix$2" | tee -a /var/log/backup/tape/$2/$logprefix.log
#Sichere Daten
echo "About to backup files..." | tee -a /var/log/backup/tape/$2/$logprefix.log
tar cvzf "/dev/$dev_streamer" "$backups_path/$2/$sel_flag/" --exclude-from="$backups_path/$exclude_file_prefix$2" | tee -a /var/log/backup/tape/$2/$logprefix.log
Eine Sicherung des Ziels “hostA” auf das Bandlaufwerk “/dev/st0” erfolgt beispielsweise wie folgt:
./backup.sh st0 hostA
Für jedes Sicherungsziel habe ich noch ein dediziertes Wochen- und Monatsskript, welches mithilfe von mtx das entsprechende Band gleich in den Bandroboter einlegt und das o.g. Backup-Skript mit den notwendigen Paramtern startet.
#!/bin/sh
TAPE_DEV="/dev/sg8"
TAPE1="7"
TAPE2="8"
mtx -f $TAPE_DEV load $TAPE1
./backup.sh st0 hostA
mtx -f $TAPE_DEV unload $TAPE1
mtx -f $TAPE_DEV load $TAPE2
./backup.sh st0 hostA
mtx -f $TAPE_DEV unload $TAPE2
Für die Sicherung meines Webservers habe ich ein Skript geschrieben, welches den FTP-Server mit curlftpfs mountet und die Dateien mithilfe von rsync kopiert.
#!/bin/bash
##########################################
# #
# Webspace-Spiegelung mittels RSync #
# --------------------------------- #
# #
# 2011 By Christian Stankowic #
# info@christian-stankowic.de #
# #
##########################################
#Variablendeklaration
path_curlftpfs="/usr/bin/curlftpfs"
path_rsync="/usr/bin/rsync"
path_tee="/usr/bin/tee"
ftp_server="..."
ftp_mount="/mnt/ftp"
ftp_user="..."
ftp_pass="..."
log_path="/var/log/backup/ftp"
copy_path="/mnt/storage/data/Backups/web/latest"
#Datumprefix und Logfile erstellen
logprefix="$(date +"%d_%m_%Y_%H_%M")"
echo "log file from $(date)" >> $log_path/$logprefix.log
echo "parameters were: $1 $2 $3 $4" >> $log_path/$logprefix.log
#FTP mounten
curlftpfs $ftp_server $ftp_mount -o user=$ftp_user:$ftp_pass
#Spiegel gemountet?
echo "Checking if ftp is mounted..." | $path_tee -a $log_path/$logprefix.log
if [ "$(mount | grep $ftp_mount)" = "" ]; then
echo "Error: Mirror ($ftp_mount) NOT mounted" | $path_tee -a $log_path/$logprefix.log
exit 1
else
echo "Mirror ($ftp_mount) mounted" | $path_tee -a $log_path/$logprefix.log
fi
#Spiegelung
$path_rsync -a -r --delete -v $ftp_mount $copy_path | $path_tee -a $log_path/$logprefix.log
#FTP unmounten
umount $ftp_mount
Die Spiegelung der NAS-Daten auf das DAS erfolgt mit einem einfachen rsync-Skript:
#!/bin/bash
######################################
# #
# !!! SPIEGEL AUF DATATALE !!! #
# #
######################################
#Variablendeklaration
backups_path="/mnt/storage/data/Backups"
#Datumprefix und Logfile erstellen
logprefix="$(date +"%d_%m_%Y_%H_%M")"
echo "log file from $(date)" >> /var/log/backup/mirror/$logprefix.log
echo "parameters were: $1 $2 $3 $4" >> /var/log/backup/mirror/$logprefix.log
#Spiegel gemountet?
echo "Checking if mirror is mounted..." | tee -a /var/log/backup/mirror/$logprefix.log
if [ "$(mount | grep /mnt/mirror)" = "" ]; then
echo "Error: Mirror (/mnt/mirror) NOT mounted" | tee -a /var/log/backup/mirror/$logprefix.log
exit 1
else
echo "Mirror (/mnt/mirror) mounted" | tee -a /var/log/backup/mirror/$logprefix.log
fi
#Spiegelung
rsync -a -r --exclude-from "/opt/bak/exclude_rsync" --delete -v /mnt/storage/data/ /mnt/mirror/data/ | tee -a /var/log/backup/mirror/$logprefix.log
Alle Skripte legen übrigens Logdateien unterhalb von /var/log/backup an – so kann ich nachvollziehen, ob die automatisierten Backups fehlerfrei durchlaufen sind.
# cd /var/log/backup/tape/hostA
# 29_01_2012_20_42.log
log file from So 29. Jan 20:42:48 CET 2012
parameters were: st0 hostA
Backup exists
Backup size is 1226994 kbytes - that will fit.
Checking whether the device is currently in use...NO
Checking whether a tape is inserted...YES
Rewinding tape...
The FOLLOWING files will be backupped:
24K ...
...
Zeitliche Planung
Sicherungen sind nur dann sinnvoll, wenn man sie auch konsequent und regelmäßig durchführt.
Meine Planung sieht derzeit wie folgt aus:
- Tägliche automatisierte Generierung von Sicherungsdaten auf bestimmten Hosts – i.d.R wichtige Server-Systeme
- Wöchentliche händische Synchronisation der Notebook-Daten auf das NAS
- Wöchentliche händische Sicherung des Webservers inklusive Datenbanken mithilfe von MySQLDumper und eines FTP-Skripts
- Wöchentliche skriptgesteuerte doppelte Sicherung auf Band und Synchronisation mit DataTale
Bänder, Bänder, Bänder,…
Die Sicherung auf Band erfolgt in der Regel immer doppelt. Das hat zur Folge, dass ich von jedem Backup zwei Bänder hab – ein Band landet im Schrank, das andere bewahre ich an einem anderen Ort (außerhalb meiner Wohnung) auf.
Ich habe für jedes “Sicherungsziel” habe ich dedizierte Bänder für wöchentliche, monatliche und jährliche Backups. Auf dem Jahresband landet die Jahressicherung, während das Monatsband jeden Monat mit dem aktuellen Datenbestand überschrieben wird. Ebenso ist es mit dem Wochenband, was jede Woche überschrieben wird. Die Sicherungen sind übrigens Full-Backups – ich praktiziere keine inkrementellen Backups auf Band. Der wöchentliche Backup-Vorgang nimmt 2 bis 4 Stunden Zeit in Anspruch.
Das Ganze mag jetzt ein wenig übertrieben klingen – ich sichere allerdings auch geschäftliche Daten, die ich 10 Jahre vorhalten muss. Und wenn ich ohnehin schon profesionell Backups anfertige, können davon meine privaten Daten auch profitieren, oder?
Bänder, Bänder, Bänder,...
Videos
Einen Überblick über den DDS-Bandroboter und dessen Funktionen gibt es im ersten Clip:
Wer schon immer mal wissen wollte, wie ein Bandroboter arbeitet, kann sich das Ganze hier mal anschauen:
Mein DAS habe ich vor einiger Zeit mit neuen Festplatten versorgt – zu sehen ist das im letzten Clip:
