An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

FreeBSD, Gentoo, openSUSE, CentOS, Ubuntu, Debian
stefan6
Posts: 4
Joined: 2004-12-09 16:59

An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by stefan6 » 2004-12-09 17:30

An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen?

Hallo,

Ich suche jemanden der sich mit RAID auskennt, es geht darum einen großen Backup Server in Betrieb zu nehmen. Geplant ist ein array von 12 TB, das ganze soll gespiegelt sein, so das am Ende ~6 TB zu Verfügung stehen. Da hier noch rund 80 250GB WD2500JBRTL2 (ATA100, 7200 u/min, 8MB, 8,9ms) IDE Western Digital Platten unnütz rum liegen würde ich diese gerne verbauen. Dabei frag ich mich allerdings, ob das ohne Probleme geben würde wenn ~100 Backups gleichzeitig auf das System durchgeführt werden, darfâ??s da dann doch SATA oder doch gleich SCSI sein? Da ich allerdings keinerlei Erfahrung mit RAID Systemen in dieser Größe habe würde ich gerne wissen, ob mir jemand einige Tipps geben kann, die ich beachten sollte? Kann mir eventuell sogar jemand einen entsprechenden Controller empfehlen? Wie sollte ich das array betreiben, ich hatte an RAID 10 gedacht. Zum Schluss noch, der Server muss nicht immer laufen, also nen reboot wenn ne Platte hinüber ist durchaus zu verkraften, des Weiteren Spielt Geld praktisch keine Rolle.

Danke

Mit freundlichen Grüßen
Stefan Foth

dodolin
RSAC
Posts: 4009
Joined: 2003-01-21 01:59
Location: Sinsheim/Karlsruhe

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by dodolin » 2004-12-09 18:43

Disclaimer: Ich bin absolut kein "RAID-Spezi", aber ich würde mal annehmen, dass bei solchen Größenordungen von Plattenplatz und Durchsatz eine dedizierte Storagelösung Sinn machen würde.

Vielleicht so ein Turm, in den man viele Platten reinhängen kann und welcher diese per NFS o.ä. exportiert? Wobei NFS natürlich prinzipielle Nachteile hat, etc.

Wenn Geld keine Rolle spielt, gibts ja auch noch bessere NAS/SAN Lösungen.

Außerdem: Macht man Backups heutzutage wirklich nur noch mit Platten? Ich dachte, die guten alten Magnetbänder hätten noch nicht ganz ausgedient... zumindest habe ich bei sporadischen Besuchen in größeren RZ's immer auch Bandroboter gesehen.

stefan6
Posts: 4
Joined: 2004-12-09 16:59

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by stefan6 » 2004-12-09 19:07

Zurzeit werden die Backups auf Tapes gemacht, seit dem aber vor rund zwei Wochen eins der Tapes nen defekt hatte und so wichtige Daten verloren gegangen sind mag ich halt was haben was da ein wenig redundanter ist. NAS/SAN müsste ich mich auch mal mehr drüber schlau machen, bei nem richtigen Server weis ich aber was ich damit anstellen kann, deshalb würde ich eine entsprechende RAID Lösung klar bevorzugen.

oxygen
RSAC
Posts: 2179
Joined: 2002-12-15 00:10
Location: Bergheim

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by oxygen » 2004-12-09 20:00

Vielleicht findest du das ganz interessant http://www.de.tomshardware.com/storage/ ... index.html sowas käme sicher in Frage, wenn auch in kleinerem Rahmen.

stefan6
Posts: 4
Joined: 2004-12-09 16:59

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by stefan6 » 2004-12-09 20:17

wow, danke, so was in der Richtung währe schon was, so was werd ich mir wohl auch basteln, wenn ich keinen anständigen raid Controller finde wo ich 50 platten auf einmal dranhängen kann, das währe mir lieber.

aquajo
RSAC
Posts: 167
Joined: 2003-02-25 21:07

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlu

Post by aquajo » 2004-12-10 18:55

Stefan6 wrote:An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen?
Welche Datenrate wird den im Backupfenster gebraucht (MBit/s oder GB/h)

In einen Rechner bekommt man ca. 6 TB (24*250 GB) mit 2-3 große Raidcontroller.
Bei einem Raid5 blieben etwa 5 TB effektiv über, beim Raid 10 etwa 3 TB über den Daumen.

Da die Festplatten schon da sind, würde ich diese verbauen.
Je nach Speicherbedarf in 1-3 Server eingebaut.

Und falls man alles zentral ansprechen können muss, passendes Dateisystem verwenden oder einen Server vorschalten der die passende Abstrahierung vornimmt.

Klingt nach einem netten Projekt *g*

stefan6
Posts: 4
Joined: 2004-12-09 16:59

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by stefan6 » 2004-12-11 16:43

Da hat jemand Ahnung, das ganze wird mit 1Git angebunden. Also ich möchte die Daten wirklich doppelt haben, daher RAID 10. Was für ein Dateisystem bzw. Controller würden sie den empfehlen? Kann man da was mit LVM drehen?

aquajo
RSAC
Posts: 167
Joined: 2003-02-25 21:07

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by aquajo » 2004-12-11 17:02

Stefan6 wrote:Da hat jemand Ahnung, das ganze wird mit 1Git angebunden.
Ok, dann brauchst du schon einmal Mainboards mit 2 Unabhänigen PCI-Buses am besten, da 1 GBit/s Daten einen normalen PCI-Bus belegen.
Des weiteren würde ich einen guten RAM-Ausbau des Servers als Cache vorschlagen (+ tunning der Kernelparameter)
Also ich möchte die Daten wirklich doppelt haben, daher RAID 10.
Nur doppelt auf Platte, oder sogar auf verschiedenen Servern?
Was für ein Dateisystem bzw. Controller würden sie den empfehlen?
Als Controller habe ich bisher sehr gute Erfahrungen mit 3ware gemacht, und in dem Fall würde ich die 8 oder 12 Port Versionen empfehlen.

Die Dateisystemwahl ist immer etwas glaubenssache, falls es nur lokal ist würde ich etwas 'abgehangenes' und robustes nehmen, wie z.b. ext2/3.

Falls man alles Zentral ansprechen können muss, scheint (Open-)AFS und ähnliche eine Wahl zu sein.
Kann man da was mit LVM drehen?
Ich bin jetzt nicht so der LVM-Spezi, aber mit LVM müsste man, wenn man alles auf einem Rechner zusammenfasst (also ein Frontendserver + n-Backendserver auf den alles gespeichert wird) einen großen logichen Speicherplatz haben, auf dem wieder ein Dateisystem der Wahl laufen könnte.

sicaine
Posts: 5
Joined: 2004-12-11 20:14

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by sicaine » 2004-12-11 21:35

Ã?hm könntest du dann mal ein cooles Pic machen?
Wird sicher voll krass aussehen ^^

aquajo
RSAC
Posts: 167
Joined: 2003-02-25 21:07

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by aquajo » 2004-12-11 22:13

Sicaine wrote:Ã?hm könntest du dann mal ein cooles Pic machen?
Wird sicher voll krass aussehen ^^
Was wäre den an ein paar 19' Servern so besonders?

jayc
Posts: 87
Joined: 2002-11-26 23:07
Location: Karlsruhe

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by jayc » 2004-12-12 00:00

Ich möchte zu ein par der o.g. Punkte auch meinen (bescheidenen) Saft abgeben... :-D

...defekte Bänder...
Um dieses Risiko zu minimieren, haben wir (in meiner alten Abteilung) Clonening betrieben. D.h. die Bänder wurden nach Abschluss des eigentlichen Backups auf ein entsprechend redundantes System gecloned. Allerdings beutet dass doppelte Hardware...

...Vorschag ext2 als Dateisystem...
Bei der Größe des dateisystems dürfte ein Reboot nach einem crash so richtig schön dauern... und das wahrscheinlicch dann, wenn man sschnell an die Daten möchte... (Bsp.: Datenverlust nach Stromausfall) :lol:

Mein Vorschlag:
Anstatt einem (oder mehrerer) Server an einem Standort (=> Brandabschnitt) mit entsprechenden RAID-Konfigurationen würde ich zwei räumlich getrennte Systeme ohne RAID aufbauen. Ein Server als Master für das primäre Backup und den zweiten Server würde ich z.B. via rsync als Redundanz verwenden. Damit hättest Du auch den Fall abgedeckt, dass Dir durch z.B. einen defekten Raid-Controller Deine lokale Redundanz "flöten" geht. Wie beim Raid10 hättest Du eine Netto-Speicherkapazität von 50%, aber die räumliche Trennung verringert nochmal die Wahrscheinlichkeit eines Datenverlustes.

Gruß,
Jay

jayc
Posts: 87
Joined: 2002-11-26 23:07
Location: Karlsruhe

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by jayc » 2004-12-12 00:04

AquaJo wrote:
Sicaine wrote:Ã?hm könntest du dann mal ein cooles Pic machen?
Wird sicher voll krass aussehen ^^
Was wäre den an ein paar 19' Servern so besonders?
Das hättest Du mich mal fragen sollen, als ich das erste mal vor einer mehrere Meter breiten Wand von Sun E10K's gestanden bin... :lol:

SCNR

(OK - ist schon ein par Tage her - jetzt fliegen diese Maschinen gerade raus...)

aquajo
RSAC
Posts: 167
Joined: 2003-02-25 21:07

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by aquajo » 2004-12-12 12:08

JayC wrote:...Vorschag ext2 als Dateisystem...
Bei der Größe des dateisystems dürfte ein Reboot nach einem crash so richtig schön dauern... und das wahrscheinlicch dann, wenn man sschnell an die Daten möchte... (Bsp.: Datenverlust nach Stromausfall) :lol:
Besser als ein Dateisystem, wo nach einem Stromausfall erst einmal die Daten weg sind ;-)
ext3 war nicht umsonst auf der Liste, lässt sich ja auch als ext2 im Zweifelsfalle nutzen.
Mein Vorschlag:
Anstatt einem (oder mehrerer) Server an einem Standort (=> Brandabschnitt) mit entsprechenden RAID-Konfigurationen würde ich zwei räumlich getrennte Systeme ohne RAID aufbauen. Ein Server als Master für das primäre Backup und den zweiten Server würde ich z.B. via rsync als Redundanz verwenden. Damit hättest Du auch den Fall abgedeckt, dass Dir durch z.B. einen defekten Raid-Controller Deine lokale Redundanz "flöten" geht. Wie beim Raid10 hättest Du eine Netto-Speicherkapazität von 50%, aber die räumliche Trennung verringert nochmal die Wahrscheinlichkeit eines Datenverlustes.
'Mal davon abgesehen, dass ich hoffe, dass das Backupsystem von den Servern getrennt steht, so das die aktuellen Daten nicht in dem Brandabschnitt mit den Backups stehen, schreit das Setup danach das du nach kurzer Zeit ein inkonsistentes Backup hast.

Ein rsync-lauf über 6 TB von denen sich sicher einige (vermutlich dreistellige) GB pro Tag ändern, dürfte doch einige Zeit dauern, insbesondere wenn das dann statt über GBit evtl. nur über 100 MBit/s Strecke laufen muss.

Da bei insgesammt fast 50 Festplatten etwa eine pro Monat stirbt, hat man eine gute Chance, dass während eines rsync-Laufes der 'Master' abraucht, und auf dem zweiten Server hast du dann ein inkonsistentes Backup...

Da nehme ich lieber die Lösung die ich schon eher angesprochen hatte, und nehme ein Frontend welches die Dateien auf 2 Backendserver spiegelt, falls dann einer Ausfällt geht nur die Redundanz verloren.
Aber ein Raid würden beide sicher bekommen.

aquajo
RSAC
Posts: 167
Joined: 2003-02-25 21:07

Re: An die RAID Spezis â?? Backupserver, 12TB â?? Tipps/Empfehlungen

Post by aquajo » 2004-12-12 18:59

JayC wrote:Mein Vorschlag:
Anstatt einem (oder mehrerer) Server an einem Standort (=> Brandabschnitt) mit entsprechenden RAID-Konfigurationen würde ich zwei räumlich getrennte Systeme ohne RAID aufbauen. Ein Server als Master für das primäre Backup und den zweiten Server würde ich z.B. via rsync als Redundanz verwenden. Damit hättest Du auch den Fall abgedeckt, dass Dir durch z.B. einen defekten Raid-Controller Deine lokale Redundanz "flöten" geht. Wie beim Raid10 hättest Du eine Netto-Speicherkapazität von 50%, aber die räumliche Trennung verringert nochmal die Wahrscheinlichkeit eines Datenverlustes.
Nachtrag zu dem schon gesagten: Dieser Cluster wäre sehr wartungsintensiv, da bei jedem Festplattenausfall (wie gesagt, schätzungsweise einer/Monat) das ganze System neu installiert werden muss und die Daten vom Slave zum master oder andersherum kopiert werden müssen.

Ich glaube Raid will man soetwas nicht machen. :wink: