IO-Leistung SSDs im RAID-5

Hardwarespezifische Dinge
Martin Gerdes
Posts: 5
Joined: 2015-12-10 11:07

IO-Leistung SSDs im RAID-5

Post by Martin Gerdes »

Ich hoffe mal ich hab hier die passendste Kategorie für den Thread ausgewählt...

Es geht um folgendes Problem:
Wir haben in einem unserer Dell Rack-Server normale rotierende Platten gegen 3 SSDs im RAID-5 ausgetauscht (über den RAID-Controller „LSI Logic / Symbios Logic MegaRAID SAS 2108 [Liberator] (rev 05)“).
Ich musste jetzt aber feststellen, dass die resultierende IO-Leistung nicht besser ist als vorher! Ein einfacher test mit dd und sync liefert mir eine Schreibperformance von 14MB/s … (Alle Tests während der Server unbeschäftigt ist. Der Server ist produktiv nur mit Schreiben beschäftigt, Readperformance ist also erst mal irrelevant.)
Die eingesetzten SSDs sind Samsung 840 Pro 256GB, und sollten einzeln eine Schreibperformance von mindestens 200MB/s liefern!
Zum Vergleich:
Ein anderer Server mit RAID-Controller „LSI Logic / Symbios Logic MegaRAID SAS 1078 (rev 04)“ liefert 37MB/s mit ebenfalls 3 identischen SSDs im RAID-5 (immer noch viel zu langsam, aber zumindest deutlich schneller).
Ein 3. Server mit RAID-Controller „LSI Logic / Symbios Logic MegaRAID SAS 2208“ und 3 Intel SSDs im RAID-5 liefert 120MB/s

Da das jetzt 3 verschiedene RAID-Controller waren, war meine 1. Vermutung natürlich, dass der RAID-Controller das Problem ist.
Ich habe dieses Whitepaper von Fujitsu gefunden, in dem der RAID-Controller LSI2108 (der des Problemservers mit 14MB/s) gebenchmarked wird. Demzufolge sollte der Controller in der Lage sein, mit SSDs im RAID-5 zumindest eine Schreibperformance von 300MB/s abzuliefern, wovon wir Welten entfernt sind.
Whitepaper: http://sp.ts.fujitsu.com/dmsp/Publicati ... -ww-en.pdf

Relevante Konfiguration der Logical Drives: no readahead, write through, direct IO.
Auf allen Servern läuf Debian Squeeze.

Das Problem bestand auch mit readahead und write back. Ich habe die Information gefunden, dass no readahead und write through für SSDs besser ist, und habe die Konfig so geändert (mit megacli). Ich habe keine Performancewerte für write back, aber anektotisch mit iotop wirkte es noch langsamer.

Was zum Geier ist hier los!?

Ich hoffe im wesentlichen auf Anregungen, in welcher Richtung ich den Fehler suchen sollte, und wie ich Hypothesen effektiv testen kann.
jan10001
Anbieter
Posts: 744
Joined: 2004-01-02 12:17

Re: IO-Leistung SSDs im RAID-5

Post by jan10001 »

SSD's sind eigentlich aus verschieden Gründen ehr ungeeignet für Raids, Material warum das so ist findet man massig.
Martin Gerdes
Posts: 5
Joined: 2015-12-10 11:07

Re: IO-Leistung SSDs im RAID-5

Post by Martin Gerdes »

Ich bin mir inzwischen ziemlich sicher, dass das Problem darin besteht, dass die SSDs vom RAID-Controller den Disk Cache ausgeschaltet bekommen!
Das macht das ganze zwar sicherer im Fall eines Stromausfalls, bremst die Schreibgeschwindigkeit aber auf 10% runter.
Der einzige Workaround scheint darin zu bestehen, für die SSDs in Windows den Disk Cache wieder einzuschalten (das bekommt der RAID-Controller zum Glück nicht mit).

Ich schreib hier noch mal, sobald ich das testen konnte, ob es das Problem behebt.
Martin Gerdes
Posts: 5
Joined: 2015-12-10 11:07

Re: IO-Leistung SSDs im RAID-5

Post by Martin Gerdes »

War jetzt vor Ort, hab die Platten einzeln entnommen. Der Schreibcache war eingeschalten, ein Firmawareupgrade der SSDs hat nichts gebracht.
Hab dann die Schreibgeschwindigkeit der einzelnen Platten getestet (mit dd):
2 der 3 Platten sind unter 20MB/s geblieben, die 3. hat 80MB/s geliefert.
Meine Vergleichsplatte (ebenfalls Samsung 840 Pro) liefert 300MB/s...

Also entweder hab ich hier eine schlechte Charge von Samsung SSDs erwischt, oder der RAID-Controller hat noch etwas verstellt was ich nicht heraus bekomme (was sollte das aber sein?).

Sieht im Moment so aus als müssten wir hier andere Platten kaufen. Sobald die im Einsatz sind, kann ich dann mit den alten (Samsung 840 Pro) expirmentieren, ob ich durch komplettes löschen o.Ä. wieder vernünftige Schreibgeschwindigkeit bekomme.
Samsung Magician sagt dass die Platten jeweils 5TB Daten geschrieben haben. Was zwar schon ne Menge ist, aber weit weg von den durch Samsung garantierten 75TB Schreibleistung.
ddm3ve
Moderator
Moderator
Posts: 1231
Joined: 2011-07-04 10:56

Re: IO-Leistung SSDs im RAID-5

Post by ddm3ve »

SSDs im Raid Verbund (Raid5,6) sind wegen der laufen geschriebenen Paritätsdaten nicht gerade gut geeignet bezüglich Lebenszeit.
Bezüglich Durchsatz. War denn das Raid überhaupt vollständig initialisiert, als Du es getestet hast?
Ich würde an der Stelle eher auf ein Raid 1 zurück greifen, das solle ausreichend sicher genug sein. Allerdings wäre es sinnvoll die Platten zeitlich versetzt zu tauschen um einen Verschleiss zyklisch zu kompensieren und damit auch ein Ausfallrisiko beider Platten gleichzeitig zu reduzieren.
02:32:12 21.12.2012 und dann sind Deine Probleme alle unwichtig.
Martin Gerdes
Posts: 5
Joined: 2015-12-10 11:07

Re: IO-Leistung SSDs im RAID-5

Post by Martin Gerdes »

Natürlich war das RAID initialisiert.
Und wie ich geschrieben hatte: Ich habe die Platten einzeln getestet, also aus dem RAID-Controller ausgebaut, und in einem anderen Computer an SATA angeschlossen. Die waren definitiv viel zu langsam.

Ich habe jetzt neue SSDs in dem Server verbaut, Samsung PDC 845 (4 Stück a 400GB im RAID-4). Damit bekomme ich um die 400MB/s Schreibgeschwindigkeit, womit ich völlig zufrieden bin. :-)

Werde mit den alten SSDs noch experimentieren, ob ich aus ihnen nach einem factory reset wieder vernünftiges Tempo bekomme...
Martin Gerdes
Posts: 5
Joined: 2015-12-10 11:07

Re: IO-Leistung SSDs im RAID-5

Post by Martin Gerdes »

Gemein, ich darf meinen Beitrag nicht korrigieren...
Ich meinte: Samsung SSD 845DC PRO 400GB (4 Stück im RAID-5)