Keller 2.0 – HP c-Class BladeSystem

Bilder sprechen mehr also Worte und eigentlich bin ich immer noch total sprachlos, von dem was da in meinem Keller vorgeht. 😉 Aber diese Geschichte will von Anfang an erzählt werden:

Nach ein paar unangenehmen Vorfällen mit meinem HP p-Class BladeSystem und aufgrund der hohen Preise für passende Arbeitsspeicher Module, CPU Erweiterungen, Storage Connectivity Kit, usw. entschloss ich mich in Zukunft besser auf ein c-Class BladeSystem zu konzentrieren. Alleine die Tatsache das Arbeitsspeicher für einen BL460c Blade Server nur ein Bruchteil von dem kostet was ich für passende Module für einen BL20p Blade Server aufwenden muss, festigte weiter meinen Entschluss mich vom p-Class Blade System langsam aber sicher zu trennen.

Ein glücklicher Zufall spielte mir vor Kurzem optimale Verhandlungsbedingungen zu und so konnte ich mich mit meinem Lieblings Lieferanten MCL Computer & Zubehör GmbH auf einen Bombenpreis für ein HP c-Class C7000 Enclosure einigen. 😉 In einem Anfall von Begeisterung und Euphorie hatte ich direkt im Anschluss in ebay.com für relativ wenig Geld ein HP Virtual Connect 4 GB Fibre Channel Modul geschossen. Der Weg für brandaktuelle Technologie war damit geebnet. Heute früh um 8:32 Uhr vervollständigte ich das HP Virtual Connect um das passendes Virtual Connect 1/10 Gb Ethernet Modul. Damit wäre das Kapitel moderner Interconnect soweit abgeschlossen.

Im Laufe dieses Nachmittags trudelte dann endlich – nach langem Warten – das C7000 Enclosure bei uns auf Arbeit ein. So sehr auf Feierabend wie heute hatte mich schon lange nicht mehr gefreut. 🙂 Jetzt heißt es erst mal Platz im Rack für den „Keller 2.0“ schaffen! Und zu Weihnachten wünsch ich mir dann einen passenden Blade Server. 🙂 Einfach nur hammergeil !!! 😀

HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure
HP BladeSystem c-Class C7000 Enclosure

HP EVA 5000 Upgrade ;)

So, geschafft ! 🙂 Die Preise für Platten sind endlich mal in Keller gepurzelt – außer bei den ganzen Traumtänzern *räusper* Resellern in eBay.de – und ich hab meine zwei M5214 Diskshelves endlich voll gemacht. 🙂 Nun dürfen 28 Stück 73 GB 15k Fibre Channel Platten in einer Diskgroup rackern und mir jedesmal ein Lächeln ins Gesicht zaubern. 🙂

HP EVA 5000 28 Stück 72 GB 15k
HP EVA 5000 28 Stück 72 GB 15k

Ich hab ein paar Benchmarks durchgeführt und kriege durchweg konstant unter allen Umständen mind. 120 MByte/Sek. schreibend und 180 MByte/Sek. lesend hin. Unter sehr idealen Bedingungen sind auch über 300 MByte/Sek. schreibend bei einem Vraid-0 möglich. Das ist natürlich schon ziemlich extrem bei maximal 2 GBit/s Fibre Channel. 😉 Wie auch immer, jede LUN die ich angelegt und getestet habe, fühlte sich wirklich verdammt schnell an. Echt cooooooooool. 🙂

Geschafft…

… na ja, fast geschafft. Es fehlt eigentlich nur noch das Storage Connectivity Kit für die Fibre Channel Anbindung. Ansonsten ist das BladeSystem nun voll. 🙂

Hinzu gesellt haben sich vier Stück BL25p Opteron basierende Blade Server mit folgender Ausstattung:
– 2x Opteron 250 2,4 GHz
– 3 GB RAM
– QLogic Dual Port 2GBit/s FC Mezzanine Card

Einfach nur cooooool…. 😉 Nach meinem Urlaub betanke ich die Kisten brav mit OpenSolaris und werde meine ersten Cluster Versuche starten.

HP BladeSystem
HP BladeSystem

Und wieder ein Keller Update

Diese Woche sind wieder ein paar neue Spielsachen für meinen Keller eingetrudelt. 😉

Allen voran die Extension Bars für die „noch“ fehlende PDU. Wobei letztere schon ersteigert und demnächst auf dem Weg ist. Ein weiterer Server hat auch sein neues Zuhause bei mir gefunden. Der HP ProLiant DL 380 G4 ist mit 3,4 GHz und 1 GB RAM ganz moderat ausgestattet und darf ab sofort als Altiris Deployment Server für meine Blade Server Landschaft herhalten. 😉

Ansonsten hab ich auch meinen DL320s endlich ins Rack geschraubt, fehlen nur noch ordentlich Hot-Plug Festplatten Rahmen. Aber was nicht ist, wird noch.

Zu guter Letzt habe ich etwas die Verkabelung aufgeräumt, nun sieht das schon deutlich aufgeräumter aus. Aber jetzt genug gequasselt, Bilder sagen mehr als Worte. 🙂

DL320s, 2x DL380 G4, BladeSystem
DL320s, 2x DL380 G4, BladeSystem
Rückansicht DL320s, 2x DL380 G4 und BladeSystem
Rückansicht DL320s, 2x DL380 G4 und BladeSystem
Extension Bars 1+2
Extension Bars 1+2
Extension Bar 3+4
Extension Bar 3+4
Netzwerk + Fibre Channel
Netzwerk + Fibre Channel

HP ProLiant BL20p G3 + OpenSolaris 2009.06

… oder soll ich schreiben OpenSolaris 2009.06 + Broadcom NetXtreme 57xx ? 😉

Einige Zeit bevor ich hier einen BL20p G3 Blade Server mit OpenSolaris betankte, hatte ich schon so meine Schwierigkeiten mit einem Asus P5MT-MX/C Mainboard und dessen on board Broadcom 5753 GBit LAN Adapter. Ich hatte das Problem allerdings gelöst und die Vorgehensweise erstmal aus meinem Kopf gestrichen. Ein schwerer Fehler wie sich heute herausstellte. 😉

Diese Woche beschloss ich auf meinen Blade Server OpenSolaris 2009.06 zu installieren. Gesagt getan. Nach erfolgreicher Installation habe ich ordnungsgemäß auf eine feste IP Adresse umgestellt (demnächst nachzulesen auf meinem Wiki) und meinen DNS Server entsprechend konfiguriert. Zeit für einen Reboot. In Vorfreude auf die OpenSolaris Installation, denn mit Linux und Windows hab ich es nicht so, wollte ich mich mit SSH verbinden.

Ergebnis: „connection refused“

Fuck !

Nach einiger Zeit war dann doch eine SSH Verbindung möglich, aber für gerade mal 10 Sekunden. Danach wieder „connection refused“… Ich hatte keinen Bock mehr, war ja auch schon halb eins Nacht. 😉

*PAUSE*

Heute habe ich mich dem Problem „connection refused“ wieder angenommen. Nach einigen Versuchen und Umbauten wurde ich dann in meiner Vermutung, dass es eigentlich nur noch ein Treiber Problem sein kann, immer mehr bestätigt. Im Gespräch mit ein paar Leuten schoß mir dann aus dem Nichts heraus der Gedanke „Mensch war da nicht was mit dem Asus Board und dem bge Treiber?“ durch denn Kopf. Die Lösung war zum greifen nah. 😉

# pkg uninstall SUNWbge
# cd /tmp
# wget http://www.tschokko.de/sol86-11.7.2.zip
# unzip sol86<TAB>
# cd sol86<TAB>
# pkgadd -d ./BRCMbcme.pkg
# mv /etc/hostname.bge0 /etc/hostname.bcme0
# reboot

Das war’s… 😉

Offensichtlich hat der OpenSolaris bge Treiber ein paar Probleme mit Broadcom Adaptern. Darum hab ich diesen Treiber deinstalliert und den Solaris 10 x86/x64 Treiber von Broadcom installiert. Nun rennt OpenSolaris ohne Probleme auf meinem BL20p G3 Server… 🙂 Wie man den HP/Compaq SmartArray Raid Treiber  (cpgary3) zum Installationszeitpunkt unter OpenSolaris einbindet, erzähle ich euch demnächst. 😉

Rubrik Keller aktualisiert

Ich hab wieder ein paar Systeme hinzugefügt, als auch ein paar Sachen aktualisiert. 🙂 Neben HP und Sun Systeme hab ich nun die Seiten Netzwerk und SAN gestartet. Langsam aber sicher werden die Keller Seiten schon. Viel Spaß beim Anschauen.

Blade Server Upgrade

Wird mal wieder Zeit für einen Artikel aus meinem Heim-RZ. 😉

Habe am Freitag vier HP BL20p G3 Server bekommen und natürlich sofort ausprobiert. :)Bilder sprechen mehr als Worte:

dsc02784h

Details zur Ausstattung der Geräte demnächst in meiner Keller Rubrik. Ansonsten hab ich das Wochenende mit VMware ESX 4i und Windows Server 2008 gespielt. Läuft hervorragend auf den Dinger, lediglich Arbeitsspeicher muss ich deutlich nachrüsten.

Rubrik Keller aktualisiert!

Habe nun mit der Beschreibung meiner Sun Systeme begonnen. Den Anfang macht die Sun Fire 3800. Hier geht’s zu den Sun Systemen.

BTW. Wer ein Sun Fire 3800 Rack übrig hat oder weiß wo ich eines bekommen kann, bitte Mail oder Kommentar !!! Danke… Ebenso nehme ich gerne ein altes graues StorEdge Rack für meine 6120 Arrays für einen fairen Preis entgegen. Nicht zu vergessen wenn möglich Abholung im Raum Bayern.

Solaris Jumpstart Server auf OpenSolaris 2009.06

Da im Moment OpenSolaris 2009 auf meiner Sun Fire 3800 nicht booten will, hab ich mich dazu entschlossen fix Solaris 10 U7 aufzuspielen. Logischerweise macht man das über einen Jumpstart Server, sofern kein DVD-ROM vorhanden ist. Leider ist der Jumpstart Server nicht so ohne weiteres auf einer OpenSolaris 2009.06 Maschine eingerichtet. Also musste wie so oft Freund Google herhalten und die zwei wesentlichen Probleme möchte ich hier natürlich verewiegen.

Problem 1: Kein Bootparams Daemon (RARP)

Entgegen der Empfehlung die Pakete SUNWbsu und SUNWbsr zu installieren, genügt ein:

# pkg install SUNWbs

Problem 2: Timed out waiting for TFTP reply

Der TFTP Daemon unter OpenSolaris 2009.06 muss wie folgt angepasst werden:

# echo tftp dgram udp6 wait root /usr/sbin/in.tftpd in.tftpd -s /tftpboot >> /etc/inetd.conf
# inetconv

ggf. noch ein:

# svcadm restart svc:/network/tftp/udp6:default

Joa und das wars eigentlich schon. Der Rest ist wie gehabt. 😉 Im Schnelldurchlauf heißt das:

./setup_install_server /export/installserver/sol-10-xx
echo 08:00:20:e9:3a:fc ius0013 >> /etc/ethers
echo 192.168.209.13 ius0013 >> /etc/hosts
./add_install_client ius0013 sun4u