GNU/Linux >> LINUX-Kenntnisse > >> Cent OS

Hochverfügbarer Speicher mit GlusterFS 3.2.x auf CentOS 6.3 – Automatische Dateireplikation (Mirror) über zwei Speicherserver hinweg

Dieses Tutorial zeigt, wie Sie einen Hochverfügbarkeitsspeicher mit zwei Speicherservern (CentOS 6.3) einrichten, die GlusterFS verwenden. Jeder Speicherserver ist ein Spiegel des anderen Speicherservers, und Dateien werden automatisch über beide Speicherserver repliziert. Das Client-System (auch CentOS 6.3) kann auf den Speicher zugreifen, als wäre es ein lokales Dateisystem. GlusterFS ist ein geclustertes Dateisystem, das auf mehrere Petabyte skaliert werden kann. Es aggregiert verschiedene Speicherbausteine über Infiniband-RDMA- oder TCP/IP-Verbindungen zu einem großen parallelen Netzwerkdateisystem. Storage Bricks können aus jeder handelsüblichen Hardware wie x86_64-Servern mit SATA-II-RAID und Infiniband-HBA hergestellt werden.

Ich gebe keine Garantie dafür, dass dies bei Ihnen funktioniert!

1 Vorbemerkung

In diesem Tutorial verwende ich drei Systeme, zwei Server und einen Client:

server1.example.com:IP-Adresse 192.168.0.100 (Server)
server2.example.com:IP-Adresse 192.168.0.101 (Server)
client1.example.com:IP-Adresse 192.168.0.102 (Client)

Alle drei Systeme sollten in der Lage sein, die Hostnamen der anderen Systeme aufzulösen. Wenn dies nicht über DNS möglich ist, sollten Sie die Datei /etc/hosts so bearbeiten, dass sie auf allen drei Systemen wie folgt aussieht:

vi /etc/hosts

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
192.168.0.100   server1.example.com     server1
192.168.0.101   server2.example.com     server2
192.168.0.102   client1.example.com     client1

::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

(Es ist auch möglich, IP-Adressen anstelle von Hostnamen im folgenden Setup zu verwenden. Wenn Sie lieber IP-Adressen verwenden, müssen Sie sich nicht darum kümmern, ob die Hostnamen aufgelöst werden können oder nicht.)

2 Zusätzliche Repositories aktivieren

server1.example.com/server2.example.com/client1.example.com:

Zuerst importieren wir die GPG-Schlüssel für Softwarepakete:

rpm --import /etc/pki/rpm-gpg/RPM-GPG-KEY*

Dann aktivieren wir das EPEL6-Repository auf unseren CentOS-Systemen:

rpm --import https://fedoraproject.org/static/0608B895.txt

cd /tmp
wget http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-7.noarch.rpm
rpm -ivh epel-release-6- 7.noarch.rpm

yum install yum-priorities

Bearbeiten Sie /etc/yum.repos.d/epel.repo...

vi /etc/yum.repos.d/epel.repo

... und fügen Sie die Zeile priority=10 zum Abschnitt [epel] hinzu:

[epel]
name=Extra Packages for Enterprise Linux 6 - $basearch
#baseurl=http://download.fedoraproject.org/pub/epel/6/$basearch
mirrorlist=https://mirrors.fedoraproject.org/metalink?repo=epel-6&arch=$basearch
failovermethod=priority
enabled=1
priority=10
gpgcheck=1
gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-EPEL-6
[...]

3 Einrichten der GlusterFS-Server

server1.beispiel.com/server2.beispiel.com:

GlusterFS ist als Paket für EPEL verfügbar, daher können wir es wie folgt installieren:

yum install glusterfs-server

Erstellen Sie die Systemstartlinks für den Gluster-Daemon und starten Sie ihn:

chkconfig --levels 235 glusterd on
/etc/init.d/glusterd start

Der Befehl

glusterfsd --version

sollte jetzt die gerade installierte GlusterFS-Version anzeigen (in diesem Fall 3.2.7):

[[email protected] ~]# glusterfsd --version
glusterfs 3.2.7 erstellt am 11. Juni 2012 13:22:28
Repository-Überarbeitung:git://git.gluster.com/glusterfs.git
Copyright (c) 2006-2011 Gluster Inc.
GlusterFS wird mit ABSOLUT KEINER GARANTIE geliefert.
Sie dürfen Kopien von GlusterFS unter den Bedingungen weitergeben die GNU General Public License.
[[email protected] ~]#

Wenn Sie eine Firewall verwenden, stellen Sie sicher, dass die TCP-Ports 111, 24007, 24008, 24009 (24009 + Anzahl der Bricks auf allen Volumes) auf server1.example.com und server2.example.com geöffnet sind.

Als Nächstes müssen wir server2.example.com zum vertrauenswürdigen Speicherpool hinzufügen (bitte beachten Sie, dass ich alle GlusterFS-Konfigurationsbefehle von server1.example.com aus ausführe, Sie sie aber auch von server2.example.com ausführen können, da die Konfiguration zwischen den GlusterFS-Knoten repliziert - stellen Sie nur sicher, dass Sie die richtigen Hostnamen oder IP-Adressen verwenden):

server1.beispiel.com:

Führen Sie auf server1.example.com

aus

gluster peer probe server2.example.com

[[email protected] ~]# gluster peer probe server2.example.com
Prüfung erfolgreich
[[email protected] ~]#

Der Status des vertrauenswürdigen Speicherpools sollte jetzt ungefähr so aussehen:

gluster peer status

[[email protected] ~]# Gluster-Peer-Status
Anzahl der Peers:1

Hostname:server2.example.com
Uuid:7cd93007-fccb-4fcb-8063-133e6ba81cd9
Status:Peer im Cluster (verbunden)
[[email protected] ~]#

Als nächstes erstellen wir die Freigabe mit dem Namen testvol mit zwei Replikaten (bitte beachten Sie, dass die Anzahl der Replikate in diesem Fall gleich der Anzahl der Server ist, da wir die Spiegelung einrichten möchten) auf server1.example.com und server2.example.com in der /data-Verzeichnis (dieses wird erstellt, wenn es nicht existiert):

gluster volume create testvol replica 2 transport tcp server1.example.com:/data server2.example.com:/data

[[email protected] ~]# gluster volume create testvol replica 2 transport tcp server1.example.com:/data server2.example.com:/data
Die Erstellung des Volumes testvol war erfolgreich. Bitte starten Sie das Volume, um auf die Daten zuzugreifen.
[[email protected] ~]#

Lautstärke starten:

gluster volume start testvol

Es ist möglich, dass der obige Befehl Ihnen mitteilt, dass die Aktion nicht erfolgreich war:

[[email protected] ~]# gluster volume start testvol
Das Starten von volume testvol war nicht erfolgreich
[[email protected] ~]#

In diesem Fall sollten Sie die Ausgabe von...

überprüfen

server1.beispiel.com/server2.beispiel.com:

netstat -tap | grep glusterfsd

auf beiden Servern.

Wenn Sie eine solche Ausgabe erhalten...

[[email protected] ~]# netstat -tap | grep glusterfsd
TCP 0 0*:24009*:*Hören 1365 /glusterfsd
TCP 0 0 LOCALHOST:1023 LOCALHOST:24007 Erstellt 1365 /glusterfsd
tcp 0 0 server1.example.com:24009 server1.example.com:1023 EINRICHTET 1365/glusterfsd
[[email protected] ~]#

... alles ist in Ordnung, aber wenn Sie keine Ausgabe bekommen...

[[email protected] ~]# netstat -tap | grep glusterfsd
[[email protected] ~]#

... den GlusterFS-Daemon auf dem entsprechenden Server (in diesem Fall server2.example.com) neu starten:

server2.beispiel.com:

/etc/init.d/glusterfsd restart

Überprüfen Sie dann die Ausgabe von...

netstat -tap | grep glusterfsd

... wieder auf diesem Server - es sollte jetzt so aussehen:

[[email protected] ~]# netstat -tap | grep glusterfsd
tcp 0 0*:24010*:*Hören 1458 /glusterfsd
tcp 0 0 localhost.localdom:1021 localhost.localdo:24007 etabliert 1458 /glusterfsd
[[E -Mail geschützt] ~ ~ ~ ~ ~ ]#

Nun zurück zu server1.example.com:

server1.beispiel.com:

Sie können den Status des Volumes mit dem Befehl

überprüfen

gluster volume info

[[email protected] ~]# gluster volume info

Volume-Name:testvol
Typ:Replizieren
Status:Gestartet
Anzahl der Bricks:2
Transporttyp:tcp
Bricks:
Brick1:server1. example.com:/data
Brick2:server2.example.com:/data
[[email protected] ~]#

Standardmäßig können sich alle Clients mit dem Volume verbinden. Wenn Sie nur client1.example.com (=192.168.0.102) Zugriff gewähren möchten, führen Sie Folgendes aus:

gluster volume set testvol auth.allow 192.168.0.102

Bitte beachten Sie, dass für die IP-Adressen Wildcards verwendet werden können (z. B. 192.168.*) und mehrere IP-Adressen durch Komma getrennt angegeben werden können (z. B. 192.168.0.102,192.168.0.103).

Die Volume-Info sollte nun den aktualisierten Status anzeigen:

gluster volume info

[[email protected] ~]# gluster volume info

Volume-Name:testvol
Typ:Replizieren
Status:Gestartet
Anzahl der Bricks:2
Transporttyp:tcp
Bricks:
Brick1:server1. example.com:/data
Brick2:server2.example.com:/data
Optionen neu konfiguriert:
auth.allow:192.168.0.102
[[email protected] ~]#

4 Einrichten des GlusterFS-Clients

client1.beispiel.com:

Auf dem Client können wir den GlusterFS-Client wie folgt installieren:

yum install glusterfs-client

Dann erstellen wir folgendes Verzeichnis:

mkdir /mnt/glusterfs

Das ist es! Jetzt können wir das GlusterFS-Dateisystem mit dem folgenden Befehl in /mnt/glusterfs einhängen:

mount.glusterfs server1.example.com:/testvol /mnt/glusterfs

(Anstelle von server1.example.com können Sie im obigen Befehl auch server2.example.com verwenden!)

Sie sollten nun die neue Freigabe in den Ausgaben von...

sehen

mount

[[email protected] ~]# mount
/dev/mapper/vg_client1-LogVol00 on / geben Sie ext4 (rw) ein
proc on /proc geben Sie proc (rw) ein
sysfs on /sys geben Sie ein sysfs (rw)
devpts auf /dev/pts geben Sie devpts (rw,gid=5,mode=620) ein
tmpfs auf /dev/shm geben Sie tmpfs (rw)
/dev/sda1 ein bei /boot ext4 (rw) eingeben
keine bei /proc/sys/fs/binfmt_misc binfmt_misc (rw) eingeben
sunrpc bei /var/lib/nfs/rpc_pipefs rpc_pipefs (rw) eingeben
server1.example.com:/testvol auf /mnt/glusterfs geben Sie fuse.glusterfs (rw,allow_other,default_permissions,max_read=131072)
[[email protected] ~]#

ein

... und ...

df -h

[[email protected] ~]# df -h
Dateisystem Größe Verwendet Avail Use% Gemountet auf
/dev/mapper/vg_client1-LogVol00
9.7G 1.7G 7.5G /
/> tmpfs 499m 0 499m 0%/dev/shm
/dev/sda1 504m 39m 440m 9%/boot
server1.example.com:/testvol
29G 1.1G 27G 4%/ mnt/glusterfs
[[email protected] ~]#

Anstatt die GlusterFS-Freigabe manuell auf dem Client zu mounten, könnten Sie /etc/fstab so ändern, dass die Freigabe automatisch gemountet wird, wenn der Client startet.

Öffnen Sie /etc/fstab und fügen Sie die folgende Zeile an:

vi /etc/fstab

[...]
server1.example.com:/testvol /mnt/glusterfs glusterfs defaults,_netdev 0 0

(Auch hier können Sie anstelle von server1.example.com auch server2.example.com verwenden!)

Um zu testen, ob Ihre modifizierte /etc/fstab funktioniert, starten Sie den Client neu:

reboot

Nach dem Neustart sollten Sie die Freigabe in den Ausgaben von ...

finden

df -h

... und ...

mount

5 Testen

Lassen Sie uns nun einige Testdateien auf der GlusterFS-Freigabe erstellen:

client1.beispiel.com:

Berühren Sie /mnt/glusterfs/test1
Berühren Sie /mnt/glusterfs/test2

Lassen Sie uns nun das /data-Verzeichnis auf server1.example.com und server2.example.com überprüfen. Die Dateien test1 und test2 sollten auf jedem Knoten vorhanden sein:

server1.beispiel.com/server2.beispiel.com:

ls -l /data

[[email protected] ~]# ls -l /data
insgesamt 8
-rw-r--r-- 1 root root 0 2012-12-17 11:17 test1
- rw-r--r-- 1 root root 0 2012-12-17 11:17 test2
[[email protected] ~]#

Jetzt fahren wir server1.example.com herunter und fügen einige Dateien auf der GlusterFS-Freigabe auf client1.example.com hinzu/löschen sie.

server1.beispiel.com:

shutdown -h now

client1.beispiel.com:

touch /mnt/glusterfs/test3
touch /mnt/glusterfs/test4
rm -f /mnt/glusterfs/test2

Die Änderungen sollten im Verzeichnis /data auf server2.example.com sichtbar sein:

server2.beispiel.com:

ls -l /data

[[email protected] ~]# ls -l /data
insgesamt 8
-rw-r--r-- 1 root root 0 2012-12-17 11:17 test1
- rw-r--r-- 1 root root 0 2012-12-17 11:38 test3
-rw-r--r-- 1 root root 0 2012-12-17 11:38 test4
>[[E-Mail geschützt] ~]#

Lassen Sie uns server1.example.com erneut booten und einen Blick auf das /data-Verzeichnis werfen:

server1.beispiel.com:

ls -l /data

[[email protected] ~]# ls -l /data
insgesamt 8
-rw-r--r-- 1 root root 0 2012-12-17 11:17 test1
- rw-r--r-- 1 root root 0 2012-12-17 11:17 test2
[[email protected] ~]#

Wie Sie sehen, hat server1.example.com die Änderungen nicht bemerkt, die während des Ausfalls vorgenommen wurden. Dies ist einfach zu beheben, wir müssen lediglich einen Lesebefehl auf der GlusterFS-Freigabe auf client1.example.com aufrufen, z. B.:

client1.beispiel.com:

ls -l /mnt/glusterfs/

[[email protected] ~]# ls -l /mnt/glusterfs/
insgesamt 8
-rw-r--r-- 1 root root 0 2012-12-17 11:17 test1
-rw-r--r-- 1 root root 0 2012-12-17 11:38 test3
-rw-r--r-- 1 root root 0 2012-12-17 11:38 test4
[[E-Mail geschützt] ~]#

Sehen Sie sich jetzt noch einmal das /data-Verzeichnis auf server1.example.com an, und Sie sollten sehen, dass die Änderungen auf diesen Knoten repliziert wurden:

server1.beispiel.com:

ls -l /data

[[email protected] ~]# ls -l /data
insgesamt 4
-rw-r--r-- 1 root root 0 2012-12-17 11:17 test1
- rw-r--r-- 1 root root 0 2012-12-17 11:38 test3
-rw-r--r-- 1 root root 0 2012-12-17 11:38 test4
>[[E-Mail geschützt] ~]#

6 Links

GlusterFS:http://www.gluster.org/
GlusterFS 3.2-Dokumentation:http://download.gluster.com/pub/gluster/glusterfs/3.2/Documentation/AG/html/index.html
CentOS:http://www.centos.org/

Installieren von Apache2 mit PHP5- und MySQL-Unterstützung auf CentOS 6.3 (LAMP)

Erstellen eines NFS-ähnlichen eigenständigen Speicherservers mit GlusterFS 3.2.x auf CentOS 6.3

Cent OS

Hochverfügbarer Speicher mit GlusterFS 3.0.x auf Debian Squeeze – Automatische Dateireplikation über zwei Speicherserver hinweg

Hochverfügbarer Speicher mit GlusterFS 3.2.x auf Debian Wheezy – Automatische Dateireplikation (Mirror) über zwei Speicherserver

Verteilter Speicher auf vier Speicherknoten mit GlusterFS 3.2.x auf CentOS 6.3

Verteilter replizierter Speicher über vier Speicherknoten mit GlusterFS 3.2.x auf CentOS 6.3

Striping über vier Speicherknoten mit GlusterFS auf Fedora 12

Hochverfügbarer Speicher mit GlusterFS auf Fedora 12 – Automatische Dateireplikation (Mirror) über zwei Speicherserver