GNU/Linux >> LINUX-Kenntnisse >  >> Linux

DRBD schreckliche Synchronisierungsleistung auf 10GigE

Lösung 1:

In neueren Versionen von DRBD (8.3.9 und neuer) gibt es einen dynamischen Resync-Controller, der optimiert werden muss. In älteren Versionen von DRBD setzen Sie den syncer {rate;} war genug; jetzt wird es eher als leicht empfohlener Ausgangspunkt für die dynamische Resynchronisierungsgeschwindigkeit verwendet.

Der dynamische Sync-Controller wird mit den "c-settings" im Disk-Abschnitt der DRBD-Konfiguration abgestimmt (siehe $ man drbd.conf Einzelheiten zu diesen Einstellungen).

Mit 10 Gbe zwischen diesen Knoten und unter der Annahme einer geringen Latenzzeit, da Protokoll C verwendet wird, sollte die folgende Konfiguration die Dinge schneller in Bewegung bringen:

resource rd0 {
        protocol C;
        disk {
                c-fill-target 10M;
                c-max-rate   700M;
                c-plan-ahead    7;
                c-min-rate     4M;
        }
        on cl1 {
                device /dev/drbd0;
                disk /dev/sda4;
                address 192.168.42.1:7788;
                meta-disk internal;
        }

        on cl2 {
                device /dev/drbd0;
                disk /dev/sda4;
                address 192.168.42.2:7788;
                meta-disk internal;
        }
}

Wenn Sie immer noch nicht zufrieden sind, versuchen Sie, max-buffers zu drehen bis 12k. Wenn Sie immer noch nicht zufrieden sind, können Sie versuchen, c-fill-target aufzudrehen in 2M-Schritten.

Lösung 2:

Jemand anderswo hat vorgeschlagen, dass ich diese Einstellungen verwende:

        disk {
                on-io-error             detach;
                c-plan-ahead 0;
        }
        net {
                max-epoch-size          20000;
                max-buffers             131072;
        }

Und die Leistung ist hervorragend.

Bearbeiten: Gemäß den Vorschlägen von @Matt Kereczman und anderen habe ich endlich Folgendes geändert:

disk {
        on-io-error             detach;
        no-disk-flushes ;
        no-disk-barrier;
        c-plan-ahead 0;
        c-fill-target 24M;
        c-min-rate 80M;
        c-max-rate 720M;
} 
net {
        # max-epoch-size          20000;
        max-buffers             36k;
        sndbuf-size            1024k ;
        rcvbuf-size            2048k;
}

Die Resynchronisierungsgeschwindigkeit ist hoch:

cat /proc/drbd
version: 8.4.5 (api:1/proto:86-101)
srcversion: EDE19BAA3D4D4A0BEFD8CDE
 0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r---n-
    ns:133246146 nr:0 dw:2087494 dr:131187797 al:530 bm:0 lo:0 pe:5 ua:106 ap:0 ep:1 wo:d oos:4602377004
        [>....................] sync'ed:  2.8% (4494508/4622592)M
        finish: 1:52:27 speed: 682,064 (646,096) K/sec

Die Schreibgeschwindigkeit ist während der Resynchronisierung mit diesen Einstellungen ausgezeichnet (80 % der lokalen Schreibgeschwindigkeit, volle Leitungsgeschwindigkeit):

# dd if=/dev/zero of=./testdd bs=1M count=20k
20480+0 enregistrements lus
20480+0 enregistrements écrits
21474836480 octets (21 GB) copiés, 29,3731 s, 731 MB/s

Lesegeschwindigkeit ist OK:

# dd if=testdd bs=1M count=20k of=/dev/null
20480+0 enregistrements lus
20480+0 enregistrements écrits
21474836480 octets (21 GB) copiés, 29,4538 s, 729 MB/s

Später bearbeiten:

Nach einer vollständigen Resynchronisierung ist die Leistung sehr gut (wire speed writing, local speed reading). Die Resynchronisierung ist schnell (5/6 Stunden) und beeinträchtigt die Leistung nicht allzu sehr (Lesen mit Kabelgeschwindigkeit, Schreiben mit Kabelgeschwindigkeit). Ich bleibe auf jeden Fall bei c-plan-ahead bei null. Bei Werten ungleich Null dauert die Resynchronisierung viel zu lange.

Lösung 3:

c-plan-ahead muss einen positiven Wert setzen, um die dynamische Synchronisierungsrate controller.disk c-plan-ahead 15; // 5 * RTT / 0.1s unit,in my case is 15 c-fill-target 24; c-max-rate 720M; zu aktivieren


Linux
  1. Linux – Verstehen von Synchronisierungsbefehlsoperationen in Linux?

  2. Gewusst wie:DRBD-Replikation und -Konfiguration

  3. Wie kann die Website-Performance mit der Caching-Lösung XCache beschleunigt werden?

  4. Linux-Betriebssystemdienst „cpuspeed“

  5. Leistung 32-Bit- vs. 64-Bit-Arithmetik

So beheben Sie die langsame Übertragungsgeschwindigkeit des Zyxel NAS326

Linux – Diagramm des Linux-Kernels vs. Performance-Tools?

So installieren Sie DRBD unter CentOS Linux

Verwenden Sie NTP, um die Zeit zu synchronisieren

Nginx-Leistungsoptimierung

Ein Video unter Linux beschleunigen