Lösung 1:
In neueren Versionen von DRBD (8.3.9 und neuer) gibt es einen dynamischen Resync-Controller, der optimiert werden muss. In älteren Versionen von DRBD setzen Sie den syncer {rate;}
war genug; jetzt wird es eher als leicht empfohlener Ausgangspunkt für die dynamische Resynchronisierungsgeschwindigkeit verwendet.
Der dynamische Sync-Controller wird mit den "c-settings" im Disk-Abschnitt der DRBD-Konfiguration abgestimmt (siehe $ man drbd.conf
Einzelheiten zu diesen Einstellungen).
Mit 10 Gbe zwischen diesen Knoten und unter der Annahme einer geringen Latenzzeit, da Protokoll C verwendet wird, sollte die folgende Konfiguration die Dinge schneller in Bewegung bringen:
resource rd0 { protocol C; disk { c-fill-target 10M; c-max-rate 700M; c-plan-ahead 7; c-min-rate 4M; } on cl1 { device /dev/drbd0; disk /dev/sda4; address 192.168.42.1:7788; meta-disk internal; } on cl2 { device /dev/drbd0; disk /dev/sda4; address 192.168.42.2:7788; meta-disk internal; } }
Wenn Sie immer noch nicht zufrieden sind, versuchen Sie, max-buffers
zu drehen bis 12k. Wenn Sie immer noch nicht zufrieden sind, können Sie versuchen, c-fill-target
aufzudrehen in 2M-Schritten.
Lösung 2:
Jemand anderswo hat vorgeschlagen, dass ich diese Einstellungen verwende:
disk {
on-io-error detach;
c-plan-ahead 0;
}
net {
max-epoch-size 20000;
max-buffers 131072;
}
Und die Leistung ist hervorragend.
Bearbeiten: Gemäß den Vorschlägen von @Matt Kereczman und anderen habe ich endlich Folgendes geändert:
disk {
on-io-error detach;
no-disk-flushes ;
no-disk-barrier;
c-plan-ahead 0;
c-fill-target 24M;
c-min-rate 80M;
c-max-rate 720M;
}
net {
# max-epoch-size 20000;
max-buffers 36k;
sndbuf-size 1024k ;
rcvbuf-size 2048k;
}
Die Resynchronisierungsgeschwindigkeit ist hoch:
cat /proc/drbd
version: 8.4.5 (api:1/proto:86-101)
srcversion: EDE19BAA3D4D4A0BEFD8CDE
0: cs:SyncSource ro:Primary/Secondary ds:UpToDate/Inconsistent C r---n-
ns:133246146 nr:0 dw:2087494 dr:131187797 al:530 bm:0 lo:0 pe:5 ua:106 ap:0 ep:1 wo:d oos:4602377004
[>....................] sync'ed: 2.8% (4494508/4622592)M
finish: 1:52:27 speed: 682,064 (646,096) K/sec
Die Schreibgeschwindigkeit ist während der Resynchronisierung mit diesen Einstellungen ausgezeichnet (80 % der lokalen Schreibgeschwindigkeit, volle Leitungsgeschwindigkeit):
# dd if=/dev/zero of=./testdd bs=1M count=20k
20480+0 enregistrements lus
20480+0 enregistrements écrits
21474836480 octets (21 GB) copiés, 29,3731 s, 731 MB/s
Lesegeschwindigkeit ist OK:
# dd if=testdd bs=1M count=20k of=/dev/null
20480+0 enregistrements lus
20480+0 enregistrements écrits
21474836480 octets (21 GB) copiés, 29,4538 s, 729 MB/s
Später bearbeiten:
Nach einer vollständigen Resynchronisierung ist die Leistung sehr gut (wire speed writing, local speed reading). Die Resynchronisierung ist schnell (5/6 Stunden) und beeinträchtigt die Leistung nicht allzu sehr (Lesen mit Kabelgeschwindigkeit, Schreiben mit Kabelgeschwindigkeit). Ich bleibe auf jeden Fall bei c-plan-ahead bei null. Bei Werten ungleich Null dauert die Resynchronisierung viel zu lange.
Lösung 3:
c-plan-ahead muss einen positiven Wert setzen, um die dynamische Synchronisierungsrate controller.disk
c-plan-ahead 15; // 5 * RTT / 0.1s unit,in my case is 15
c-fill-target 24;
c-max-rate 720M;
zu aktivieren