GNU/Linux >> LINUX-Kenntnisse >  >> Linux

Wie erstelle ich mehrere Zips aus einem Verzeichnis mit einer Million XML-Dateien?

Ich habe ein Verzeichnis mit Millionen XML-Dateien.
Ich möchte mehrere ZIP-Dateien mit n XML-Dateien erstellen. Zum Beispiel:Wenn n =10000, dann möchte ich 100 Zip-Dateien erstellen, d. h. jede Zip-Datei hat nur 10000 XML-Dateien.

Wie lassen sich diese ZIP-Dateien am effizientesten erstellen? Ich möchte nicht, dass dieser Vorgang mehr Zeit in Anspruch nimmt, da ich diesen Vorgang für mehrere Ordner mit Millionen von XML-Dateien wiederholen muss.

Akzeptierte Antwort:

Dies kann nützlich sein:

$ zip all.zip *.xml  ## create a big archive.

Ermitteln Sie die Gesamtgröße des Archivs:

$ ls -lh all.zip

Teilen Sie nun das große Archiv nach Bedarf in kleine Archive auf:

$ split -b 5M all.zip ## creates 5 MB zips

Hinweis:Das Extrahieren der Archive funktioniert nicht, es sei denn, Sie verbinden sie wieder:

cat x* > oldbigzip.

Linux
  1. So erstellen Sie einen Link zu einem Verzeichnis

  2. So erstellen Sie ein Linux-kompatibles Zip-Archiv eines Verzeichnisses auf einem Mac

  3. Wie verschiebt man alle Dateien vom aktuellen Verzeichnis in das obere Verzeichnis?

  4. Wie lade ich mehrere Dateien vom Linux-Server auf FTP hoch?

  5. So holen Sie mit Ansible mehrere Dateien vom Remote-Computer auf den lokalen Computer

So erstellen Sie ein Video aus PDF-Dateien unter Linux

So komprimieren Sie mehrere Dateien unter Linux

Wie verschiebt man alle Dateien (einschließlich versteckter) von einem Verzeichnis in ein anderes?

Wie verschiebt man 100 Dateien aus einem Ordner mit Tausenden?

Befehl zum Komprimieren mehrerer Verzeichnisse in einzelne Zip-Dateien?

So erstellen Sie eine passwortgeschützte Zip-Datei oder Verzeichnisse in Linux