kopieren grosser Datenmengen auf NAS - welche Einstellungen?

German support forum

Moderators: Hacker, Stefan2, white

Post Reply
Chris Keller
Junior Member
Junior Member
Posts: 29
Joined: 2012-10-02, 13:29 UTC

kopieren grosser Datenmengen auf NAS - welche Einstellungen?

Post by *Chris Keller »

Hallo miteinander!

Nun habe ich mir einen zweiten "riesigen" NAS (QNAP) zugelegt und experimentiere mit verschiedenen Einstellungen unter Kopieren/Löschen.

Mit 10240 k auch für "verschiedene Laufwerke" komme ich auf bis zu 74-MB/s bei "Verschieben" wenn ich von einem NAS auf den Anderen arbeite, mit dem Standard (32 k) "nur" auf ca. 40-MB/s. Gibt es da Erfahrungswerte für eine evt. optimalere Einstellung?

Dabei fallen mir zwei Dinge auf (TC Version 8.1 64Bit):

1. Der Prozessorkern "0" (i7 3770K mit 4 "realen" Kernen) trägt die Hauptlast (ca. 90%)

2. der reichlich vorhandene RAM (16 MB) wird kaum genutzt - nie über die "magischen" 4 MB

Alternative Versuche mit z.B. "TeraCopy" bringen sogar nur um 30-MB/s!

Mir ist schon klar, daß ich mich an die Leistungsgrenzen von LAN und die Lese-Schreibgeschwindigkeiten der NAS Laufwerke herantaste, aber vielleicht gibt es doch noch Optimierungsmöglichkeiten innerhalb TC?

Jeder Erfahrungswert wäre sehr von Interesse - herzlichen Dank im Voraus.

Grüße aus Stuttgart

Chris
User avatar
Dalai
Power Member
Power Member
Posts: 9977
Joined: 2005-01-28, 22:17 UTC
Location: Meiningen (Südthüringen)

Post by *Dalai »

Wie ist das NAS angeschlossen bzw. wie greifst du darauf zu? Auf Netzlaufwerke greift die Einstellung der Kopiermethode mit Sicherheit anders als auf lokale Laufwerke (sofern überhaupt, das weiß ich nicht).

MfG Dalai
#101164 Personal licence
Ryzen 5 2600, 16 GiB RAM, ASUS Prime X370-A, Win7 x64

Plugins: Services2, Startups, CertificateInfo, SignatureInfo, LineBreakInfo - Download-Mirror
Chris Keller
Junior Member
Junior Member
Posts: 29
Joined: 2012-10-02, 13:29 UTC

Post by *Chris Keller »

Hallo Dalai,

danke für die prompte Reaktion und das Interesse an meiner Frage!

1. die beiden NAS Einheiten sind über "Giga"-LAN miteinander und mit den div. PC's verbunden.

2. dankenswerter Weise machst Du deutlich, daß ich im Eifer eigentlich zwei Fragen vermischt habe.

Die LAN Grenzen sind mir einigermaßen klar.
So habe ich mein neueres, größeres QNAP-NAS über die dort vorhandenen zwei "Eathernet" Anschlüsse, die sich untereinander balancieren lasse, auf meinen NETGEAR "Giga"-Switch geschaltet.
Das bringt laut der Bandbreiten Anzeige in dem QNAP Gerät schon einiges...
Wie schon vermutet liegt im LAN wohl der wesentliche Engpaß im "Verkehr" mit den NAS Systemen...

Die zweite Frage, auf die ich eigentlich abzielen wollte, betrifft die möglichen Einstellungen in TC, damit der 64Bit TC auf dem 64Bit Win7 durch Pufferung beim Kopieren/Bewegen alle Engpässe möglichst weit "abfedert" (Schreibzugriffe, LAN etc.), um diese möglichst gut zu optimieren.

Daß hier Potential sein könnte, schließe ich aus dem signifikanten Unterschied zwischen der Standardeinstellung in TC (32k) gegenüber den 10240 k "für größere Dateien", die in TC angeboten werden.
Kann/sollte man da noch größere Werte verwenden und wo könnten die Nachteile zu großer Werte liegen?

Daß die Standardeinstellung für die häufigen Kleinstdateien mit 32K gut sind, leuchtet mir ein, aber ich hantiere oft mit "riesigen" Photo- und Video- Dateien, die dann regelmäßig auf die NAS Geräte gehen sollen...

Auf die Frage kam ich zunächst, da mir (für 64Bit) die RAM Nutzung zu gering erschien...

mfg

Chris
User avatar
karlchen
Power Member
Power Member
Posts: 4605
Joined: 2003-02-06, 22:23 UTC
Location: Germany

Post by *karlchen »

Hallo, Chris Keller.

Warum experimentierst du mit den T.C.-eigenen Kopiereinstellungen herum, die bis in die T.C.-Steinzeit zurückgehen, als die Windows internen Kopierroutinen noch sehr unzureichende Kopiergeschwindigkeiten ergaben?

Schon seit irgendeiner 7-er Version ist die Standardkopiermethode des Total Commanders genau nicht mehr das, sondern die früher mal Kompatibilitätsmodus genannte Kopiermethode, bei der der Commander die internen Arbeiten und Einstellungen dem Windows überläßt, weil die Commander-eigenen Routinen auf einer zunehmenden Zahl von Laufwerken zu Problemen führten. - USB-Sticks waren die ersten, die nur mit dem Kompatibilitätsmodus vernünftig zusammenarbeiteten.

Also vielleicht einfach mal unter Konfigurieren => Einstellungen => Operation => Kopieren/Löschen die oberste Option [X] Standardkopiermethode benutzen aktivieren und schauen, ob das nicht problemloser und performanter funktioniert, als die Kopiermethoden nur für Experten.

Grüße,
Karl
MX Linux 21.3 64-bit xfce, Total Commander 11.50 64-bit
The people of Alderaan keep on bravely fighting back the clone warriors sent out by the unscrupulous Sith Lord Palpatine.
The Prophet's Song
Chris Keller
Junior Member
Junior Member
Posts: 29
Joined: 2012-10-02, 13:29 UTC

damit erreiche ich nur bis max 40 MB/s

Post by *Chris Keller »

Hallo Karlchen,

diese Standardeinstellung ist für durchschnittlich "kleine" Dateien tatsächlich optimal, aber für Mediendaten im 100 MB - 5 GB Bereich deutlich langsamer. Das habe ich natürlich zuerst ausprobiert, da mir der Fortschritt den Windows Methoden nicht entgangen ist...

Meine Optimierungsversuche haben diese Riesen Dateien zum Ziel, speziell zu NAS...

Danke für die Hilfsbereitschaft!

Chris
User avatar
karlchen
Power Member
Power Member
Posts: 4605
Joined: 2003-02-06, 22:23 UTC
Location: Germany

Post by *karlchen »

Hallo, Chris.

Ich verstehe. - Dann werde ich jetzt das tun, was das einzig Schlaue ist, wenn man selbst kein NAS-Laufwerk besitzt, mich jetzt einfach in der Kunst des Stillschweigens üben. :wink:

Grüße,
Karl
MX Linux 21.3 64-bit xfce, Total Commander 11.50 64-bit
The people of Alderaan keep on bravely fighting back the clone warriors sent out by the unscrupulous Sith Lord Palpatine.
The Prophet's Song
User avatar
Dalai
Power Member
Power Member
Posts: 9977
Joined: 2005-01-28, 22:17 UTC
Location: Meiningen (Südthüringen)

Post by *Dalai »

Ich war und bin weiterhin der Meinung, vorhin einen Beitrag abgeschickt zu haben, aber aus irgendeinem Grund sehe ich den nicht mehr. Zum Glück gibt es so schicke Sachen wie Text Area Cache ...
Chris Keller wrote:Kann/sollte man da noch größere Werte verwenden und wo könnten die Nachteile zu großer Werte liegen?
Der Nachteil zu großer Werte liegt IMO darin, dass die Kopiergeschwindigkeit dann irgendwann das gesamte System (in erster Linie die Festplatte) blockieren oder mindestens massiv für andere Prozesse ausbremsen kann. Aber natürlich kann man mit größeren Werten experimentieren, ich selbst benutze seit Jahren 15360k und 64k. Wichtig ist, die lokalen Laufwerke ordentlich anzugeben, sonst nutzt TC die Kopiermethode nicht oder nur die Standardbuffer.

MfG Dalai
#101164 Personal licence
Ryzen 5 2600, 16 GiB RAM, ASUS Prime X370-A, Win7 x64

Plugins: Services2, Startups, CertificateInfo, SignatureInfo, LineBreakInfo - Download-Mirror
User avatar
prian
Member
Member
Posts: 132
Joined: 2008-08-28, 11:23 UTC
Location: Bavaria

Post by *prian »

Hi,

ich habe auch diverse Experimente gemacht beim Kopieren auf/von NAS und von NAS --> NAS.

An den Einstelluingen seitens W7 und auch im TC habe ich hier nichts verändert.

Generell komme ich beim Kopieren von PC --> NAS an die Grenzen des GBit Netzes, ebenso auf dem Rückweg.
Bei NAS --> NAS komme ich beim Weg NAS --> PC --> NAS nicht auf diese Werte, hier empfehle ich klar bei QNAP das Kopieren den NAS-Geräten selbst zu überlassen. Dazu bietet sich RSYNC oder RRTR an.
RSYNC ist bei mir limitiert bei kanpp 60MB/s, RRTR am Anschlag GBit-Leitung, also > 100MB/sec.

Verwendete Hardware hierbei:
PC Core i5-2500JK, 32GB Speicher
NAS1: Qnap TS-509
NAS2: Qnap TS-669L
Netz: Netgear GS108 und GS116 an CAT7-Kabeln

Gruß
Robert
AMD Ryzen 9 5950X, 64GB RAM, Asus ROG B550-E Gaming, ASUS TUF RTX 3080Ti OC
Win10 Pro: WD Black SN850 1TB (M.2 NVMe), Crucial MX500 4000GB, WD40EFRX 4TB, WD DC H530 14TB
OpenSuse TumbleWeed: Crucial MX500 2000GB
webstoney
New Member
New Member
Posts: 1
Joined: 2013-02-13, 14:50 UTC

Post by *webstoney »

prian wrote: Generell komme ich beim Kopieren von PC --> NAS an die Grenzen des GBit Netzes, ebenso auf dem Rückweg.
Bei NAS --> NAS komme ich beim Weg NAS --> PC --> NAS nicht auf diese Werte, hier empfehle ich klar bei QNAP das Kopieren den NAS-Geräten selbst zu überlassen.
Kann ich so bestätigen. Das einzige das bei mir noch minimal was bringt ist der Einsatz von Jumbo-Frames im Netz, kann ich aber nicht dauerhaft machen weil da noch ein alter Printserver drinhängt der dann zickt. Sind aber auch nur ca. 2%.

Server->PC Wirespeed, Server->PC-NAS ca. 60MB/s mit großen Dateien (und alles mit den Standardeinstellungen unter Win7/64).
Post Reply