Ich habe jetzt eine neue DS1618+ in Betrieb genommen. Ist auf DSM 6.2.1-23824 Update 4. Aktuell teste ich noch rum.
Aber bei der funktioniert jetzt ohne Probleme und mehrfach reproduzierbar die Sicherung des Systemabbildes von Windows 10 (bei mir 1803) wieder normal. Ich habe nur "SMB2 und Large MTU" eingestellt, sowie "strict allocate=yes" in /etc/samba/smb.conf und sonst alles auf Standardeinstellungen belassen.
Der eigentliche Knackpunkt ist aber, dass es definitiv nur geht, wenn das Volumen auf das man sichert mit BTRFS formatiert ist. Ich habe zur Gegenprobe in der gleichen DS1618+ parallel auf einer weiteren Platte ein zweites Volumen angelegt und mit ext4 formatiert. Wenn ich versuche auf dem das Systemabbild zu sichern, kommt wieder ganz genau der gleiche Fehler wie auf meiner alten DS214play. Also genauso, wie ich es weiter oben beschrieben habe.
Das ist unschön, dass es auf ext4 nicht geht. Aber ich hatte die neue DS1618+ sowieso beschafft, weil ich Snapshots nutzen will und daher auf BTRFS umsteigen wollte und Synology das leider für meine DS214play nicht unterstützt.