Versuche mal für die Photo Station in vDSM unter Systemsteuerung -> Anwendungsportal einen Benutzerdefinierten Alias anzulegen.
Dort solltest Du auch einen benutzerdefinierten Port für die PS in vDSM angeben können.
Problem hierbei ist -wie Du ja gemerkt hast-, daß ein Port nur einmal pro Maschine weitergeleitet werden kann.
Also Host und vDSM müssen erstmal unterschiedliche interne IPs haben.
Also z. B. DynDNS/photo über SSL/TLS geht an den Host, und DynDNS
ort geht an den vDSM.