Dieses Verhalten ist völlig normal. Da Synology nun mal nicht Deinen DNS-Namen kennt, ist das Zertifikat auf synology.com ausgestellt. Da diese DNS-Adresse von er tatsächlichen abweicht, gibt es einen Zertifikatfehler. Weiterhin ist dieses Zertifikat nicht von einer im Browser hinterlegten Stammzertifizierungsstelle ausgestellt, was ebenfalls zu einem Fehler führt.
Das einfachste ist es, hier eine dauerhafte Ausnahme hinzuzufügen. Die Übertragung erfolgt jedenfalls trotz der Warnung immer verschlüsselt und sollte damit sicher sein.
Wie Matthieu schon sagte gibt es im Wiki eine Anleitung zum Erstellen eines eigenen Zertifikats.