Wenn Du die Nextcloud im Docker verwendest, dann solltest Du vorzugsweise Nextcloud AIO nehmen und dafür benötigst Du weder das Paket MariaDB noch das Paket Apache von Synology. Es ist dort alles All-In-One.Für mich wäre nun Docker in frage gekommen da ich dort schon sehr viel drin habe, und nebenbei die Instanz von MariaDB die es bereits auf der Synology gibt,
https://github.com/nextcloud/all-in-one?tab=readme-ov-file#how-to-run-aio-on-synology-dsm
Erfahrungen mit Nextcloud AIO auf der Synology habe ich leider nicht, aber da gibt es bestimmt auch andere Benutzer hier im Forum, die Dir dabei zur Seite stehen.