ImageMagick находится в репозитории EPEL [1]. Необходимо включить репозиторий EPEL для установки его [2].
[2] https://www.linuxtechi.com/enable-epel-repo-centos8-rhel8-server /
У меня это сработало
dnf install https://dl.fedoraproject.org/pub/epel/epel-release-latest-8.noarch.rpm -y
dnf install GraphicsMagick
@yarek у вас есть опечатка (GraphcsMagick), это должно быть GraphicsMagick .