В bin
dir можно найти такие три сценария:
jboss_init_hpux.sh
jboss_init_redhat.sh
jboss_init_solaris.sh
Эти сценарии позволяют Вам выполнять JBoss как услуга. К сожалению, я понятия не имею, работает ли это на AIX, но возможно можно использовать один из этих сценариев как начальная точка для создания собственного. По крайней мере, Вы будете видеть, как они запускают JBoss в фоне.