Аутентификация LDAP UNIX через PAM может произойти через два различных модуля.
Значение по умолчанию (по крайней мере, для *Солярис) является pam_unix, где ОС на самом деле задержит пароли, сохраненные в LDAP, и сделает локальное сравнение. В этом случае, хост, ОС должна понять метод хеша, который является, почему пароли склепа работают, но другие типы хеша не делают.
Другой механизм, который я думаю, что Вам нужно, является pam_ldap, куда задача проверки пароля полностью передается серверу LDAP. В этом случае пока сервер LDAP понимает, как сделать сравнение, Вы в порядке.
Страница справочника для pam_ldap будет вдаваться в большее количество подробностей.
Можно найти пример pam.conf использующий pam_ldap для opensolaris в: http://docs.oracle.com/cd/E19082-01/819-3194/schemas-111/index.html
Примечание: всегда удостоверяйтесь, что Вы сохраняете запасное корневое окно открытым при тестировании изменений PAM, так как легко случайно повредить аутентификацию