Если это - точно запись от Вашего zonefile, Вы пропускаете тип записи и возможно TTL.
Корректный путь был бы:
subdmn1.mymaindomain.com. 86400 IN A 1.2.3.5
Могло бы быть возможно пропустить TTL - я никогда не пробовал это в nsd.
Если это все еще не разрешает Вашу проблему, взглянуло в журналах nsd. Обратите внимание, что Вы не должны перезапускать для перезагрузки зон, можно использовать nsdc reload
после nsdc rebuild
.
Кроме того, предполагая, что эта запись находится в mymaindomain.com.
, зона, Вы могли сократиться subdmn1.mymaindomain.com.
кому: subdmn1
(отметьте отсутствие запаздывающей точки там).