Похоже, что сообщение запроса (0x3766) отправляется по UDP без EDNS (в дополнительном разделе был бы Opt RR, если бы он использовал EDNS), что ограничивает максимальный ответ до 512 байты. Только данные TXT составляют 546 байтов, поэтому на запрос нельзя ответить в 512 байтах. Сервер должен отвечать усеченным (установлен бит TC) ответом, который заставит клиента повторить запрос через TCP.
Я не так хорошо знаком с Windows, поэтому все, что я могу предложить, - это уменьшить размер TXT запись. Лично я бы попробовал установить для данных записи значение «1» и посмотреть, как это повлияет на клиента. (Запись TXT требуется для службы DNS-SD, и некоторые DNS-серверы / клиенты подавляются пустыми записями TXT, поэтому один символ - это минимум, который вы можете ожидать, чтобы избежать неприятностей.)