Когда хост присоединяется к группе многоадресной рассылки, нужно ли ему изменить свой IP-адрес на IP-адрес группы многоадресной рассылки?

Нет. И, IP multicast-адреса имеют специальный диапазон (например, 239.x.x.x), который был бы нелегальным как адрес хоста. Вы просто делаете setsockopt с IP_ADD_MEMBERSHIP и все. И, если вы действительно подумаете об этом, изменение IP будет означать, что весь обычный трафик будет остановлен.

То, что вы делаете, это говорите, что вы хотели бы, чтобы интерфейс [через сокет] прослушивал и обрабатывал пакеты для данного мультикаст-адреса, в дополнение к его обычному адресу интерфейса. Это немного сложнее, но достаточно близко.

IIRC, если система [host0] имеет два интерфейса (например NIC-карта), скажем eth0 и eth1, и eth0 имеет полунаправленное соединение с данной многоадресной рассылкой, и есть хост1, подключенный к хосту0 через eth1, и хост1 может только попасть в многоадресную передачу через host0, то host0 должен будет подписаться на многоадресную передачу не для себя, а от имени хоста1, и пересылать пакеты по eth1.