Это то, что у меня сработало, спасибо Zoredache.
Не забудьте заменить $ REMOTE_HOST хостом. ПРИМЕЧАНИЕ. Это предполагает наличие определенных каталогов.
cat ~/.ssh/id_rsa.pub | ssh $REMOTE_HOST 'umask 077; mkdir -p ~/.ssh; cat >> ~/.ssh/authorized_keys'