Иногда бывает нужно подключаться к разным серверам с разными ключами ssh.

Можно сделать так (в ~/.ssh/config):

Host host1 HostName host1.domain.com User u1 IdentityFile ~/.ssh/host1-id_dsa Protocol 2 ForwardX11 no ForwardAgent no Compression no Host host2 HostName host2.domain.org User u2 Protocol 2 IdentityFile ~/.ssh/host2-id_dsa ForwardX11 no ForwardAgent no Compression yes

Основная строчка: IdentityFile — указывает на файл приватного ключа.
Можно использовать ~ вместо $HOME