Agregamos esto en ~/.ssh/config

Host *.example.com
User my_user

host *.example2.com
User ubuntu

Host *
ForwardAgent yes
TCPKeepAlive yes
ServerAliveInterval 10
ServerAliveCountMax 3

Con esto, el agente ssh enviará luego de nuestra conexión nuestra llave privada SSH para el servidor, permitiendonos conectarnos a cualquier otro servidor y lo mejor, desapareciendo del servidor cuando nos desconectemos.