Yo no soy un experto pero intento explicarte, No, no tienes penalización por "mover" un capitan a un tier inferior, aunque los cambios entre barcos tienen un coste, en doblones o experiencia de comandante.
Respecto a cada linea de barcos, yo suelo ir pasando el capitan que voy subiendo a cada nuevo tier, para tener al final el mejor capitan con el mayor tier. Los barcos de tier inferiores los vendes o los dejas sin capitan o, si quieres conservar el barco, le pones un capitan que te sobre, pero la idea final es tener el mejor capitan con el mejor barco.
Supongo que sabes que no puedes intercambiar capitanes entre barcos de diferentes naciones.
Si vas a subir otra rama, coge otro capi para subirlo junto con la rama, de esta forma tendras cada tierX con su capi al máximo.