Atualizar o PATH no Docker é mais complicado do que parece

Tentar alterar o PATH dentro de um container Docker adicionando linhas nos arquivos ~/.profile ou /etc/profile simplesmente não funciona na prática. Mesmo com export ou ajustando o arquivo, a variável não é persistida como no ambiente tradicional.