Treinando IA e a dor de ver a perda não cair

Já passei por isso ao treinar modelos de linguagem, parece que a perda fica estagnada e o modelo não melhora. Às vezes, é questão de ajustar a taxa de aprendizado, outras vezes o problema está no volume de dados ou na configuração do batch size.