Acho que a dúvida já foi sanada, mas precisei auxiliar um amigo e vi exatamente a mesma dúvida que ele tinha.
Em um dos fóruns oficiais da Adobe, há uma das soluções ideais e mais simples, e que pode ser útil para várias pessoas que estão buscando essa correção. https://community.adobe.com/t5/photoshop/all-of-a-sudden-vector-smart-object-are-pixelated/td-p/9876791?page=1
E aqui, uma explicação mais complexa sobre Smart Objects, Raster Images e Bicubic Images e a importação delas para o Photoshop, que podem exigir mais atenção a depender do arquivo de origem: https://community.adobe.com/t5/photoshop/smart-object-pixelation-issues/td-p/5954738?page=1
Abraços!
