"Replacing" múltiplos caracteres

Fala galera,

Peguei um trabalho simples por aqui, porém vi algo de última hora que não havia mexido ainda...

Tenho um banco de dados com cerca de 200 poemas e tive que separá-los por letras A, B, C... etc e estou utilizando o código:

$sql = "SELECT id, titulo FROM artigos WHERE ativo = 1 AND substr(titulo,1,1) LIKE '$letra' GROUP BY titulo ORDER BY titulo ASC ";

Porém, agora preciso agrupar em um parâmetro outros caracteres como @, !, 1, 2, 3 e por aí vai. Vi o método do "replace", porém, tenho muitos caracteres e levaria um tempo monstruoso para fazê-los.

Teria algum outro método mais fácil e prático? Ou terei de fazer tudo usando o "replace(substr"?

Abraços