Porque usar Chaves Estrangeiras?

Eu sei que é uma dúvida de iniciante, mas nunca parei para pensar porque eu criava as chaves estrangeiras, a unica ideia que eu tenho é para não inserir dados incorretos caso não tenha tal registro de referência. Mas é somente pra isso? Ou também ajuda no select?

Alguém pode me sanar estar simples dúvida? /applications/core/interface/imageproxy/imageproxy.php?img=http://forum.imasters.com.br/public/style_emoticons/default/thumbsup.gif&key=f16394cbddc7140988e95da40d87cdc04e8fd18618efd400ded17391eb1801ce" alt="thumbsup.gif" />

Abraços