Upload - Gravar Imagem por cima

Olá Pessoal tenho um uplod q funciona belezinha a primeira vez. Tipo

If FileUpload1.HasFile Then
FileUpload1.SaveAs(Caminho)
End If
Ocorre que depois que eu subo a foto, caso queira alterar por outra simplesmente não consigo. Daí veio a idéia de apagar a foto q está no server e depois fazer o upload da que eu quero novamente!

Mas aparece a seguinte mensagem quando tento apagar a foto:

The process cannot access the file 'e:\home\cenasp\Web\Galeria\Imagens\Galeria102.jpg' because it is being used by another process.

Traduzindo no Google:

"O processo não pode acessar o arquivo 'e: \ home cenasp \ \ Web \ Galeria \ Imagens \ Galeria102.jpg' porque ele está sendo usado por outro processo."

Em conversa com um colega no MSN ele disse q era pra eu usar um tal de "Using" para evitar este erro, tipo pra q o sistema ignore a execução e force a deleção/substituição do arquivo! Ocorre q procurei no Google e não achei nada, nenhum exemplo prático! Agradeço pelo Help!