Janela Separada da janela do navegador.

Pessoal não sei se é bem assim que se da o nome para essa técnica mas como faço para quando clicar em um botão abrir aquela página tipo a página aqui do forum quando a gente clica pra fazer login, abre uma página separada da janela do navegador e a página do navegador fica um pouco mais escura, tentei fazer com javascript com window.open(); mas abre um novo navegador, e com o include do php ele coloca o conteudo no meio do index. Alguém poderia só dar uma luz para eu saber por onde começar.