Ferramenta Refine Edge Brush não funciona corretamente.

Faço a seleção que preciso, logo em seguida vou em select and mask e começo a passar o pincel nas bordas das imagem, para que os pelos ou cabelos fiquem mais refinados, porem acontece oque da pra ver nos prints, as bordas ficam todas feias, meio transparentes, e os pelos continuam com o corte duro, apenas com um leve feather, alguem já passou por isso? Talvez seja eu que esteja fazendo errado, alguem me da uma luz please.