Co do maskowania, masz to ładnie opisane w tutorialach od Janusza Body.

Generalnie włączasz maskę i na niej pędzlem zaznaczasz na biało - to co ma być widoczne, na czarno to, co ma nie być widoczne.

Jak ci łatwiej, możesz po prostu nacisnąć Q, odwrócić sobie maskę (ctrl+i) i białym pędzlem zaznaczyć to, co ma być zaznaczone. Później naciskasz Q, twoja maska przekształca się na zaznaczenie, klikasz na warstwę którą chcesz wymaskować i naciskasz przycisk tworzenia maski, na dole okna layers. Jeśli chcesz świeżo zrobioną maskę zaaplikować do jakiegoś filtra, którego jeszcze nie zrobiłeś, to z listy ikon na dole wybierz któryś filtr, photoshop ci sam przerobi zaznaczenie na maskę.