Tror du råkat blanda ihop begreppen lite (vilket är lätt att göra när man börjar prata om oskarp mask).
Oskarp mask är ett skärpefilter som man, trots det något missvisande namnet, använder för att skärpa bilden (anledningen till namnet tar jag inte här men det kan du googla fram om du vill).
Det jag, utan att ha sett artikeln, tror att de pratar om är att göra brusreduceringen på ett separat lager (t ex en kopia av bilden) och sedan använda en lagermask för att manuellt bestämma vart i bilden du vill ha effekten.
Enkelt beskrivet så öppnar du valfri bild, väljer Layer > Duplicate Layer för att skapa en kopia av lagret. Lägg på så mycket brusreducering du vill ha på kopian.
Klicka nu på den lilla ikonen längst ned, tredje från vänster, i lagerpaletten (den ser ut som en frontmatat tvättmaskin) för att lägga till en lagermask. Du får nu upp en vit tumnagel bredvid ditt lager i lagerpaletten. Genom att klicka på den vita tumnageln så aktiverar du lagermasken och kan sedan måla på bilden för att bestämma vart effekten ska vara.
100% vitt visar hela effekten, 100% svart döljer hela effekten, 50% grått visar 50% av effekten osv.
//D