Zła jednostka - pix a nie %
Pozatym to chyba słaba metoda rozmycia krawędzi - opacity warstwy będzie spadało ze 100% do 50% na samej krawędzi, a nie tak jak mi się wydaje że powinno być : do 0% Zasugerowałbym raczej jakieś fajniejsze ustawienia w okienku Select > Refine Edge (Alt+Ctrl+R), albo procedura : Select > Modify > Contract : 2n pix i dopiero wtedy Gaussian Blur z wartością n pix.