Merde -- wcześniej też się dało cofnąć (jeśli nie pomaga Ctrl-Z, to może Ctrl+Shift-Z?)
Wyłączanie przyciągania do krawędzi za pomocą Ctrl powinno działać (to jest normalny tryb free-transform). Jeśli nie działa, to z poziomu skryptu nic nie da się z tym zrobić... Jaką masz wersję Photoshopa i Windowsa?