Я вполне уверен, что AppleScript будет недостаточно, поскольку он не предназначен для того, чтобы улавливать все движения мыши, и использование Terminal будет основываться на этом коде, существующем в операционной системе. Если это так, я не знаю об этом.
Я мог бы попробовать установить драйвер мыши стороннего производителя, например USB Overdrive, и использовать его для инвертирования оси Y, как вы пожелаете.