NSView を中心にスケーリングする必要があります。CATransform3DMakeScale を使用してみましたが、ビューを隅に向かって拡大縮小することはできましたが、中央に配置することはできませんでした。レイヤーのアンカーポイントを.5、.5に設定しようとしましたが、うまくいきませんでした。scaleUnitSquareToSize を使用してみましたが、多くの作業を行わないとリセットできないように見えるという問題に遭遇しました。
最後に、NSView のスケールを 0.8 のような値に設定し、中心付近でズームアウトし、スケールを 1 に設定してリセットできるようにする必要があります。