私は、コマンド ラインからも便利に使用できるようにすることを目的とした純粋な Python ライブラリの作成者です。Windows ユーザーの場合は、.exe または .msi パッケージからパッケージをインストールするだけでよいでしょう。
ただし、インストーラーにパッケージの依存関係をインストールさせることができません (特に setuptools 自体への依存関係があるため、ソフトウェアの実行は pkg_resources のインポート エラーで失敗します)。ユーザーが setuptools やその他のライブラリを手動でインストールする必要がある場合、簡単な .exe インストーラーを提供してもあまり意味がないと思います。easy_install を PATH に追加してこの方法を実行する方法を教えてください (http://stackoverflow.com/questions/1449494/how-do-i-install-python-packages-on-windows)。
過去に .exe パッケージをビルドしたことがありますが、それが自分の好みの方法で機能したかどうかは覚えていません。