質問はかなり広いので、私の答えは広いです。
ええ、秘密鍵を共有することは悪いことです。だから私はそれをスキップして、他の部分に焦点を当てます.
個々のサーバーでアカウントを手動で追加/削除/変更するのではなく、アカウントを集中管理したいようです。
NIS のようなものをセットアップして、ユーザー アカウントを管理できます。これには、すべての VM を変更する必要があります。
puppet、chef、salt などを使用すると、レシピを作成してユーザー アクセスを制御できます (たとえば、公開鍵をプッシュしたり、アカウントを作成して sudo を構成したりすることもできます)。
pssh (パラレル ssh)などを使用して、複数のホストで同時にコマンドを実行できます。既存のauthorized_keysファイルに公開鍵を追加するだけでなく、ユーザー、その鍵、および必要なsudoアクセスを追加することさえできます. (注: これを行う場合は十分に注意してください。コマンドの書き方が悪いと、全員のアクセスが遮断され、不要なダウンタイムが発生する可能性があります)。
余談ですが、複数のユーザーが 1 つのアカウントを共有することは悪い考えであり、一般的にセキュリティと QA の悪夢です。同じアカウントへの複数のアクセスを許可する代わりに、各ユーザーは、必要最小限の特権アクセスを持つ独自のアカウントを持つ必要があります。
好きなようにしてください。