404 を強制することにより、メイン ドメインを介したアドオン ドメインへのアクセスを制限しようとしていますが、機能していないようです。
RewriteEngine On
RewriteCond %{HTTP_HOST} ^(www.)?domain.com$ [NC]
RewriteCond %{REQUEST_URI} ^/domain2.com/(.*)$ [OR]
RewriteCond %{REQUEST_URI} ^/domain3.co.uk/(.*)$ [OR]
RewriteCond %{REQUEST_URI} ^/test/(.*)$
RewriteRule ^(.*)$ - [L,R=404]
ディレクトリtest
は正しく 404 されているので、.com と .co.uk の文字と関係があると思いますか?