背景は色ではなくブラシであるため、ColorAnimationで直接アニメーション化することはできません。代わりに、次のことを試してください。
<ColorAnimation
Storyboard.TargetName="btnRemoveBorder"
Storyboard.TargetProperty="(Border.Background).(SolidColorBrush.Color)"
To="#FFDEBA29"
Duration="0" />
VisualStateManagerの質問に関しては、各状態グループから1つの状態をアクティブにすることができます。したがって、たとえばボタンの場合、フォーカス状態とプレス状態の両方にすることができます。このため、どの状態が最初にアクティブになるかに依存しないように、状態と制御テンプレートを設計するようにしてください。通常、これは、2つの異なる状態グループで同じ要素/プロパティをアニメーション化するべきではないことを意味します。しかし、技術的に言えば、そうすることを妨げるものは何もありません。コントロールが最後に移動する状態(VisualStateManager.GoToStateメソッドを使用)が優先されます。