ボタンについては、上記のhtmlとcssをご覧ください。
これらのブラウザでは、ボタンの右側を表示するために使用されるスパンが1px下にシフトします。Firefoxで期待どおりに正しく動作します。
Windows:IE8、Opera、Safari Mac:FF、Safari、Opera、Chrome
更新1]ウィンドウの高さを変更している間、Firefox11.0ウィンドウでもランダムにバグが表示されます。
再現するには、上記のjsfiddleリンクに移動し、結果のフレームのサイズを変更してみてください。スパンがちらつくことがあります... [編集2:実際、Windows FirefoxのFirebugパネルのサイズを変更していたときに、スパンのジャンプに気づきました。ボタンの右側、以前はFirefoxで問題なく動作すると思いました。]
また、すべてのインライン要素の例を試しました。 http://jsfiddle.net/sbWCD/
PSこの単純な画像は、CSS3ソリューションを探しているのではなく、より複雑なデザインの単なるプレースホルダーです。