AndroidManifestファイルに設定されているminSDKVersionに応じて、ダイアログのテーマを選択できます。それらをHolo/Device Defaultに設定できますが、そのためには、DeviceDefaultを使用するにはJellyBeanである必要があると思いますが、minSdk値は10以上である必要があります。
独自のレイアウトを作成し、デザインを壊すような境界線などを付けずに使用する場合は、AlertDialogの代わりにDialogを使用してカスタマイズする必要があります。あなたはこのようなことをすることができます:
final Dialog alert = new Dialog(FingerPaintActivity.this, android.R.style.Theme_Light_Panel);
alert.requestWindowFeature(Window.FEATURE_NO_TITLE); // no title
alert.getWindow().getAttributes().windowAnimations = R.style.PauseDialogAnimation; // this is used for custom animation when dialog is showing and hiding
alert.setContentView(getLayoutInflater().inflate(R.layout.stamps, null)); // here is your custom layout
alert.getWindow().setLayout(width-50, (height-100)); // set height / width
たとえば、例のようにR.layout.stampsに配置されているボタンでonlclickをトリガーする場合は、次のようにする必要があります。
Button dog = (Button) alert.findViewById(R.id.dog_stamp);