レイヤード効果を得るために ontop のインスタンスを積み重ねることを望んでJLayersいましたが、そのように動作したくないようです。複数のクラスで実装された複数のエフェクトを1つにまとめて飾りたい。JPanelLayerUI<JPanel>
例えば
frame.add(new JLayer<>(panel, new LayerUI<> ...));
frame.add(new JLayer<>(panel, new LayerUI<> ...));
への引数new JLayerは同じJPanelインスタンスですが、LayerUIインスタンスは異なることを行います。
最後に追加されたものが勝つようです。どちらもメソッドのコンテキストに直接描画されpaintます。おそらくそれで..?
オラクルのチュートリアルはこちら