テーブルの角を丸くし、境界の外側にドロップ シャドウを付ける必要があります。テーブルは画面全体を使用しないため、セルがテーブルの下端から漏れるので、maskToBounds と clipsToBounds を NO にオフにすることはできません。
レイヤーシャドウの値を次のように設定してみました：
[layer setShadowOffset:CGSizeMake(-2.0, 2.0)];
[layer setShadowRadius:6.0];
[layer setShadowColor:[UIColor blackColor].CGColor];
[layer setShadowOpacity:1.0];
[layer setCornerRadius:6.0];
[layer setBorderColor:[UIColor lightGrayColor].CGColor];
[layer setBorderWidth:1.5f];
テーブルは影を描きますが、テーブルの内側で影を描きます。それだけでなく、細胞の各分割線にもそれを行います.
UIView を追加して、そのビュー内に UITableView を配置し、そのビューとテーブルを透明にしてみました。UIViewのレイヤーで同じ設定を行いましたが、まったく同じように動作します。つまり、各セルの分割線が影になり、テーブルが内側に影を描きます。
同様の解決策と機能を見つけましたが、画面全体をカバーするテーブル、または透明なテーブルではなく不透明なセルを持つテーブルの場合です。