使用しているバージョンは最新ではないと思います。公式リポジトリであるGitHubリポジトリからソースを確認する必要があります。
GitHubのバージョンは、jQuery UIのjquery.ui.positionを使用します。これにより、要素に対してメニューを表示する場所( "top top"、 "leftbottom" ...)を指定でき、衝突検出も可能になります。
ドキュメントから:
配置された要素がウィンドウのある方向にオーバーフローした場合は、別の位置に移動します。myとatと同様に、これは水平/垂直の単一の値またはペアを受け入れます。「フリップ」、「フィット」、「フィットフリップ」、「フィットなし」。
したがって、プラグインを次のように使用することをお勧めします。
$('#myelement').selectmenu({
...
position: {
my: "left top", // default
at: "left bottom", // default
// "flip" will show the menu opposite side if there
// is not enough available space
collision: "flip" // default is ""
}
});
説明されている同様の問題については、次の質問を確認してください(メソッド_refreshPosition()はそのままでは存在しないようですが、オプションの位置はもちろんまだあります)。