の先頭を削除::

if($("select[multiple]").length){
    alert("worked");
}

デモ: http://jsfiddle.net/D5JX5/

また、単純なJavaScriptチェック：

var c = document.getElementsByTagName('select'); //collection
for (var i=0, l = c.length; i<l; i++) {
    alert(typeof c[i].attributes['multiple'] == 'undefined' ? 'single':'multiple');
}

そして同等のjQuery：

$('select').each(function(){
  alert( typeof this.attributes['multiple'] == 'undefined' ? 'single':'multiple' );
});

属性として存在する場合だけでなく、複数の値が設定されている場合にのみ警告する必要があるようです:

if($("select[multiple='multiple']").length){
    alert("worked"); 
}

":select[multiple]"試した(shd be )以外のすべてのオプション"select[multiple]"が機能するはずです。

JSFiddle: http://jsfiddle.net/VAXF6/2/

ただし、if ステートメントの終了パランがありません。

コードを次のように変更します。

if($("select[multiple]").length){
           alert("worked");
}

また

if($("select").attr("multiple")){
           alert("worked");
}

また

if($("select").attr("multiple") != 'undefined'){
           alert("worked");
}

別の方法:

if($("select").is("[multiple]")){
           alert("worked");
}