.not()ブール値ではなく、フィルタリングされた jQuery オブジェクトを返します。

あなたは書くべきですif (!$(...).is(':focus'))

このコードはそれを行う必要があります。

    $('#toolbar').hover(
    function() {
    var toolbarposition = $(this).position();
        if (toolbarposition.top == -115) {
            $(this).animate({top: '0'}, 300);
        }
    },
    function() {
    var toolbarposition = $(this).position();
        if (toolbarposition.top == 0 && !$('#toolbar form select').is(':focus')) {
            $(this).animate({top: '-115'}, 300);
        }
    }
);

以下のコードは、あなたが望むことを行います。ただし、要素にフォーカスがあり、ツールバーの外側をクリックすると、マウスオーバー ハンドラーが起動しないという状況を修正する必要があります。

$('#toolbar').hover(
    function() {
    var toolbarposition = $(this).position();
        if (toolbarposition.top == -115) {
            $(this).animate({top: '0'}, 300);
        }
    },
    function() {
    var toolbarposition = $(this).position();
        if (toolbarposition.top == 0 && !$('#toolbar form').has(':focus').length) {
            $(this).animate({top: '-115'}, 300);
        }
    }
);