ビヘイビアーを使用してバインディング内部を変更することはできません。構成またはコードを介してカスタムバインディングを構築する必要があります
<customBinding>
<binding name="MyCustomBinding">
<binaryMessageEncoding />
<tcpTransport connectionBufferSize="256192" maxOutputDelay="00:00:30" transferMode="Streamed">
</tcpTransport>
</binding>
</customBinding>
またはコード
var host = new ServiceHost(typeof(Service1), new Uri("net.tcp://someservice"));
//binding stack - order matters!
var myCustomNetTcpBindingStack = new List<BindingElement>();
//session - if reliable
var session = new ReliableSessionBindingElement();
myCustomNetTcpBindingStack.Add(session);
//transaction flow
myCustomNetTcpBindingStack.Add(new TransactionFlowBindingElement(TransactionProtocol.OleTransactions));
//encoding
myCustomNetTcpBindingStack.Add(new BinaryMessageEncodingBindingElement());
//security
//var security = SecurityBindingElement.CreateUserNameOverTransportBindingElement();
//myCustomNetTcpBindingStack.Add(security);
//transport
var transport = new TcpTransportBindingElement();
transport.ConnectionBufferSize = 64 * 1024;
myCustomNetTcpBindingStack.Add(transport);
var myCustomNetTcpBinding = new CustomBinding(myCustomNetTcpBindingStack);
host.AddServiceEndpoint(typeof(IService1), myCustomNetTcpBinding, string.Empty);
host.Open();
ConnectionBufferSizeに関する良い投稿はこちら