APIRTCPeerConnectionを使用できるように を作成する方法を学ぼうとしています。DataChannel私が理解したことから試したことは次のとおりです。
var client = new mozRTCPeerConnection;
var server = new mozRTCPeerConnection;
client.createOffer(function (description) {
    client.setLocalDescription(description);
    server.setRemoteDescription(description);
    server.createAnswer(function (description) {
        server.setLocalDescription(description);
        client.setRemoteDescription(description);
        var clientChannel = client.createDataChannel("chat");
        var serverChannel = server.createDataChannel("chat");
        clientChannel.onmessage = serverChannel.onmessage = onmessage;
        clientChannel.send("Hello Server!");
        serverChannel.send("Hello Client!");
        function onmessage(event) {
            alert(event.data);
        }
    });
});
何が問題なのかわかりませんが、メッセージが表示されていないため、接続が確立されていないと思います。
これについてどこで詳しく知ることができますか? WebRTC の使用開始 - HTML5 Rocksチュートリアルを既に読みました。