「markup4」などの二重引用符をエスケープするべきではありませんか?驚いたことに、このプレーンな作品。それらを&quotのものに置き換えても、そうではありません。
<script type="text/javascript">
function test3(){
document.getElementById('div21').innerHTML += '<div class = "markup4"><br>blablablabla1.<br><br></div><div class = "markup3"><br>blablabla2.<br><br></div>';
}
</script>