Вам не нужно вообще избегать их!
var content = '<a href="#" onclick="displayContent(\'TEST\')">Whatever</a>';
$("#placeHolder").html(content);
Просто сделайте это так, как обычно вам не нужно бежать "
, когда вводится в '
;
Но вам нужно экранировать '
символов, когда это параметр в функции.