Вы пробовали читать документацию ? В частности, раздел под названием «Примечания для пользователей Perl»? Похоже, это должно быть довольно просто:
QRegExp regex( "<a\\s*href=\\"([^<]*)\\"([^<]*)\\((.*?)\\)\\">",
Qt::CaseSensitive, QRegExp:: RegExp2 );
Обратите внимание, что все, что я сделал, это удвоил обратную косую черту, поскольку C "съест" одну при интерпретации кода. Тем не менее, я сомневаюсь, что вы хотели, чтобы цитаты были с двойной обратной косой чертой, так что, возможно, это больше похоже на то, что вы хотели:
QRegExp regex( "<a\\s*href=\"([^<]*)\"([^<]*)\\((.*?)\\)\">",
Qt::CaseSensitive, QRegExp:: RegExp2 );
Я также не знаю, почему вы пытаетесь сопоставить 3 кавычки в выражении, но это выходит за рамки того, что вы спросили.