Вы можете переопределить метод keyPressEvent и, при необходимости, добавить соответствующий текст, сохраняя положение курсора.
import sys
from PyQt5 import QtCore, QtGui, QtWidgets
class TextEdit(QtWidgets.QTextEdit):
def keyPressEvent(self, event):
super().keyPressEvent(event)
options = {"[": "]", "'": "'", '"': '"', "{": "}", "(": ")"}
option = options.get(event.text())
if option is not None:
tc = self.textCursor()
p = tc.position()
self.insertPlainText(option)
tc.setPosition(p)
self.setTextCursor(tc)
if __name__ == "__main__":
app = QtWidgets.QApplication(sys.argv)
w = TextEdit()
w.show()
sys.exit(app.exec_())