Для форматирования отдельных частей текста в QTextEdit я знаю только класс QSyntaxHighlighter, но он не слишком удобен. Есть ли еще какие-нибудь способы?

можно у QTextEdit получить указатель на QTextDocument. Затем в QTextDocument сделать поиск нужных слов:
QTextCursor QTextDocument::find ( const QString & subString, const QTextCursor & cursor, FindFlags options = 0 ) const
сохранить найденные курсоры, а затем по этим курсорам вызвать метод:
void QTextEdit::setExtraSelections ( const QList<ExtraSelection> & selections )

vanvo, Или QScintila заюзать.