LLVM - это действительно набор библиотек, на которые вы можете ссылаться, поэтому их довольно легко внедрить. Чаще всего LLVM берет IR, который вы генерируете, и компилирует его непосредственно в машинный код. Также имеется библиотека для интерпретации и выполнения IR для платформ, которые не поддерживают JIT-компиляцию.
На веб-сайте LLVM есть довольно хорошее руководство: http://llvm.org/docs/tutorial/. Я предлагаю вам пройти через это, а затем задать более конкретные вопросы, если они у вас есть.