Это зависит от того, какую IDE вы используете. Я думаю, что самым простым для настройки является Eclipse (в последней версии есть довольно приличный плагин C ++), несмотря на многие его проблемы. Просто создайте новый проект. Вам следует создать проект Makefile на C ++, поскольку он использует существующий Makefile, а в стандартном проекте C ++ Eclipse будет управлять своим собственным Makefile. Установите базовый каталог проекта в базовый каталог вашей программы и запретите создавать новые файлы.
Другой вариант - KDevelop. Я не знаю много об этом, но он изначально поддерживает Automake и CMake, а также многие другие инструменты, которые используются при разработке под Linux. В нем также много ошибок.
Если вы достаточно жесткий гик, и у вас есть терпение его настроить, gvim также может стать удобной IDE. Я думаю, что есть несколько плагинов для этой цели, хотя я использовал его только для базового редактирования текста.