Если SetProcessWorkingSetSize решит вашу проблему, то ваша проблема не в том, что FastMM удерживает память. Так как эта функция просто обрежет рабочий набор вашего приложения, записав память в ОЗУ в файл подкачки. Ничто не выпущено обратно в Windows.
Фактически вы только снова сделали доступ к памяти более медленным, поскольку теперь его нужно читать с диска. Этот метод имеет тот же эффект, что и сведение к минимуму вашего приложения. Затем Windows предполагает, что вы не собираетесь снова использовать приложение в ближайшее время, а также записывает рабочий набор в ОЗУ в файл подкачки. Windows хорошо решает, когда записывать ОЗУ в файл подкачки, и старается хранить в ней максимально используемую память как можно дольше. Это уменьшит размер рабочего набора (запись в файл подкачки), когда останется мало ОЗУ. Я не стал бы возиться с этим, просто чтобы создать иллюзию того, что ваша программа использует меньше памяти, хотя на самом деле она использует столько же, сколько раньше, только теперь доступ к ней медленнее. Память, к которой снова осуществляется доступ, будет снова загружена в ОЗУ и снова увеличит размер рабочего набора. При меньшем объеме памяти размер рабочего набора уменьшается.
Так что нет, это не поможет вам заставить FastMM освободить память. Если ваша цель состоит в том, чтобы ваше приложение использовало меньше памяти, вы должны искать в другом месте. Ищите утечки, ищите фрагменты кучи, ищите оптимизацию, и если вы думаете, что FastMM удерживает вас от этого, вы должны попытаться найти факты, подтверждающие это. Если ваша цель состоит в том, чтобы размер рабочего набора был небольшим, вы можете попытаться сохранить доступ к своей памяти локально. Может быть, FastMM или другой менеджер памяти может помочь вам в этом, но это совсем другая проблема по сравнению с использованием большого количества памяти. И, возможно, эта функция поможет вам решить проблему, с которой вы столкнулись, но я бы использовал ее с осторожностью и, конечно, не использовал бы ее просто для того, чтобы создать иллюзию того, что ваша программа использует мало памяти.