Если сегмент совместно используемой памяти не отсоединен, то ядро продолжает думать, что конкретный сегмент (ядро называет его регионом) используется, и никогда не пометит его для удаления - механизм подсчета ссылок используется внутренне. Другая проблема заключается в том, что виртуальное адресное пространство этого процесса будет израсходовано без необходимости.
Тем не менее, я не уверен, что мы можем назвать это утечкой памяти (хотя бы Java), потому что этот сегмент памяти будет отключен и автоматически освобожден в момент завершения процесса.
Это может не поставить под угрозу ОС в целом, но может потребоваться закрыть систему - и это тоже без предупреждения - некоторые процессы, которые потребляют огромную память, если ей не хватает памяти (см. Linux OOM killer). Но это худший случай.