Текст «память не отображена» приводит к сильному подозрению, что это системная проблема: на карту может быть либо одна из ОС, библиотека C или BLAS.
Это разочаровывает большими вычислительными заданиями - но нет другого способа, кроме как перевести его на минимальный воспроизводимый пример, который вы могли бы сделать и с макетированными данными.
Для начала попробуйте посмотреть, сохраняется ли проблема в другой ОС, например, попробуйте перезапустить ее на Mac, или на другом носителе linux, или windoze.