Я использую TensorFlow 1.10 в системе Ubuntu 16.04. Когда я попытался установить per_process_gpu_memory_fraction на 10, чтобы позволить графическому процессору использовать системную память для обучения ResNet на очень больших изображениях RGB (12000, 12000, 3), я получил ошибку:
F:tensorflow/stream_executor/cuda/cuda_dnn.cc:91] Checked failed narrow == wide (-1990967296 vs 2304000000) checked narrowing failed; values not equal post-conversion Aborted (core dumped)
Блок кода, указанный выше, выглядит следующим образом:
// Converts (via narrowing) a type T value to a type U, and checks that the
// value has no value change due to the conversion.
template <typename WideT, typename NarrowT>
NarrowT CheckedNarrowing(const WideT& wide) {
NarrowT narrow = wide;
CHECK_EQ(narrow, wide)
<< "checked narrowing failed; values not equal post-conversion";
return narrow;
}
Несколько меньшее изображение, скажем (10000, 10000, 3), не генерирует эту ошибку. Мне интересно, что на самом деле вызвало эту проблему и как я могу решить эту проблему?