Кажется, вы пытаетесь открыть boost::file_descriptor_source
из "пути", который содержит номер дескриптора файла. Тем не менее, файл с таким именем, вероятно, не существует. То, что вы, вероятно, хотели использовать, выглядит примерно так:
if (FILE* p = popen(argv[1], "r"))
{
boost::iostreams::file_descriptor_source d(fileno(p), boost::iostreams::close_handle);
boost::iostreams::stream_buffer<boost::iostreams::file_descriptor_source> pstream(d);
std::cout << &pstream;
pclose(p);
}