Может быть, вы можете попробовать это, я использую хуки и компонент Dialog из материала ui для этого примера. Функция onRowClick изменит состояние showDialog на true, а диалог покажет, если showDialog имеет значение true
const [showDialog, setShowDialog] = useState(false);
return(
<MaterialTable
onRowClick={(evt,rowData)=>{setShowDialog(true)}}
/>
<Dialog open={showDialog}/>
)