Полагаю, вы спрашиваете не как это сделать (поскольку вы демонстрируете это), а почему это возможно?
Ответ заключается в том, что существует разница между программой на диске (в файле) и программой в памяти.
Когда вы запускаете программу, обычно она копируется в ОЗУ и запускается оттуда, поскольку ЦП имеет прямой доступ только для выполнения операций в ОЗУ. Эта копия концептуально не зависит от файла на диске и может остаться в оперативной памяти, даже если файл будет удален.
Однако некоторые ОС не позволяют удалить файл, если он представляет работающее приложение, например Windows.