ASP.NET Core не использует Web.config, и даже если он это сделал, он также не использует машинные ключи.Криптография обрабатывается с помощью API защиты данных , который хранит и генерирует ключи совершенно по-другому.
Если вам нужно обмениваться такими вещами, как файлы cookie, между ASP.NET и ASP.NET Core,Вы должны работать противоположным образом и подключить API защиты данных к своим приложениям ASP.NET, чтобы они использовали ту же систему, что и ASP.NET Core.У Microsoft есть руководство для этого.