Ну, оверлей имеет довольно специфическое значение, см., Например: Статья Wikipedia по оверлею .
Однако в контексте, который вы описываете, похоже, что это может быть просто термин, используемый другим разработчиком для обозначения того, что вы используете область памяти, которая концептуально является той же самой памятью, которая используется в другом процессе.
Если это не проясняет ситуацию, это может помочь узнать немного больше о задействованных приложениях; например для чего предназначена память и т. д.