Вы не можете сделать это. Вы должны предоставить фабричный метод для этого.
Либо есть с абстрактной функцией в классе
abstract fun createViewHolder(): TViewHolder
или предоставить его в качестве параметра конструктору
abstract class NexusAdapter<TData: NexusIdProvider, TViewHolder: NexusViewHolder<TData>>(
protected val ctx: Context,
private val _layoutId: Int,
protected val items: List<TData>,
private val createViewHolder: () -> TViewHolder
) : BaseAdapter()