Когда вы говорите index, вы имеете в виду имя (String) компонента, когда он был вставлен, верно?
Я не знаю ни одного элегантного способа сделать это, но вы можете попытаться получить все компоненты в этом контейнере (parentComponent) и попытаться найти тот, который имеет то же имя, что и ваш индекс. Например:
Component[] components = parentComponent.getComponents();
for(int i = 0; i < components.length; i++) {
if(components[i].getName().equals(index)) {
cardLayout.removeLayoutComponent(components[i]);
}
}