Если я понимаю вашу цель (иметь матрицу, в которой все элементы являются нулями, за исключением того, что индексы строк и столбцов одинаковы, то они должны быть).
n = int(input("Dimension : "))
matrix = [[0 if row != column else 1 for column in range(n)] for row in range(n)]
print(matrix)
Вывод:
[[1, 0, 0], [0, 1, 0], [0, 0, 1]]