Хорошо, я только что выяснил, что проблема была в том, что в моем наборе данных были product_id, которые связаны с типом A несколько раз. Вот так:
product_id url type
0 2013367 7405e0c483323f78b A
1 2013367 ea919d2276f60f31e B
2 452998 117312244aa203a03 A < ---- same id and type but different url
3 452998 1a6a41a6141235d68 A < ---- same id and type but different url
4 2196333 cd66f91431fbae2d4 A
Следовательно, pandas не знал, какое значение назначить, что привело к появлению вышеуказанной ошибки.
Решение было использовать drop_duplicates
до pivot
, например: df.drop_duplicates(subset=["product_id","type"],inplace=True)