Пожалуйста, обратитесь к документации, предоставленной Google: https://developers.google.com/apps-script/reference/document/attribute
BORDER_COLOR Enum The border color, for table elements.
BORDER_WIDTH Enum The border width in points, for table elements.
BORDER_WIDTH и BORDER_COLOR являются таблицей свойствами, а не свойствами ячейки.
Вы можете добавить следующие строки в конце вашей функции, чтобы она работала:
var tableStyle = {};
tableStyle[DocumentApp.Attribute.BORDER_WIDTH] = 8;
tableStyle[DocumentApp.Attribute.BORDER_COLOR] = '#c0c0c0';
table.setAttributes(tableStyle);
Если новичок читает это, было бы также неплохо удалить определения BORDER_COLOR и BORDER_WIDTH из cellStyle, чтобы сделать код легче для чтения.