datatables создает элемент-обертку, который всегда имеет класс dataTables_wrapper
, поэтому, если вы хотите изменить размер таблицы, вы должны изменить размер этого элемента
$(".dataTables_wrapper").css("width","80%");
, если у вас более одной таблицы и вы хотите настроить таргетингопределенная оболочка, идентификатор этой оболочки
$("#idofyourtable_wrapper").css("width","80%");