Как насчет перехода на одно обновление со случаем / когда для значения ... если ни одно из ваших других значений, просто установите для него исходное значение vid_status. Проще читать тоже (ИМО)
UPDATE VIDEO SET VID_STATUS =
case when :NEW.DETAIL_RETURNDATE IS NULL
OR :NEW.DETAIL_RETURNDATE > SYSDATE THEN 'OUT'
when :NEW.DETAIL_RETURNDATE ='01/01/01' THEN 'LOST'
when :NEW.DETAIL_RETURNDATE <= SYSDATE THEN 'IN'
else VID_STATUS end
WHERE VIDEO.VID_NUM = :NEW.VID_NUM;
Поставить обратно в ":", видимо я ошибся при его удалении. Я не настолько знаком с Oracle для триггеров / процедур.