Посмотрите, что делает SUBDATE - он принимает свой параметр 2. как дни по умолчанию. В этом случае он также создает тип datetime, у вас, похоже, просто есть отметка времени unix.
mysql> SELECT SUBDATE(NOW(),604800);
+-----------------------+
| SUBDATE(NOW(),604800) |
+-----------------------+
| 0354-01-27 12:31:30 |
+-----------------------+
Вы бы хотели
SELECT * FROM `files` WHERE from_unixtime(time) > SUBDATE(NOW(),interval 604800 second);
или
SELECT * FROM `files` WHERE from_unixtime(time) > SUBDATE(NOW(),7)
или
SELECT * FROM `files` WHERE time > (UNIX_TIMESTAMP() - 604800);