Нет, аналога нет ( особенно для апплета). Если вы не хотите делать JNI, вы не можете получить эту информацию. Единственное ограничение, которое вы можете достичь - это ограничение максимальной длины String (которое в любом случае намного превышает то, что допускает любая операционная система).
Я предполагаю, что будет сгенерировано исключение или имя файла (или путь) будет усечено. Вот связанный вопрос: Имеет ли Java IO максимальную длину имени файла?