Я предполагаю, что ваша проблема в том, что myList действительно представляет собой список - особый тип списка, называемый фреймом данных, - и вы хотите, чтобы числовой вектор работал с ним.
Одним из подходов может быть что-то вроде:
myNums <- myList[,1]
mySmallNUms <- myNums[myNums <= 523.689]