Трудно найти вашу ошибку, не видя ваших данных.
Однако этот пример работает для меня
library(mongolite)
m <- mongo(db = "mtcars", collection = "mtcars")
m$insert(mtcars)
m$index('{"_row":"text"}')
m$find( '{"$text":{"$search":"Mazda"} }')
# mpg cyl disp hp drat wt qsec vs am gear carb
# Mazda RX4 Wag 21 6 160 110 3.9 2.875 17.02 0 1 4 4
# Mazda RX4 21 6 160 110 3.9 2.620 16.46 0 1 4 4
Аналогично, построение JSON-запроса из списка также работает
m$find( toJSON(list("$text" = list("$search" = "Mazda") ), auto_unbox = T) )
# mpg cyl disp hp drat wt qsec vs am gear carb
# Mazda RX4 Wag 21 6 160 110 3.9 2.875 17.02 0 1 4 4
# Mazda RX4 21 6 160 110 3.9 2.620 16.46 0 1 4 4