Вы можете прочитать и записать полученные данные следующим образом:
df = spark.read.json(resp.text)
location = 'dbfs:/tmp/test.json'
df.write.json(location)
, а затем создать таблицу, используя созданный файл:
spark.sql(f'''
CREATE TABLE IF NOT EXISTS foursquare
USING JSON
LOCATION "{location}"
''')