Импорт многострочного SQL-запроса в одну строку

Question

В R , как я могу импортировать содержимое многострочного текстового файла (содержащего SQL) в одну строку?

Файл sql.txt выглядит следующим образом:

SELECT TOP 100 
 setpoint, 
 tph 
FROM rates

Мне нужно импортировать этот текстовый файл в строку R так, чтобы она выглядела следующим образом:

> sqlString
[1] "SELECT TOP 100 setpoint, tph FROM rates"

Это так, что я могу кормить его на RODBC следующим образом

> library(RODBC)
> myconn<-odbcConnect("RPM")
> results<-sqlQuery(myconn,sqlString)

Я попробовал команду readLines следующим образом, но она не дает формат строки, необходимый RODBC.

> filecon<-file("sql.txt","r")
> sqlString<-readLines(filecon, warn=FALSE)
> sqlString
[1] "SELECT TOP 100 "                              "\t[Reclaim Setpoint Mean (tph)] as setpoint, "
[3] "\t[Reclaim Rate Mean (tph)] as tphmean "       "FROM [Dampier_RC1P].[dbo].[Rates]"           
> 

Answer 1

Универсальная команда paste() может сделать это с аргументом collapse="":

lines <- readLines("/tmp/sql.txt")
lines
[1] "SELECT TOP 100 " " setpoint, "     " tph "           "FROM rates"     

sqlcmd <- paste(lines, collapse="")
sqlcmd
[1] "SELECT TOP 100  setpoint,  tph FROM rates"

Answer 2

Ниже приведена функция R, которая читает многострочный запрос SQL (из текстового файла) и преобразует его в однострочную строку. Функция удаляет форматирование и комментарии в целых строках.

Чтобы использовать его, запустите код для определения функций, и ваша однострочная строка будет результатом выполнения ONELINEQ ( "querytextfile.sql", "~ / путь / к / thefile").

Как это работает: встроенные комментарии подробно это; он читает каждую строку запроса и удаляет (заменяет ничто) все, что не нужно для записи однострочной версии запроса (как это было задано в вопросе) Результатом является список строк, некоторые из которых не заполнены и отфильтрованы; последний шаг - вставить этот (не в списке) список вместе и вернуть одну строку.

#

# This set of functions allows us to read in formatted, commented SQL queries
# Comments must be entire-line comments, not on same line as SQL code, and begun with "--"
# The parsing function, to be applied to each line:
LINECLEAN <- function(x) {
  x = gsub("\t+", "", x, perl=TRUE); # remove all tabs
  x = gsub("^\\s+", "", x, perl=TRUE); # remove leading whitespace
  x = gsub("\\s+$", "", x, perl=TRUE); # remove trailing whitespace
  x = gsub("[ ]+", " ", x, perl=TRUE); # collapse multiple spaces to a single space
  x = gsub("^[--]+.*$", "", x, perl=TRUE); # destroy any comments
  return(x)
}
# PRETTYQUERY is the filename of your formatted query in quotes, eg "myquery.sql"
# DIRPATH is the path to that file, eg "~/Documents/queries"
ONELINEQ <- function(PRETTYQUERY,DIRPATH) { 
  A <- readLines(paste0(DIRPATH,"/",PRETTYQUERY)) # read in the query to a list of lines
  B <- lapply(A,LINECLEAN) # process each line
  C <- Filter(function(x) x != "",B) # remove blank and/or comment lines
  D <- paste(unlist(C),collapse=" ") # paste lines together into one-line string, spaces between.
  return(D)
}
# TODO: add eof newline automatically to remove warning
#############################################################################################

Answer 3

Вот окончательная версия того, что я использую. Спасибо, Дирк.

fileconn<-file("sql.txt","r")           
sqlString<-readLines(fileconn)          
sqlString<-paste(sqlString,collapse="")
gsub("\t","", sqlString)
library(RODBC)
sqlconn<-odbcConnect("RPM")
results<-sqlQuery(sqlconn,sqlString)
library(qcc)
tph <- qcc(results$tphmean[1:50], type="xbar.one", ylim=c(4000,12000), std.dev=600)
close(fileconn)
close(sqlconn)

Answer 4

Вот что я использую:

# Set Filename
fileName <- 'Input File.txt'

doSub <- function(src, dest_var_name, src_pattern, dest_pattern) {
    assign(
            x       = dest_var_name
        ,   value   = gsub(
                            pattern     = src_pattern
                        ,   replacement = dest_pattern
                        ,   x = src
                    )
        ,   envir   = .GlobalEnv
    )
}


# Read File Contents
original_text <- readChar(fileName, file.info(fileName)$size)

# Convert to UNIX line ending for ease of use
doSub(src = original_text, dest_var_name = 'unix_text', src_pattern = '\r\n', dest_pattern = '\n')

# Remove Block Comments
doSub(src = unix_text, dest_var_name = 'wo_bc_text', src_pattern = '/\\*.*?\\*/', dest_pattern = '')

# Remove Line Comments
doSub(src = wo_bc_text, dest_var_name = 'wo_bc_lc_text', src_pattern = '--.*?\n', dest_pattern = '')

# Remove Line Endings to get Flat Text
doSub(src = wo_bc_lc_text, dest_var_name = 'flat_text', src_pattern = '\n', dest_pattern = ' ')

# Remove Contiguous Spaces
doSub(src = flat_text, dest_var_name = 'clean_flat_text', src_pattern = ' +', dest_pattern = ' ')

Answer 5

Можно использовать readChar() вместо readLines(). У меня была постоянная проблема со смешанными комментариями (-- или /* */), и это всегда работало хорошо для меня.

sql <- readChar(path.to.file, file.size(path.to.file))
query <- sqlQuery(con, sql, stringsAsFactors = TRUE)

Answer 6

попробуй paste(sqlString, collapse=" ")

Answer 7

Я использую sql <- gsub("\n","",sql) и sql <- gsub("\t","",sql) вместе.