Coldfusion CSV в Excel CSVtoArray Посторонние цитаты - PullRequest
1 голос
/ 09 июля 2020

Я успешно использовал функцию ColdFusion CSVtoArray для программного преобразования файлов CSV в файлы Excel, которые я затем могу импортировать в свою базу данных через CFSpreadsheet. Недавно я столкнулся с проблемой данных, которую функция подавляет, и я недостаточно силен с RegEx (что, как я подозреваю, мне понадобится), чтобы исправить это. Я надеюсь, что кто-то из присутствующих может дать мне соответствующее исправление.

Данные CSV обычно делятся запятыми и разделяются такими кавычками (многоточие представляет дополнительные данные до и после строки), которые преобразуются без ошибок :

..., «Миннеаполис», «Миннесота», «55555», «Направление пациента - Джон Смит», ...

Проблема I ' Мы сталкиваемся с тем, что в строке, разделенной запятыми, есть лишние кавычки . Например, эта строка завершится ошибкой и остановит дальнейший импорт:

..., «Миннеаполис», «Миннесота», «55555», «Направление пациента - Роберт » Боб" Smith", ...

Я думаю , что мне нужно запустить какой-то RegEx Заменить на символ кавычки --- но только там, где перед ним или после запятой стоит , а не ? Но понятия не имею, как это сделать. Есть предложения?

Я включу полный код функции CSVtoArray ниже, который я использую. Буду признателен за любые советы / исправления. Спасибо!

    <cffunction
name="csvToArray"
access="public"
returntype="array"
output="false"
hint="I take a CSV file or CSV data value and convert it to an array of arrays based on the given field delimiter. Line delimiter is assumed to be new line / carriage return related.">
 
<!--- Define arguments. --->
<cfargument
name="file"
type="string"
required="false"
default=""
hint="I am the optional file containing the CSV data."
/>
 
<cfargument
name="csv"
type="string"
required="false"
default=""
hint="I am the CSV text data (if the file argument was not used)."
/>
 
<cfargument
name="delimiter"
type="string"
required="false"
default=","
hint="I am the field delimiter (line delimiter is assumed to be new line / carriage return)."
/>
 
<cfargument
name="trim"
type="boolean"
required="false"
default="true"
hint="I flags whether or not to trim the END of the file for line breaks and carriage returns."
/>
 
<!--- Define the local scope. --->
<cfset var local = {} />
 
<!---
Check to see if we are using a CSV File. If so, then all we
want to do is move the file data into the CSV variable. That
way, the rest of the algorithm can be uniform.
--->
<cfif len( arguments.file )>

<cfset FilePathName="\\ply-fileserver\EPDE\DOWNLOADS\#arguments.file#">

<!--- Read the file into Data. --->
<cfset arguments.csv = fileRead( FilePathName ) />
 
</cfif>
 
<!---
ASSERT: At this point, no matter how the data was passed in,
we now have it in the CSV variable.
--->
 
<!---
Check to see if we need to trim the data. Be default, we are
going to pull off any new line and carraige returns that are
at the end of the file (we do NOT want to strip spaces or
tabs as those are field delimiters).
--->
<cfif arguments.trim>
 
<!--- Remove trailing line breaks and carriage returns. --->
<cfset arguments.csv = reReplace(
arguments.csv,
"[\r\n]+$",
"",
"all"
) />
 
</cfif>
 
<!--- Make sure the delimiter is just one character. --->
<cfif (len( arguments.delimiter ) neq 1)>
 
<!--- Set the default delimiter value. --->
<cfset arguments.delimiter = "," />
 
</cfif>
 
 
<!---
Now, let's define the pattern for parsing the CSV data. We
are going to use verbose regular expression since this is a
rather complicated pattern.
 
NOTE: We are using the verbose flag such that we can use
white space in our regex for readability.
--->
<cfsavecontent variable="local.regEx">(?x)
<cfoutput>
 
<!--- Make sure we pick up where we left off. --->
\G
 
<!---
We are going to start off with a field value since
the first thing in our file should be a field (or a
completely empty file).
--->
(?:
 
<!--- Quoted value - GROUP 1 --->
"([^"]*+ (?>""[^"]*+)* )"
 
|
 
<!--- Standard field value - GROUP 2 --->
([^"\#arguments.delimiter#\r\n]*+)
 
)
 
<!--- Delimiter - GROUP 3 --->
(
\#arguments.delimiter# |
\r\n? |
\n |
$
)
 
</cfoutput>
</cfsavecontent>
 
<!---
Create a compiled Java regular expression pattern object
for the experssion that will be parsing the CSV.
--->
<cfset local.pattern = createObject(
"java",
"java.util.regex.Pattern"
).compile(
javaCast( "string", local.regEx )
)
/>
 
<!---
Now, get the pattern matcher for our target text (the CSV
data). This will allows us to iterate over all the tokens
in the CSV data for individual evaluation.
--->
<cfset local.matcher = local.pattern.matcher(
javaCast( "string", arguments.csv )
) />
 
 
<!---
Create an array to hold the CSV data. We are going to create
an array of arrays in which each nested array represents a
row in the CSV data file. We are going to start off the CSV
data with a single row.
 
NOTE: It is impossible to differentiate an empty dataset from
a dataset that has one empty row. As such, we will always
have at least one row in our result.
--->
<cfset local.csvData = [ [] ] />
 
<!---
Here's where the magic is taking place; we are going to use
the Java pattern matcher to iterate over each of the CSV data
fields using the regular expression we defined above.
 
Each match will have at least the field value and possibly an
optional trailing delimiter.
--->
<cfloop condition="local.matcher.find()">
 
<!---
Next, try to get the qualified field value. If the field
was not qualified, this value will be null.
--->
<cfset local.fieldValue = local.matcher.group(
javaCast( "int", 1 )
) />
 
<!---
Check to see if the value exists in the local scope. If
it doesn't exist, then we want the non-qualified field.
If it does exist, then we want to replace any escaped,
embedded quotes.
--->
<cfif structKeyExists( local, "fieldValue" )>
 
<!---
The qualified field was found. Replace escpaed
quotes (two double quotes in a row) with an unescaped
double quote.
--->
<cfset local.fieldValue = replace(
local.fieldValue,
"""""",
"""",
"all"
) />
 
<cfelse>
 
<!---
No qualified field value was found; as such, let's
use the non-qualified field value.
--->
<cfset local.fieldValue = local.matcher.group(
javaCast( "int", 2 )
) />
 
</cfif>
 
<!---
Now that we have our parsed field value, let's add it to
the most recently created CSV row collection.
--->
<cfset arrayAppend(
local.csvData[ arrayLen( local.csvData ) ],
local.fieldValue
) />
 
<!---
Get the delimiter. We know that the delimiter will always
be matched, but in the case that it matched the end of
the CSV string, it will not have a length.
--->
<cfset local.delimiter = local.matcher.group(
javaCast( "int", 3 )
) />
 
<!---
Check to see if we found a delimiter that is not the
field delimiter (end-of-file delimiter will not have
a length). If this is the case, then our delimiter is the
line delimiter. Add a new data array to the CSV
data collection.
--->
<cfif (
len( local.delimiter ) &&
(local.delimiter neq arguments.delimiter)
)>
 
<!--- Start new row data array. --->
<cfset arrayAppend(
local.csvData,
arrayNew( 1 )
) />
 
<!--- Check to see if there is no delimiter length. --->
<cfelseif !len( local.delimiter )>
 
<!---
If our delimiter has no length, it means that we
reached the end of the CSV data. Let's explicitly
break out of the loop otherwise we'll get an extra
empty space.
--->
<cfbreak />
 
</cfif>
 
</cfloop>
 
 
<!---
At this point, our array should contain the parsed contents
of the CSV value as an array of arrays. Return the array.
--->
<cfreturn local.csvData />
</cffunction>

1 Ответ

0 голосов
/ 09 июля 2020

Совет № 1

I've been using the ColdFusion function CSVtoArray successfully to programmatically convert CSV files into Excel files that I can then import into my database via CFSpreadsheet. Мне кажется, что это слишком сложно. Рассматривали ли вы возможность чтения файла с помощью <cffile>, а затем перебора полученной переменной для вставки ваших записей?

Совет № 2

Для работы с кавычками регулярное выражение не требуется. Вы можете использовать более простые строковые функции следующим образом:

// delete leading double quote
row = replace(row, '"', '', 'one');
// delete trailing double quote
row = left(row, len(row) -1);
// change csv delimiters to ascii 50, record separator
row = replace(row, '",", chr(50), 'all');

Использование параметров запроса в вашем запросе вставки будет обрабатывать любые другие двойные или одинарные кавычки.

...