Программное определение разницы между списком через запятую и абзацем - PullRequest
0 голосов
/ 17 июня 2011

Я работаю над переносом данных, когда в старой системе пользователям было разрешено вводить свои интересы в большом текстовом поле без каких-либо инструкций по форматированию.В результате некоторые написали в био формате, а другие написали в виде списка через запятую.Есть несколько других форматов, но это основные.

Теперь я знаю, как определить список через запятую (CSL).Это достаточно просто.Но как насчет определения, является ли строка CSL (может быть, короткой с двумя терминами или фразами) или просто абзацем, который кто-то написал, который содержит запятую?

Одна мысль, которая у меня есть, - это автоматически игнорировать строки, содержащиезнаки пунктуации и строки, не содержащие запятых.Однако я обеспокоен тем, что этого будет недостаточно или оставит желать лучшего.Поэтому я хотел бы попросить сообщество узнать, что вы, ребята, думаете.А пока я попробую свою идею.

ОБНОВЛЕНИЕ: Хорошо, ребята, у меня есть свой алгоритм.Вот он ниже ...

МОЙ КОД:


//Process our interests text field and get the list of interests
function process_interests($interests)
{
  $interest_list = array();

  if ( preg_match('/(\.)/', $interests)  0 && $word_cnt > 0)
      $ratio = $delimiter_cnt / $word_cnt;

    //If delimiter is found with the right ratio then we can go forward with this.
    //Should not be any more the 5 words per delimiter (ratio = delimiter / words ... this must be at least 0.2)
    if (!empty($delimiter) && $ratio > 0 && $ratio >= 0.2)
    {
      //Check for label with colon after it
      $interests = remove_colon($interests);

      //Now we make our array
      $interests = explode($delimiter, $interests);

      foreach ($interests AS $val)
      {
        $val = humanize($val);

        if (!empty($val))
          $interest_list[] = $val;
      }
    }
  }

  return $interest_list;
}

//Cleans up strings a bit
function humanize($str)
{
  if (empty($str))
    return ''; //Lets not waste processing power on empty strings

  $str = remove_colon($str); //We do this one more time for inline labels too.
  $str = trim($str); //Remove unused bits
  $str = ltrim($str, ' -'); //Remove leading dashes
  $str = str_replace('  ', ' ', $str); //Remove double spaces, replace with single spaces
  $str = str_replace(array(".", "(", ")", "\t"), '', $str); //Replace some unwanted junk

  if ( strtolower( substr($str, 0, 3) ) == 'and')
    $str = substr($str, 3); //Remove leading "and" from term

  $str = ucwords(preg_replace('/[_]+/', ' ', strtolower(trim($str))));

  return $str;
}

//Check for label with colon after it and remove the label
function remove_colon($str)
{
  //Check for label with colon after it
  if (strstr($str, ':'))
  {
    $str = explode(':', $str); //If we find it we must remove it
    unset($str[0]); //To remove it we just explode it and take everything to the right of it.
    $str = trim(implode(':', $str)); //Sometimes colons are still used elsewhere, I am going to allow this
  }

  return $str;
}

Спасибо за вашу помощь и предложения!

1 Ответ

1 голос
/ 17 июня 2011

В дополнение к упомянутой фильтрации вы можете создать соотношение количества запятых к длине строки.В CSL это соотношение будет высоким, в параграфах - низким.Вы можете установить какой-то порог и выбирать, основываясь на том, достаточно ли велика доля записи.Единицы с отношениями, близкими к пороговому значению, могут быть помечены как подверженные ошибкам, а затем могут быть проверены модератором.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...