Как анализировать csv с помощью boost:: spirit

у меня есть эта строка csv

std::string s = R"(1997,Ford,E350,"ac, abs, moon","some "rusty" parts",3000.00)";

Я могу разобрать его с помощью boost::tokenizer:

typedef boost::tokenizer< boost::escaped_list_separator<char> , std::string::const_iterator, std::string> Tokenizer;
boost::escaped_list_separator<char> seps('', ',', '"');
Tokenizer tok(s, seps);
for (auto i : tok)
{
    std::cout << i << std::endl;
}

он получает это право, за исключением токена "ржавый"должен иметь двойные кавычки, которые раздеваются.

вот моя попытка использовать boost:: spirit

boost::spirit::classic::rule<> list_csv_item = !(boost::spirit::classic::confix_p('"', *boost::spirit::classic::c_escape_ch_p, '"') | boost::spirit::classic::longest_d[boost::spirit::classic::real_p | boost::spirit::classic::int_p]);
std::vector<std::string> vec_item;
std::vector<std::string>  vec_list;
boost::spirit::classic::rule<> list_csv = boost::spirit::classic::list_p(list_csv_item[boost::spirit::classic::push_back_a(vec_item)],',')[boost::spirit::classic::push_back_a(vec_list)];
boost::spirit::classic::parse_info<> result = parse(s.c_str(), list_csv);
if (result.hit)
{
  for (auto i : vec_item)
  {
    cout << i << endl;
   }
}

проблемы:

  1. не работает, печатает только первый маркер

  2. почему boost::spirit:: classic? не могу найти примеры использования духе П2

  3. настройки брутальный .. но я могу жить с этим!--7-->

* * Я действительно хочу использовать boost::spirit потому что это, как правило, довольно быстро

ожидаемый результат:

1997
Ford
E350
ac, abs, moon
some "rusty" parts

3000.00

2 ответов


сообщение Sehe выглядит немного чище, чем мое, но я собирал это вместе немного, так что здесь в любом случае:

#include <boost/tokenizer.hpp>
#include <boost/spirit/include/qi.hpp>

namespace qi = boost::spirit::qi;

int main() {
    const std::string s = R"(1997,Ford,E350,"ac, abs, moon",""rusty"",3000.00)";

    // Tokenizer
    typedef boost::tokenizer< boost::escaped_list_separator<char> , std::string::const_iterator, std::string> Tokenizer;
    boost::escaped_list_separator<char> seps('\', ',', '\"');
    Tokenizer tok(s, seps);
    for (auto i : tok)
        std::cout << i << "\n";
    std::cout << "\n";

    // Boost Spirit Qi
    qi::rule<std::string::const_iterator, std::string()> quoted_string = '"' >> *(qi::char_ - '"') >> '"';
    qi::rule<std::string::const_iterator, std::string()> valid_characters = qi::char_ - '"' - ',';
    qi::rule<std::string::const_iterator, std::string()> item = *(quoted_string | valid_characters );
    qi::rule<std::string::const_iterator, std::vector<std::string>()> csv_parser = item % ',';

    std::string::const_iterator s_begin = s.begin();
    std::string::const_iterator s_end = s.end();
    std::vector<std::string> result;

    bool r = boost::spirit::qi::parse(s_begin, s_end, csv_parser, result);
    assert(r == true);
    assert(s_begin == s_end);

    for (auto i : result)
        std::cout << i << std::endl;
    std::cout << "\n";
}   

и это выводит:

1997
Ford
E350
ac, abs, moon
rusty
3000.00

1997
Ford
E350
ac, abs, moon
rusty
3000.00

Кое-Что Стоит Отметить: это не реализует полный парсер CSV. Вы также хотите посмотреть на escape-символы или что-то еще требуется для вашей реализации.

и: если вы просматриваете документацию, просто чтобы вы знали, в Qi, 'a' эквивалентно boost::spirit::qi::lit('a') и "abc" эквивалентно boost::spirit::qi::lit("abc").

на двойные кавычки: Итак, как отмечает Sehe в комментарии выше, не совсем ясно, какие правила окружают "" во входном тексте означает. Если вам нужны все экземпляры "" не в цитируемой строке для преобразования в ", потом что-то вроде следующего будет работать.

qi::rule<std::string::const_iterator, std::string()> double_quote_char = "\"\"" >> qi::attr('"');
qi::rule<std::string::const_iterator, std::string()> item = *(double_quote_char | quoted_string | valid_characters );

для фона при разборе (необязательно) полей с разделителями, включая различные символы цитирования (', "), см. здесь:

на очень, очень, очень полный пример в комплекте с поддержкой частично цитирует значения и

splitInto(input, output, ' ');

метод, который принимает "произвольные" выходные контейнеры и выражения-разделители см. здесь:

обращаясь к вашему точному вопросу, предполагая или процитировано или поля без кавычек (без частичных кавычек внутри значения полей), используя Spirit V2:

давайте возьмем самый простой "абстрактный тип данных" , который может быть работа:

using Column  = std::string;
using Columns = std::vector<Column>;
using CsvLine = Columns;
using CsvFile = std::vector<CsvLine>;

и повторенная двойная цитата побег семантика двойной кавычки (как я указал в комментарии), вы должны иметь возможность использовать что-то вроде:

static const char colsep = ',';

start  = -line % eol;
line   = column % colsep;
column = quoted | *~char_(colsep);
quoted = '"' >> *("\"\"" | ~char_('"')) >> '"';

следующая полная тестовая программа печатает

[1997][Ford][E350][ac, abs, moon][rusty][3001.00]

(обратите внимание на определение BOOST_SPIRIT_DEBUG для легкой отладки). Смотри!--48-->жить на Coliru

Полная Демо

//#define BOOST_SPIRIT_DEBUG
#include <boost/spirit/include/qi.hpp>

namespace qi = boost::spirit::qi;

using Column  = std::string;
using Columns = std::vector<Column>;
using CsvLine = Columns;
using CsvFile = std::vector<CsvLine>;

template <typename It>
struct CsvGrammar : qi::grammar<It, CsvFile(), qi::blank_type>
{
    CsvGrammar() : CsvGrammar::base_type(start)
    {
        using namespace qi;

        static const char colsep = ',';

        start  = -line % eol;
        line   = column % colsep;
        column = quoted | *~char_(colsep);
        quoted = '"' >> *("\"\"" | ~char_('"')) >> '"';

        BOOST_SPIRIT_DEBUG_NODES((start)(line)(column)(quoted));
    }
  private:
    qi::rule<It, CsvFile(), qi::blank_type> start;
    qi::rule<It, CsvLine(), qi::blank_type> line;
    qi::rule<It, Column(),  qi::blank_type> column;
    qi::rule<It, std::string()> quoted;
};

int main()
{
    const std::string s = R"(1997,Ford,E350,"ac, abs, moon","""rusty""",3001.00)";

    auto f(begin(s)), l(end(s));
    CsvGrammar<std::string::const_iterator> p;

    CsvFile parsed;
    bool ok = qi::phrase_parse(f,l,p,qi::blank,parsed);

    if (ok)
    {
        for(auto& line : parsed) {
            for(auto& col : line)
                std::cout << '[' << col << ']';
            std::cout << std::endl;
        }
    } else
    {
        std::cout << "Parse failed\n";
    }

    if (f!=l)
        std::cout << "Remaining unparsed: '" << std::string(f,l) << "'\n";
}