Хэширование строки времени компиляции

Question

Я читал в нескольких разных местах, что, используя новые строковые литералы C ++ 11, можно вычислить хеш строки во время компиляции. Однако, похоже, никто не готов выйти и сказать, что это будет возможно или как это будет сделано.

• Возможно ли это?
• Как бы выглядел оператор?

---

Мне особенно интересны такие случаи использования.

void foo( const std::string& value )
{
   switch( std::hash(value) )
   {
      case "one"_hash: one(); break;
      case "two"_hash: two(); break;
      /*many more cases*/
      default: other(); break;
   }
}

Примечание: хеш-функция времени компиляции не должна выглядеть точно так, как я ее написал. Я сделал все возможное, чтобы угадать, как будет выглядеть окончательное решение, но meta_hash<"string"_meta>::value также может быть жизнеспособным решением.

Answer 1

Это немного поздно, но мне удалось реализовать функцию CRC32 во время компиляции с использованием constexpr.Проблема в том, что на момент написания он работает только с GCC, а не с MSVC или компилятором Intel.

Вот фрагмент кода:

// CRC32 Table (zlib polynomial)
static constexpr uint32_t crc_table[256] = {
    0x00000000L, 0x77073096L, 0xee0e612cL, 0x990951baL, 0x076dc419L,
    0x706af48fL, 0xe963a535L, 0x9e6495a3L, 0x0edb8832L, 0x79dcb8a4L,
    0xe0d5e91eL, 0x97d2d988L, 0x09b64c2bL, 0x7eb17cbdL, 0xe7b82d07L,
...
};
template<size_t idx>
constexpr uint32_t crc32(const char * str)
{
    return (crc32<idx-1>(str) >> 8) ^ crc_table[(crc32<idx-1>(str) ^ str[idx]) & 0x000000FF];
}

// This is the stop-recursion function
template<>
constexpr uint32_t crc32<size_t(-1)>(const char * str)
{
    return 0xFFFFFFFF;
}

// This doesn't take into account the nul char
#define COMPILE_TIME_CRC32_STR(x) (crc32<sizeof(x) - 2>(x) ^ 0xFFFFFFFF)

enum TestEnum
{
    CrcVal01 = COMPILE_TIME_CRC32_STR("stack-overflow"),
};

CrcVal01 равно0x335CC04A

Надеюсь, это поможет вам!

Answer 2

По крайней мере, согласно моим прочтениям §7.1.5 / 3 и §5.19, следующее может быть законным:

unsigned constexpr const_hash(char const *input) {
    return *input ?
        static_cast<unsigned int>(*input) + 33 * const_hash(input + 1) :
        5381;
}

Это похоже на основные правила, изложенные в §7.1.5 / 3:

1. Форма: «возвращаемое выражение;»
2. Единственным параметром является указатель, который является скалярным типом и, следовательно, литеральным типом.
3. Возвращаемое значение равно unsigned int, которое также является скалярным (и, следовательно, буквальным).
4. Нет неявного преобразования в тип возвращаемого значения.

Существует некоторый вопрос, связаны ли *input с незаконным преобразованием lvalue в rvalue, и я не уверен, что понимаю правила, изложенные в §5.19 / 2/6/2 ¹ и §4.1 достаточно хорошо, чтобы быть уверенным в этом.

С практической точки зрения этот код принят (для одного примера) g ++, по крайней мере, так же далеко, как g ++ 4.7.1.

Использование будет примерно таким:

switch(std::hash(value)) {
    case const_hash("one"): one(); break;
    case const_hash("two"): two(); break;
    // ...
    default: other(); break;
}

Чтобы соответствовать требованиям §5.19 / 2/6/2, вам, возможно, придется сделать что-то вроде этого:

// one of the `constexpr`s is probably redundant, but I haven't figure out which.
char constexpr * constexpr v_one = "one"; 

// ....

case const_hash(v_one): one(); break;

1. Я использую дополнительные цифры «косой черты» для обозначения ненумерованных точек маркера, так что это вторая точка маркера внутри шестой точки маркера согласно §5.19 / 2. Я думаю, что мне, возможно, придется поговорить с Питом Беккером о том, возможно ли добавить какие-то цифры / буквы / римские цифры вниз по иерархии, чтобы идентифицировать фрагменты, подобные этой ...

Answer 3

Это попытка решить проблему ОП как можно точнее.

namespace my_hash {
  template<class>struct hasher;
  template<>
  struct hasher<std::string> {
    std::size_t constexpr operator()(char const *input)const {
      return *input ?
        static_cast<unsigned int>(*input) + 33 * (*this)(input + 1) :
        5381;
    }
    std::size_t operator()( const std::string& str ) const {
      return (*this)(str.c_str());
    }
  };
  template<typename T>
  std::size_t constexpr hash(T&& t) {
    return hasher< typename std::decay<T>::type >()(std::forward<T>(t));
  }
  inline namespace literals {
    std::size_t constexpr operator "" _hash(const char* s,size_t) {
      return hasher<std::string>()(s);
    }
  }
}
using namespace my_hash::literals;
void one() {} void two() {} void other() {}

void foo( const std::string& value )
{
  switch( my_hash::hash(value) )
  {
    case "one"_hash: one(); break;
    case "two"_hash: two(); break;
    /*many more cases*/
    default: other(); break;
  }
}

живой пример .

Обратите внимание на основное отличие - std::hash нельзя использовать, так как мы не имеем контроля над алгоритмом std::hash, и мы должны переопределить его как constexpr, чтобы оценить это во время компиляции. Кроме того, в std нет «прозрачных» хэшей, поэтому вы не можете (без создания std::string) хешировать необработанный символьный буфер как std::string.

Я вставил пользовательский хеш std::string (с прозрачной поддержкой const char*) в пространство имен my_hash, поэтому вы можете сохранить его в std::unordered_map, если вам нужна согласованность.

Основано на превосходном ответе @ JerryCoffin и ветке комментариев под ним, но с попыткой написать его с использованием лучших рекомендаций C ++ 11 (в отличие от их предвидения!).

Обратите внимание, что использование "необработанного хэша" для оператора switch case опасно. После этого вы захотите сделать сравнение ==, чтобы убедиться, что оно работает.

Answer 4

Этот фрагмент основан на клименте Климента Джейкоба. Но работает и с лязгом. И это должно быть быстрее при компиляции (у него только один рекурсивный вызов, а не два, как в оригинальном сообщении).

#include <iostream>
#include <string>
#include <vector>

static constexpr unsigned int crc_table[256] = {
    0x00000000, 0x77073096, 0xee0e612c, 0x990951ba, 0x076dc419, 0x706af48f,
    0xe963a535, 0x9e6495a3,    0x0edb8832, 0x79dcb8a4, 0xe0d5e91e, 0x97d2d988,
    0x09b64c2b, 0x7eb17cbd, 0xe7b82d07, 0x90bf1d91, 0x1db71064, 0x6ab020f2,
    0xf3b97148, 0x84be41de, 0x1adad47d, 0x6ddde4eb, 0xf4d4b551, 0x83d385c7,
    0x136c9856, 0x646ba8c0, 0xfd62f97a, 0x8a65c9ec, 0x14015c4f, 0x63066cd9,
    0xfa0f3d63, 0x8d080df5, 0x3b6e20c8, 0x4c69105e, 0xd56041e4, 0xa2677172,
    0x3c03e4d1, 0x4b04d447, 0xd20d85fd, 0xa50ab56b, 0x35b5a8fa, 0x42b2986c,
    0xdbbbc9d6, 0xacbcf940, 0x32d86ce3, 0x45df5c75, 0xdcd60dcf, 0xabd13d59,
    0x26d930ac, 0x51de003a, 0xc8d75180, 0xbfd06116, 0x21b4f4b5, 0x56b3c423,
    0xcfba9599, 0xb8bda50f, 0x2802b89e, 0x5f058808, 0xc60cd9b2, 0xb10be924,
    0x2f6f7c87, 0x58684c11, 0xc1611dab, 0xb6662d3d, 0x76dc4190, 0x01db7106,
    0x98d220bc, 0xefd5102a, 0x71b18589, 0x06b6b51f, 0x9fbfe4a5, 0xe8b8d433,
    0x7807c9a2, 0x0f00f934, 0x9609a88e, 0xe10e9818, 0x7f6a0dbb, 0x086d3d2d,
    0x91646c97, 0xe6635c01, 0x6b6b51f4, 0x1c6c6162, 0x856530d8, 0xf262004e,
    0x6c0695ed, 0x1b01a57b, 0x8208f4c1, 0xf50fc457, 0x65b0d9c6, 0x12b7e950,
    0x8bbeb8ea, 0xfcb9887c, 0x62dd1ddf, 0x15da2d49, 0x8cd37cf3, 0xfbd44c65,
    0x4db26158, 0x3ab551ce, 0xa3bc0074, 0xd4bb30e2, 0x4adfa541, 0x3dd895d7,
    0xa4d1c46d, 0xd3d6f4fb, 0x4369e96a, 0x346ed9fc, 0xad678846, 0xda60b8d0,
    0x44042d73, 0x33031de5, 0xaa0a4c5f, 0xdd0d7cc9, 0x5005713c, 0x270241aa,
    0xbe0b1010, 0xc90c2086, 0x5768b525, 0x206f85b3, 0xb966d409, 0xce61e49f,
    0x5edef90e, 0x29d9c998, 0xb0d09822, 0xc7d7a8b4, 0x59b33d17, 0x2eb40d81,
    0xb7bd5c3b, 0xc0ba6cad, 0xedb88320, 0x9abfb3b6, 0x03b6e20c, 0x74b1d29a,
    0xead54739, 0x9dd277af, 0x04db2615, 0x73dc1683, 0xe3630b12, 0x94643b84,
    0x0d6d6a3e, 0x7a6a5aa8, 0xe40ecf0b, 0x9309ff9d, 0x0a00ae27, 0x7d079eb1,
    0xf00f9344, 0x8708a3d2, 0x1e01f268, 0x6906c2fe, 0xf762575d, 0x806567cb,
    0x196c3671, 0x6e6b06e7, 0xfed41b76, 0x89d32be0, 0x10da7a5a, 0x67dd4acc,
    0xf9b9df6f, 0x8ebeeff9, 0x17b7be43, 0x60b08ed5, 0xd6d6a3e8, 0xa1d1937e,
    0x38d8c2c4, 0x4fdff252, 0xd1bb67f1, 0xa6bc5767, 0x3fb506dd, 0x48b2364b,
    0xd80d2bda, 0xaf0a1b4c, 0x36034af6, 0x41047a60, 0xdf60efc3, 0xa867df55,
    0x316e8eef, 0x4669be79, 0xcb61b38c, 0xbc66831a, 0x256fd2a0, 0x5268e236,
    0xcc0c7795, 0xbb0b4703, 0x220216b9, 0x5505262f, 0xc5ba3bbe, 0xb2bd0b28,
    0x2bb45a92, 0x5cb36a04, 0xc2d7ffa7, 0xb5d0cf31, 0x2cd99e8b, 0x5bdeae1d,
    0x9b64c2b0, 0xec63f226, 0x756aa39c, 0x026d930a, 0x9c0906a9, 0xeb0e363f,
    0x72076785, 0x05005713, 0x95bf4a82, 0xe2b87a14, 0x7bb12bae, 0x0cb61b38,
    0x92d28e9b, 0xe5d5be0d, 0x7cdcefb7, 0x0bdbdf21, 0x86d3d2d4, 0xf1d4e242,
    0x68ddb3f8, 0x1fda836e, 0x81be16cd, 0xf6b9265b, 0x6fb077e1, 0x18b74777,
    0x88085ae6, 0xff0f6a70, 0x66063bca, 0x11010b5c, 0x8f659eff, 0xf862ae69,
    0x616bffd3, 0x166ccf45, 0xa00ae278, 0xd70dd2ee, 0x4e048354, 0x3903b3c2,
    0xa7672661, 0xd06016f7, 0x4969474d, 0x3e6e77db, 0xaed16a4a, 0xd9d65adc,
    0x40df0b66, 0x37d83bf0, 0xa9bcae53, 0xdebb9ec5, 0x47b2cf7f, 0x30b5ffe9,
    0xbdbdf21c, 0xcabac28a, 0x53b39330, 0x24b4a3a6, 0xbad03605, 0xcdd70693,
    0x54de5729, 0x23d967bf, 0xb3667a2e, 0xc4614ab8, 0x5d681b02, 0x2a6f2b94,
    0xb40bbe37, 0xc30c8ea1, 0x5a05df1b, 0x2d02ef8d
};


template<int size, int idx = 0, class dummy = void>
struct MM{
  static constexpr unsigned int crc32(const char * str, unsigned int prev_crc = 0xFFFFFFFF)
  {
      return MM<size, idx+1>::crc32(str, (prev_crc >> 8) ^ crc_table[(prev_crc ^ str[idx]) & 0xFF] );
  }
};

// This is the stop-recursion function
template<int size, class dummy>
struct MM<size, size, dummy>{
  static constexpr unsigned int crc32(const char * str, unsigned int prev_crc = 0xFFFFFFFF)
  {
      return prev_crc^ 0xFFFFFFFF;
  }
};

// This don't take into account the nul char
#define COMPILE_TIME_CRC32_STR(x) (MM<sizeof(x)-1>::crc32(x))


template<unsigned int crc>
void PrintCrc()
{
    std::cout << crc << std::endl;
}


int main()
{

    PrintCrc<COMPILE_TIME_CRC32_STR("HAH")>();
}

См. Подтверждение концепции здесь

Answer 5

Обратите внимание, что показанная здесь форма не была принята в стандарт, как указано ниже.

Предполагается, что обработка строки времени компиляции станет возможной благодаря пользовательским литералам , предложенным в N2765 .
Как я уже упоминал, я не знаю ни одного компилятора, который в настоящее время реализует его, и без поддержки компилятора можно только догадываться.

В §2.13.7.3 и 4 черновика мы имеем следующее:

В противном случае (S содержит шаблон буквального оператора), L обрабатывается как вызов вида
оператор "" X <'c1', 'c2', ..., 'ck'> () где n - исходная символьная последовательность c1c2 ... ck. [Примечание: последовательность c1c2 ... ck может содержат только символы из основного исходного набора символов. —Конечная записка]

Объедините это с constexpr, и у нас должна быть обработка строки времени компиляции.

обновление: я забыл, что читал не тот абзац, эта форма разрешена для пользовательских-целочисленных литералов и -floating-литералов, но, очевидно, не для -string-литералов (§2.13.7.5) .
Эта часть предложения, кажется, не была принята.

При этом, с моим ограниченным взглядом на C ++ 0x, может выглядеть примерно так (скорее всего, я что-то не так):

template<char c, char... str>
struct hash {
    static const unsigned result = c + hash<str...>::result;
};

template<char c>
struct hash {
    static const unsigned result = c;
};

template<char... str> 
constexpr unsigned
operator "" _hash() {
    return hash<str>::result;
}

// update: probably wrong, because the above 
// form is not allowed for string-literals:    
const unsigned h = "abcd"_hash;

---

Если подход Джерри работает, тогда должно работать следующее:

constexpr unsigned operator "" _hash(const char* s, size_t) {
    return const_hash(s);
}

Answer 6

Другое решение, основанное на решении Клемента JACOB, использующее constexpr C ++ 11 (не расширенный C ++ 14), но имеющее только одну рекурсию.

namespace detail {
// CRC32 Table (zlib polynomial)
static constexpr uint32_t crc_table[256] = { 0x00000000L, 0x77073096L, ... }

template<size_t idx>
constexpr uint32_t combine_crc32(const char * str, uint32_t part) {
  return (part >> 8) ^ crc_table[(part ^ str[idx]) & 0x000000FF];
}

template<size_t idx>
constexpr uint32_t crc32(const char * str) {
  return combine_crc32<idx>(str, crc32<idx - 1>(str));
}

// This is the stop-recursion function
template<>
constexpr uint32_t crc32<size_t(-1)>(const char * str) {
  return 0xFFFFFFFF;
}

} //namespace detail

template <size_t len>
constexpr uint32_t ctcrc32(const char (&str)[len]) {
  return detail::crc32<len - 2>(str) ^ 0xFFFFFFFF;
}

Некоторое объяснение

• Мы используем одну рекурсию, чтобы функция работала хорошо даже для более длинных строк.
• Дополнительная функция combine_crc32 позволяет нам сохранить результат рекурсии под переменной part и использовать его дважды. Эта функция является обходом ограничения C ++ 11, запрещающего объявления локальных переменных.
• Функция ctcrc32 ожидает строковый литерал, который передается как const char (&)[len]. Таким образом, мы можем получить длину строки в качестве параметра шаблона и не должны полагаться на макросы.

Answer 7

Следующее работает в GCC 4.6.1, и вы можете использовать либо hash, либо pack в блоках переключателей.

/* Fast simple string hash (Bernstein?) */                                       
constexpr unsigned int hash(const char *s, int off = 0) {                        
    return !s[off] ? 5381 : (hash(s, off+1)*33) ^ s[off];                           
}                                                                                

/* Pack the string into an unsigned int                                          
 * Using 7 bits (ascii) it packs 9 chars into a uint64_t                         
 */                                                                              
template <class T = uint64_t, unsigned int Bits = 7>                             
constexpr T pack(const char *s, unsigned int off = 0) {                          
    return (Bits*off >= CHAR_BIT*sizeof(T) || !s[off]) ? 0 :                     
        (((T)s[off] << (Bits*off)) | pack(s,off+1));                             
}  

GCC, по-видимому (?) Не разрешает рекурсивные вызовы, когда мы передаем s+1 с s указателем, поэтому я использую переменную off.

Answer 8

Вот еще одна реализация C ++ 11 (основанная на ответе @ CygnusX1), которая работает как с массивами символов constexpr, так и со строками времени выполнения:

namespace detail {

    // CRC32 Table (zlib polynomial)
    static constexpr uint32_t crc_table[256] = { 0x00000000L, 0x77073096L, ... };

    constexpr uint32_t combine_crc32(size_t idx, const char * str, uint32_t part) {
        return (part >> 8) ^ crc_table[(part ^ str[idx]) & 0x000000FF];
    }

    constexpr uint32_t crc32(size_t idx, const char * str) {
        return idx == size_t(-1) ? 
            0xFFFFFFFF : combine_crc32(idx, str, crc32(idx - 1, str));
    }
}

uint32_t ctcrc32(std::string const& str) {
    size_t len = str.size() + 1;
    return detail::crc32(len - 2, str.c_str()) ^ 0xFFFFFFFF;
}

template <size_t len>
constexpr uint32_t ctcrc32(const char (&str)[len]) {
    return detail::crc32(len - 2, str) ^ 0xFFFFFFFF;
}

Вам нужно str.size() + 1, потому что len во второй перегрузке равно strlen(str) + 1 из-за нулевого символа в конце.

Я не добавил перегрузку для const char *, потому что она портится со второй перегрузкой & mdash; Вы можете легко добавить перегрузки для const char *, size_t или std::string_view.

Answer 9

Это хороший вопрос.

Основываясь на ответе Джерри Коффина, я создал еще один, совместимый с std :: hash Visual Studio 2017.

#include <functional>
#include <cassert>
using namespace std;


constexpr size_t cx_hash(const char* input) {
    size_t hash = sizeof(size_t) == 8 ? 0xcbf29ce484222325 : 0x811c9dc5;
    const size_t prime = sizeof(size_t) == 8 ? 0x00000100000001b3 : 0x01000193;

    while (*input) {
        hash ^= static_cast<size_t>(*input);
        hash *= prime;
        ++input;
    }

    return hash;
}


int main() {
    /* Enter your code here. Read input from STDIN. Print output to STDOUT */

    auto a = cx_hash("test");
    hash<string> func;
    auto b = func("test");
    assert(a == b);

    return 0;
}

https://github.com/manuelgustavo/cx_hash

Answer 10

Если у вас есть компилятор c ++ 17 и string_view, это становится тривиальным, просто напишите обычную версию:

constexpr uint32_t crc32(std::string_view str)
{
    uint32_t crc = 0xffffffff;
    for (auto c : str)
        crc = (crc >> 8) ^ crc_table[(crc ^ c) & 0xff];
    return crc ^ 0xffffffff;
}