Zlib adler32 проблема скользящей контрольной суммы - PullRequest
Новая
       42

Zlib adler32 проблема скользящей контрольной суммы

3 голосов
/ 30 мая 2011

Я использую функцию adler32 из zlib для вычисления слабой контрольной суммы куска памяти x (длиной 4096).Все хорошо, но теперь я хотел бы выполнить скользящую контрольную сумму, если фрагменты из другого файла не совпадают, однако я не уверен, как написать функцию для выполнения этого для значения, возвращаемого adler32 в zlib.Итак, если контрольная сумма не совпадает, как рассчитать скользящую контрольную сумму, используя исходную контрольную сумму, x + 1 байт и x + 4096 + 1?в основном пытается построить реализацию rsync.

Спасибо заранее.

1 Ответ

5 голосов
/ 28 декабря 2011

Pysync реализовал накатывание поверх Adler32 в zlib следующим образом: 

_BASE=65521      # largest prime smaller than 65536
_NMAX=5552       # largest n such that 255n(n+1)/2 + (n+1)(BASE-1) <= 2^32-1
_OFFS=1          # default initial s1 offset   
import zlib
class adler32:
    def __init__(self,data=''):
        value = zlib.adler32(data,_OFFS)
        self.s2, self.s1 = (value >> 16) & 0xffff, value & 0xffff
        self.count=len(data)
    def update(self,data):
        value = zlib.adler32(data, (self.s2<<16) | self.s1)
        self.s2, self.s1 = (value >> 16) & 0xffff, value & 0xffff
        self.count = self.count+len(data)
    def rotate(self,x1,xn):
        x1,xn=ord(x1),ord(xn)
        self.s1=(self.s1 - x1 + xn) % _BASE
        self.s2=(self.s2 - self.count*x1 + self.s1 - _OFFS) % _BASE
    def digest(self):
        return (self.s2<<16) | self.s1
    def copy(self):
        n=adler32()
        n.count,n.s1,n.s2=self.count,self.s1,self.s2
        return n

Но, как сказал Питер, rsync не использует Adler32 напрямую, а использует более быстрый вариант.

Код инструмента rsync немного сложен для чтения, но проверка librsync .Это совершенно отдельный проект, и он гораздо более читабелен.Посмотрите на rollsum.c и rollsum.h.Существует эффективная реализация варианта в макросах C: 

/* the Rollsum struct type*/
typedef struct _Rollsum {
    unsigned long count;               /* count of bytes included in sum */
    unsigned long s1;                  /* s1 part of sum */
    unsigned long s2;                  /* s2 part of sum */
} Rollsum;

#define ROLLSUM_CHAR_OFFSET 31

#define RollsumInit(sum) { \
    (sum)->count=(sum)->s1=(sum)->s2=0; \
}

#define RollsumRotate(sum,out,in) { \
    (sum)->s1 += (unsigned char)(in) - (unsigned char)(out); \
    (sum)->s2 += (sum)->s1 - (sum)->count*((unsigned char)(out)+ROLLSUM_CHAR_OFFSET); \
}

#define RollsumRollin(sum,c) { \
    (sum)->s1 += ((unsigned char)(c)+ROLLSUM_CHAR_OFFSET); \
    (sum)->s2 += (sum)->s1; \
    (sum)->count++; \
}

#define RollsumRollout(sum,c) { \
    (sum)->s1 -= ((unsigned char)(c)+ROLLSUM_CHAR_OFFSET); \
    (sum)->s2 -= (sum)->count*((unsigned char)(c)+ROLLSUM_CHAR_OFFSET); \
    (sum)->count--; \
}

#define RollsumDigest(sum) (((sum)->s2 << 16) | ((sum)->s1 & 0xffff))
...