求一个处理中文的哈希函数

网上和书上都有关于数字的哈希函数的设计,但对于中文汉字的哈希函数资料很少,求一个哈希函数,实现给出一个词语串,如:“中国 人”,通过该哈希函数给出哈希地址。即h(中国 人)=一个地址。谢谢!

hash函数的策略。

对于GB2312编码,设输入的汉字为GBword,我们可以采用公式(C1-176)*94 + (C2-161)确定GBindex。其中,C1表示第一字节,C2表示第二字节。具体如下:

GBindex = ((unsigned char)GBword.at(0)-176)*94 + (unsigned char)GBword.at(1) - 161;

之所以用unsigned char类型,是因为char是一个字节,如果用unsigend int,因为int是4个字节的,所以会造成扩展,导致错误。

   对于GBK编码,设输入的汉字为GBKword,则可以采用公式   index=(ch1-0x81)*190+(ch2-0x40)-(ch2/128),其中ch1是第一字节,ch2是第二字节。

具体的,

GBKindex = ((unsigned char)GBKword[0]-129)*190 +

           ((unsigned char)GBKword[1]-64) - (unsigned char)GBKword[1]/128;

可不可以把中文转成acsii的编码,在对那个编码进行每个字节的hashcode,英文的hashcode总会是到处都找得到的。

为什么要用中文做呢,中文在程序中永远是个让人不放心的钉子..
我以前枚举用了个中文,到现在,还在担心...
不建议使用中文做,书名可以是中文 但是确实该转了在做.. :)

一个最简单的方法,把中文字符串按8位分隔成一个单元(下面以16进制为例,%表示取余),比如分隔成以下:
假设一个字符串分成了以下单元
12,7A,F6,3A,.......
然后我们来计算
((12*FF+7A)%FFFF+(F6*FF+3A)%FFFF+.....)%FFF

用的什么语言?如果是ruby可以直接实现你的需要。或者自己写一个函数,思路如下:

获取到key后,判断是否ascii,是则直接赋值,不是则转为16进制的编码,将此编码做为key。这样就OK了。

汉字编码中现在主要用到的有三类,包括GBK,GB2312和Big5。

1、GB2312又称国标码,由国家标准总局发布,1981年5月1日实施,通行于大陆。新加坡等地也使用此编码。它是一个简化字的编码规范,当然也包括其他的符号、字母、日文假名等,共7445个图形字符,其中汉字占6763个。我们平时说6768个汉字,实际上里边有5个编码为空白,所以总共有6763个汉字。

  GB2312规定“对任意一个图形字符都采用两个字节表示,每个字节均采用七位编码表示”,习惯上称第一个字节为“高字节”,第二个字节为“低字节”。GB2312中汉字的编码范围为,第一字节0xB0-0xF7(对应十进制为176-247),第二个字节0xA0-0xFE(对应十进制为160-254)。

GB2312将代码表分为94个区,对应第一字节(0xa1-0xfe);每个区94个位(0xa1-0xfe),对应第二字节,两个字节的值分别为区号值和位号值加32(2OH),因此也称为区位码。01-09区为符号、数字区,16-87区为汉字区(0xb0-0xf7),10-15区、88-94区是有待进一步标准化的空白区。



   2、Big5又称大五码,主要为香港与台湾使用,即是一个繁体字编码。每个汉字由两个字节构成,第一个字节的范围从0X81-0XFE(即129-255),共126种。第二个字节的范围不连续,分别为0X40-0X7E(即64-126),0XA1-0XFE(即161-254),共157种。



3、GBK是GB2312的扩展,是向上兼容的,因此GB2312中的汉字的编码与GBK中汉字的相同。另外,GBK中还包含繁体字的编码,它与Big5编码之间的关系我还没有弄明白,好像是不一致的。GBK中每个汉字仍然包含两个字节,第一个字节的范围是0x81-0xFE(即129-254),第二个字节的范围是0x40-0xFE(即64-254)。GBK中有码位23940个,包含汉字21003个。



                               表1 汉字编码范围

名称
第一字节
第二字节

GB2312
0xB0-0xF7(176-247)
0xA0-0xFE(160-254)

GBK
0x81-0xFE(129-254)
0x40-0xFE(64-254)

Big5
0x81-0xFE(129-255)
0x40-0x7E(64-126)

0xA1-0xFE(161-254)