MySQL支持Emoji表情与utf8mb4编码


UTF8MB4简介

MySQL在5.5.3之后增加了这个utf8mb4的编码,mb4就是most bytes 4的意思,专门用来兼容四字节的Unicode。好在utf8mb4UTF-8的超集,除了将编码改为utf8mb4外不需要做其他转换。当然为了节省空间,一般情况下使用UTF-8也就够了。

那上面说了既然UTF-8能够存下大部分中文汉字,那为什么还要使用utf8mb4呢? 原来MySQL支持的UTF-8编码最大字符长度为3字节,如果遇到4字节的宽字符就会插入异常了。三个字节的UTF-8最大能编码的Unicode字符是0xFFFF,也就是Unicode中的基本多文种平面(BMP)。也就是说,任何不在基本多文本平面的Unicode字符,都无法使用MySQL的UTF-8字符集存储。包括Emoji表情(Emoji 是一种特殊的Unicode编码,常见于IOS和 Android 手机上),和很多不常用的汉字,以及任何新增的Unicode字符等等。

问题根源

最初的UTF-8格式使用一至六个字节,最大能编码31位字符。最新的UTF-8规范只使用一到四个字节,最大能编码21位,正好能够表示所有的17个Unicode平面。

UTF-8是MySQL中的一种字符集,只支持最长三个字节的UTF-8字符,也就是Unicode中的基本多文本平面。

MySQL中的UTF-8为什么只支持持最长三个字节的UTF-8字符呢?我想了一下,可能是因为MySQL刚开始开发那会,Unicode还没有辅助平面这一说呢。那时候,Unicode委员会还做着 “65535 个字符足够全世界用了”的美梦。MySQL中的字符串长度算的是字符数而非字节数,对于CHAR数据类型来说,需要为字符串保留足够的长。当使用UTF-8字符集时,需要保留的长度就是UTF-8最长字符长度乘以字符串长度,所以这里理所当然的限制了UTF-8最大长度为3,比如CHAR(100) MySQL会保留300字节长度。至于后续的版本为什么不对4字节长度的UTF-8字符提供支持,我想一个是为了向后兼容性的考虑,还有就是基本多文种平面之外的字符确实很少用到。

要在MySQL中保存4字节长度的UTF-8字符,需要使用utf8mb4字符集,但只有5.5.3版本以后的才支持。我觉得,为了获取更好的兼容性,应该总是使用utf8mb4而非UTF-8。对于CHAR类型数据,utf8mb4会多消耗一些空间,根据MySQL官方建议,使用VARCHAR替代CHAR。

解决办法

首先要修改MySQL的配置文件,让MySQL支持utf8mb4编码。

[client]
default-character-set = utf8mb4
 
[mysqld]
character-set-server=utf8mb4
collation-server=utf8mb4_unicode_ci
 
[mysql]
default-character-set = utf8mb4

然后更改数据库和表的默认编码。

ALTER TABLE `table1` CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
ALTER SCHEMA `schema`  DEFAULT COLLATE utf8mb4_unicode_ci;



版权声明

本作品采用知识共享署名-非商业性使用 4.0 国际许可协议进行许可。 本站文章除注明转载/出处外,均为本站原创或翻译,转载前请务必署名。