技术分享 | MySQL 字段长度限制的计算方法
大家好,今天本人给大家带来文章《技术分享 | MySQL 字段长度限制的计算方法》,文中内容主要涉及到MySQL、数据库,如果你对数据库方面的知识点感兴趣,那就请各位朋友继续看下去吧~希望能真正帮到你们,谢谢!
作者:kay
擅长 Oracle、MySQL、PostgresSQL 等多种数据库领域
擅长 Oracle、MySQL 性能优化、数据库架构设计、数据库故障修复、数据迁移以及恢复
热衷于研究 MySQL 数据库内核源码、分享技术文章,并拥有 Oracle OCP 认证
就职于江苏国泰新点软件有限公司,DBA 技术团队成员
一、MySQL 限制回顾
之前在《MySQL Text 字段的限制》一文中讲过了关于 MySQL 在 Server 层和 InnoDB 层的限制,但是限制的算法没有详细展开,这里进行补充说明,先回顾一下 MySQL 的两个限制
1.
Row size too large. The maximum row size for the used table type, not counting BLOBs, is 65535. This includes storage overhead, check the manual. You have to change some columns to TEXT or BLOBs
所以可以根据这个报错来定位到计算方式,其关键函数路径如下:
mysql_prepare_create_table /* sql/sql_table.cc:3474 */ --> mysql_create_frm /* sql/unireg.cc:107 */ --> pack_header /* sql/unireg.cc:733 */
在
if (reclength > (ulong) file->max_record_length()) /* 右值为 65535 */ { my_error(ER_TOO_BIG_ROWSIZE, /* 这个就是上面的报错信息对应的状态值 */ MYF(0), static_cast<long>(file->max_record_length())); DBUG_RETURN(1); }</long>
重点在于
/* sql/unireg.cc:843 */ if (field->offset + data_offset + length > reclength) reclength= field->offset + data_offset + length; /* field->offset 的计算方式 sql/sql_table.cc:3816 */ while ((sql_field=it++)) { /* 省略部分 */ sql_field->offset= record_offset; /* 当前记录的数据偏移量 */ if (MTYP_TYPENR(sql_field->unireg_check) == Field::NEXT_NUMBER) auto_increment++; if (sql_field->stored_in_db) record_offset+= sql_field->pack_length; /* 累加当前字段的pack_length */ } /* data_offset 的计算方式 sql/unireg.cc:139 */ data_offset= (create_info->null_bits + 7) / 8; /* length 的计算方式 sql/unireg.cc:833 */ length=field->pack_length; /* 这个pack_length就是和字段类型相关,以varchar为例*/ /* sql/sql_table.cc:3082 */ sql_field->sql_type= MYSQL_TYPE_VAR_STRING; sql_field->pack_length= calc_pack_length(sql_field->sql_type, (uint) sql_field->length); 关于 `calc_pack_length` 的计算方式如下: size_t calc_pack_length(enum_field_types type, size_t length) { switch (type) { case MYSQL_TYPE_VAR_STRING: case MYSQL_TYPE_STRING: case MYSQL_TYPE_DECIMAL: return (length); case MYSQL_TYPE_VARCHAR: return (length + (length MAX_TIME_WIDTH ? my_time_binary_length(length - MAX_TIME_WIDTH - 1) : 3; case MYSQL_TYPE_TIMESTAMP: return 4; case MYSQL_TYPE_TIMESTAMP2: return length > MAX_DATETIME_WIDTH ? my_timestamp_binary_length(length - MAX_DATETIME_WIDTH - 1) : 4; case MYSQL_TYPE_DATE: case MYSQL_TYPE_LONG : return 4; case MYSQL_TYPE_FLOAT : return sizeof(float); case MYSQL_TYPE_DOUBLE: return sizeof(double); case MYSQL_TYPE_DATETIME: return 8; case MYSQL_TYPE_DATETIME2: return length > MAX_DATETIME_WIDTH ? my_datetime_binary_length(length - MAX_DATETIME_WIDTH - 1) : 5; case MYSQL_TYPE_LONGLONG: return 8; /* Don't crash if no longlong */ case MYSQL_TYPE_NULL : return 0; case MYSQL_TYPE_TINY_BLOB: return 1+portable_sizeof_char_ptr; case MYSQL_TYPE_BLOB: return 2+portable_sizeof_char_ptr; case MYSQL_TYPE_MEDIUM_BLOB: return 3+portable_sizeof_char_ptr; case MYSQL_TYPE_LONG_BLOB: return 4+portable_sizeof_char_ptr; case MYSQL_TYPE_GEOMETRY: return 4+portable_sizeof_char_ptr; case MYSQL_TYPE_JSON: return 4+portable_sizeof_char_ptr; case MYSQL_TYPE_SET: case MYSQL_TYPE_ENUM: case MYSQL_TYPE_NEWDECIMAL: abort(); return 0; // This shouldn't happen case MYSQL_TYPE_BIT: return length / 8; default: return 0; } }
2.2. 小结
根据上面计算方式的梳理,在
data_offset = (number_null_field + 7) / 8; /*number_null_field表示允许为null的字段数*/ total_length = 0; for (int i = 0; i
通过上述计算,需要满足 通过对报错信息的搜索,其判断方式如下: 其中 从上面的源码定义中可以看到: 1.srv_page_size 的默认值为 如上所示, 根据上面计算方式的梳理,在 通过上述计算,需要满足 1.必须在 MySQL Server 层和 InnoDB 层同时满足上述条件,才能建表成功; 终于介绍完啦!小伙伴们,这篇关于《技术分享 | MySQL 字段长度限制的计算方法》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布数据库相关知识,快来关注吧!ERROR 1118 (42000): Row size too large (> 8126).
Changing some columns to TEXT or BLOB may help.
In current row format, BLOB prefix of 0 bytes is stored inline.
/* dict0dict.cc:2515 */
/* Check the size limit on leaf pages. */
if (rec_max_size >= page_rec_max) {
ib::error_or_warn(strict)
name
name
/* dict0dict.cc:2431 */
page_rec_max = srv_page_size == UNIV_PAGE_SIZE_MAX
? REC_MAX_DATA_SIZE - 1
: page_get_free_space_of_empty(comp) / 2;
/* srv0srv.cc:222 */
ulong srv_page_size = UNIV_PAGE_SIZE_DEF;
/* 这个是默认值(DEF),如果my.cnf中配置page_size为32K,那这个值就是32K */
/* univ.i:343 */
# define UNIV_PAGE_SIZE_DEF (1
/*************************************************************//**
Calculates free space if a page is emptied.
@return free space */
UNIV_INLINE
ulint
page_get_free_space_of_empty(
/*=========================*/
ulint comp) /*!
/* 下面是函数 dict_index_too_big_for_tree 中关于 rec_max_size 计算部分的内容 */
/* 涉及到的辅助函数,下面也有相关说明 */
rec_max_size = comp /* comp 为 true */
? REC_N_NEW_EXTRA_BYTES /* rem0rec.h:52:#define REC_N_NEW_EXTRA_BYTES 5 */
: REC_N_OLD_EXTRA_BYTES; /* rem0rec.h:49:#define REC_N_OLD_EXTRA_BYTES 6 */
rec_max_size += UT_BITS_IN_BYTES(new_index->n_nullable);
/*
这个宏的实现如下:
ut0ut.h:222
#define UT_BITS_IN_BYTES(b) (((b) + 7) / 8)
即 (允许为空的字段个数 + 7) / 8
*/
for (i = 0; i n_fields; i++) {
const dict_field_t* field
= dict_index_get_nth_field(new_index, i);
const dict_col_t* col
= dict_field_get_col(field);
ulint field_max_size;
ulint field_ext_max_size;
/* In dtuple_convert_big_rec(), variable-length columns
that are longer than BTR_EXTERN_LOCAL_STORED_MAX_SIZE
may be chosen for external storage.
Fixed-length columns, and all columns of secondary
index records are always stored inline. */
/* Determine the maximum length of the index field.
The field_ext_max_size should be computed as the worst
case in rec_get_converted_size_comp() for
REC_STATUS_ORDINARY records. */
field_max_size = dict_col_get_fixed_size(col, comp);
/* 本质上是判断是否定长,并获得定长字段的字节数*/
/*如果是定长,则直接 goto add_field_size 进行求值*/
if (field_max_size && field->fixed_len != 0) {
/* dict_index_add_col() should guarantee this */
ut_ad(!field->prefix_len
|| field->fixed_len == field->prefix_len);
/* Fixed lengths are not encoded
in ROW_FORMAT=COMPACT. */
field_ext_max_size = 0;
goto add_field_size;
}
/*如果是变长,则计算最大值,然后求 field_ext_max_size的长度,
这个是用户存储字段长度的变量
这个只是默认初始值,后面会根据长度进行溢出页的设置
*/
field_max_size = dict_col_get_max_size(col);
field_ext_max_size = field_max_size prefix_len) {
/* 建表判断长度时,直接走else即可,这里会在建立二级索引时用到,但是和聚集索引不是一颗B_Tree,因此可以忽略 */
if (field->prefix_len prefix_len;
}
} else if (field_max_size > BTR_EXTERN_LOCAL_STORED_MAX_SIZE
&& dict_index_is_clust(new_index)) {
/*
btr0types.h:56
#define BTR_EXTERN_LOCAL_STORED_MAX_SIZE \
(BTR_EXTERN_FIELD_REF_SIZE * 2)
btr0types.h:53
#define BTR_EXTERN_FIELD_REF_SIZE FIELD_REF_SIZE
page0size.h:32
#define FIELD_REF_SIZE 20
所以这段代码的意思为:
如果变长字段的最大值大于40 (溢出页指针的2倍),则这个字段在页内
只保留40个字节,且长度变量设置为1,即总共占用41个字节。*/
/* In the worst case, we have a locally stored
column of BTR_EXTERN_LOCAL_STORED_MAX_SIZE bytes.
The length can be stored in one byte. If the
column were stored externally, the lengths in
the clustered index page would be
BTR_EXTERN_FIELD_REF_SIZE and 2. */
field_max_size = BTR_EXTERN_LOCAL_STORED_MAX_SIZE;
field_ext_max_size = 1;
}
if (comp) {
/* Add the extra size for ROW_FORMAT=COMPACT.
For ROW_FORMAT=REDUNDANT, these bytes were
added to rec_max_size before this loop. */
rec_max_size += field_ext_max_size;
}
add_field_size:
rec_max_size += field_max_size;
/* Check the size limit on leaf pages. */
if (rec_max_size >= page_rec_max) {
ib::error_or_warn(strict)
name
name
mtype, col->prtype, col->len,
col->mbminmaxlen, comp));
/*
根据实现,可以简单的计算为:
1. 定长的为显示指定的 字符数*字符宽度
- 例如 char(10), 在 utf8mb4 里面,字节为 40
2. 变长的直接返回0
*/
}
/***********************************************************************//**
Returns the size of a fixed size data type, 0 if not a fixed size type.
@return fixed size, or 0 */
UNIV_INLINE
ulint
dtype_get_fixed_size_low(
/*=====================*/
ulint mtype, /*!mtype, col->len));
}
ulint
dtype_get_max_size_low(
/*===================*/
ulint mtype, /*!
3.2 小结
rec_max_size = 5;
/*
innodb header 中固定的两个值
DB_TRX_ID: 6 Byte
DB_ROLL_PTR: 7 Byte
*/
rec_max_size += 6+7;
/* rem0rec.h:70
# define REC_NODE_PTR_SIZE 4
dict0dict.cc:2536
rec_max_size + REC_NODE_PTR_SIZE >= page_ptr_max
*/
rec_max_size += 4;
rec_max_size += (number_null_field + 7) / 8; /*number_null_field表示允许为null的字段数*/
for (int i = 0; i 40 ? 40 : field.length;
}
rec_max_size += field_max_size + field_ext_max_size;
}
rec_max_size
四、总结
2.如果出现上述报错情况,大部分是因为 varchar 等设置过大,建议可以将一些字段逐步缩小,或者用 text 进行代替;

- 上一篇
- WIN10上MySQL8.0可视化安装

- 下一篇
- 启动MySQL如何加载Jemalloc
-
- 顺心的裙子
- 这篇文章内容太及时了,很详细,受益颇多,码住,关注作者大大了!希望作者大大能多写数据库相关的文章。
- 2023-03-20 01:10:20
-
- 执着的金毛
- 好细啊,码起来,感谢up主的这篇文章内容,我会继续支持!
- 2023-03-11 03:23:36
-
- 傻傻的玫瑰
- 赞 👍👍,一直没懂这个问题,但其实工作中常常有遇到...不过今天到这,帮助很大,总算是懂了,感谢老哥分享技术贴!
- 2023-03-01 22:39:39
-
- 数据库 · MySQL | 2天前 |
- MySQL设置中文界面,超简单教程来了!
- 332浏览 收藏
-
- 数据库 · MySQL | 2天前 | mysql 索引提示
- MySQL进阶必看!FORCE/USE/IGNOREINDEX用法大揭秘
- 182浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- 手把手教你写MySQL存储过程,小白也能轻松上手
- 163浏览 收藏
-
- 数据库 · MySQL | 2天前 | mysql group by
- MySQL分组查询优化:GROUPBY原理+索引优化超全解析
- 324浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL设置中文语言,轻松拥有中文界面
- 211浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL建库语句从入门到精通:创建数据库+设置字符集&排序规则(附实例)
- 176浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- 从零开始学MySQL数据库操作,小白轻松变大神!
- 496浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL插入日期到时间字段,轻松搞定日期格式
- 484浏览 收藏
-
- 数据库 · MySQL | 2天前 | mysql 数据压缩
- MySQL怎么实现高效压缩存储?表压缩+列式存储详细解读
- 272浏览 收藏
-
- 数据库 · MySQL | 2天前 | mysql JOIN优化
- MySQL优化JOIN操作:七大技巧教你提升关联查询速度
- 106浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL出现中文乱码?超详细解决方案一次性搞定
- 211浏览 收藏
-
- 数据库 · MySQL | 2天前 |
- MySQL主从复制这样配!搞懂这些参数,replication稳了~
- 131浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 542次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 508次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 497次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 茅茅虫AIGC检测
- 茅茅虫AIGC检测,湖南茅茅虫科技有限公司倾力打造,运用NLP技术精准识别AI生成文本,提供论文、专著等学术文本的AIGC检测服务。支持多种格式,生成可视化报告,保障您的学术诚信和内容质量。
- 28次使用
-
- 赛林匹克平台(Challympics)
- 探索赛林匹克平台Challympics,一个聚焦人工智能、算力算法、量子计算等前沿技术的赛事聚合平台。连接产学研用,助力科技创新与产业升级。
- 51次使用
-
- 笔格AIPPT
- SEO 笔格AIPPT是135编辑器推出的AI智能PPT制作平台,依托DeepSeek大模型,实现智能大纲生成、一键PPT生成、AI文字优化、图像生成等功能。免费试用,提升PPT制作效率,适用于商务演示、教育培训等多种场景。
- 59次使用
-
- 稿定PPT
- 告别PPT制作难题!稿定PPT提供海量模板、AI智能生成、在线协作,助您轻松制作专业演示文稿。职场办公、教育学习、企业服务全覆盖,降本增效,释放创意!
- 55次使用
-
- Suno苏诺中文版
- 探索Suno苏诺中文版,一款颠覆传统音乐创作的AI平台。无需专业技能,轻松创作个性化音乐。智能词曲生成、风格迁移、海量音效,释放您的音乐灵感!
- 61次使用
-
- golang MySQL实现对数据库表存储获取操作示例
- 2022-12-22 499浏览
-
- 搞一个自娱自乐的博客(二) 架构搭建
- 2023-02-16 244浏览
-
- B-Tree、B+Tree以及B-link Tree
- 2023-01-19 235浏览
-
- mysql面试题
- 2023-01-17 157浏览
-
- MySQL数据表简单查询
- 2023-01-10 101浏览