当前位置:首页 > 文章列表 > 文章 > python教程 > Python free-threaded 构建中 C 扩展如何声明线程安全状态

Python free-threaded 构建中 C 扩展如何声明线程安全状态

来源:17golang原创 2026-09-09 05:03:25 0浏览 收藏

Python 的 free-threaded 构建并不等于“把 GIL 关掉,C 扩展就自动线程安全”。从 Python 3.13 开始,CPython 支持禁用 GIL 的构建;但扩展必须显式声明自己支持这种构建,否则导入时可能重新启用 GIL。真正要检查的是三件事:构建是否带有 free-threading 能力、模块初始化采用哪种方式、原来由 GIL 掩盖的共享状态是否已经有自己的同步。

最小可行做法是:用 Py_GIL_DISABLED 判断 C 编译分支;多阶段初始化添加 Py_mod_gil,单阶段初始化在模块创建成功后调用 PyUnstable_Module_SetGIL();然后逐项清理借用引用、PyDict_Next()、全局缓存和其他内部状态。

先确认构建能力,再声明模块支持

不要只用运行时的“当前 GIL 是否启用”来决定扩展是否兼容。C 代码里,free-threaded 构建会定义 Py_GIL_DISABLED;Python 侧可以用 sysconfig.get_config_var("Py_GIL_DISABLED") 判断构建能力,sys._is_gil_enabled() 则回答当前进程的 GIL 状态。

#include 

static int extension_build_supports_free_threading(void) {
#ifdef Py_GIL_DISABLED
    /* 这个分支表示头文件对应的构建支持 free-threading。 */
    return 1;
#else
    /* 普通构建未定义该宏,不代表扩展本身不能继续编译。 */
    return 0;
#endif
}

这只是编译目标判断,不是线程安全证明。Windows 从源码构建扩展时还要留意官方文档提到的宏定义限制;发布测试则应把普通解释器和 free-threaded 解释器分开跑。

构建判断与 Python C 扩展模块初始化声明的静态关系图
图1:构建宏和运行时检查共同指向模块初始化声明,读者可据此判断扩展是否显式支持 free-threaded 构建。

多阶段初始化用 Py_mod_gil 明确表达

如果扩展使用 PyModuleDef_Slot 的多阶段初始化,应在模块定义的 slot 数组中加入 Py_mod_gil。兼容旧版 CPython 时,用 PY_VERSION_HEX 保护新 slot,避免旧头文件无法识别它。

static PyModuleDef_Slot module_slots[] = {
    /* 其他多阶段初始化 slot 放在这里。 */
#if PY_VERSION_HEX >= 0x030D0000
    /* 告诉 free-threaded 构建:本扩展不依赖 GIL。 */
    {Py_mod_gil, Py_MOD_GIL_NOT_USED},
#endif
    {0, NULL}
};

这里的声明只适用于你已经完成线程安全改造的扩展。若仍有未经保护的静态缓存,添加 slot 反而会把隐藏问题暴露给真正的并行执行,因此应把声明和并发测试作为同一次改动。

单阶段初始化用 PyUnstable_Module_SetGIL

仍使用 PyModule_Create() 的单阶段扩展,做法不同:先检查返回值,再在 Py_GIL_DISABLED 条件下调用 PyUnstable_Module_SetGIL(m, Py_MOD_GIL_NOT_USED)。该函数只在 free-threaded 构建中提供,宏保护不能省略。

static PyModuleDef moduledef = {
    PyModuleDef_HEAD_INIT,
    "sample_ext",
    "A small extension module.",
    -1,
    NULL
};

PyMODINIT_FUNC PyInit_sample_ext(void) {
    PyObject *m = PyModule_Create(&moduledef);
    if (m == NULL) {
        /* 创建失败时把 NULL 交给 CPython 处理。 */
        return NULL;
    }
#ifdef Py_GIL_DISABLED
    /* 仅在支持该 API 的构建中声明不使用 GIL。 */
    if (PyUnstable_Module_SetGIL(m, Py_MOD_GIL_NOT_USED) 

两种初始化方式不能混写成“看到宏就统一调用”。迁移时先确认模块定义方式,再选择 slot 或初始化函数中的声明点;这也便于为旧 Python 版本保留同一份源码。

把容器访问和扩展内部状态分开保护

free-threaded CPython 会为部分内置容器提供内部锁,但这不是扩展业务状态的通用锁。官方文档特别指出,PyDict_Next() 不会自动锁字典;如果字典可能被并发修改,应使用临界区。借用引用也要重新审视,例如可修改列表上的 PyList_GetItem() 应优先改为返回强引用的 PyList_GetItemRef()

static int count_entries(PyObject *dict) {
    PyObject *key = NULL;
    PyObject *value = NULL;
    Py_ssize_t position = 0;
    int count = 0;

    /* PyDict_Next 不自行加锁,遍历期间保护可能变化的字典。 */
    Py_BEGIN_CRITICAL_SECTION(dict);
    while (PyDict_Next(dict, &position, &key, &value)) {
        count++;
    }
    Py_END_CRITICAL_SECTION();
    return count;
}

临界区适合围绕 Python 对象访问;扩展自己的缓存、全局状态或 C 结构体字段,则应使用扩展锁、原子操作或 thread_local。不要因为 PyList_Append() 有内部保护,就推断“追加后更新全局计数”也是原子的。

Python C API 容器访问与扩展内部共享状态的保护边界关系图
图2:容器访问的临界区与扩展自有状态的锁是两层责任,不能把内置容器的内部锁当成业务状态的保护。

构建产物和兼容边界怎么落地

free-threaded 扩展需要针对该构建单独编译,相关 wheel、共享库和二进制使用 t 后缀,例如 Python 3.14 的 python3.14t。不要把普通构建的 wheel 当作 free-threaded wheel 复用。还要注意:当前 free-threaded 构建不支持 Limited C API 或 stable ABI,因此启用 py_limited_api=True 的 setuptools 配置需要按 Py_GIL_DISABLED 选择性关闭。

检查项应看到的结果常见误区
构建能力Py_GIL_DISABLED=1 或 C 宏已定义把当前 GIL 状态当成构建能力
初始化声明多阶段有 Py_mod_gil,单阶段调用设置函数两种方式混用或漏掉版本保护
共享状态容器访问、借用引用、缓存分别有保护把 CPython 内部锁当成业务锁
发布矩阵free-threaded 产物带 t 后缀沿用 stable ABI 的单一 wheel

常见问题

声明了 Py_MOD_GIL_NOT_USED 就一定能并行加速吗?

不一定。声明只告诉解释器扩展不依赖 GIL,速度仍取决于工作负载、锁竞争、内存分配和是否真的存在可并行的 C 工作。

普通构建还能使用这份源码吗?

可以。用 PY_VERSION_HEXPy_GIL_DISABLED 保护 free-threaded 专用 API,普通构建会跳过这些分支;但仍需分别编译和测试两套产物。

参考:Python support for free threadingC API Extension Support for Free Threading

版本声明
本文转载于:17golang原创 如有侵犯,请联系study_golang@163.com删除
Go 读取环境变量为空时怎么区分未设置和显式空值Go 读取环境变量为空时怎么区分未设置和显式空值
上一篇
Go 读取环境变量为空时怎么区分未设置和显式空值
Go json.Marshal 怎么实现自定义枚举文本和值校验
下一篇
Go json.Marshal 怎么实现自定义枚举文本和值校验
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    34次使用
  • SuperCLUE中文大模型评测基准:功能、能力维度与应用指南
    SuperCLUE
    SuperCLUE是权威的中文大语言模型综合评测基准,涵盖语言理解、知识应用、AI Agent智能体及安全性等12项核心能力。通过多轮对话与客观测试,定期发布榜单与技术报告,为模型研发、优化及行业选型提供科学依据。
    189次使用
  • C-Eval中文评测基准:大语言模型多学科能力评估指南
    C-Eval
    深入了解C-Eval中文评估套件,涵盖52个学科与4级难度。本文详解其功能特点、Zero-shot/Few-shot使用方法及代码示例,助您全面评测LLM中文理解与泛化能力。
    128次使用
  • AI Prompt Library:免费AI提示词库,助力ChatGPT高效创作与营销
    AI Prompt Library
    探索AI Prompt Library免费资源库,涵盖营销、写作及多场景AI提示词。兼容ChatGPT、Claude等工具,一键复制优化输出,提升工作效率。
    50次使用
  • Generrated:DALL·E 2/3 AI绘画提示词灵感库与图像对比平台
    Generrated
    Generrated汇集9300+张DALL·E生成图像及对应提示词,支持查看完整图集、对比DALL·E 2与3版本差异,是AI绘图新手学习Prompt设计与获取创作灵感的实用工具。
    36次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码