Python多线程怎么用?详解实现方法
golang学习网今天将给大家带来《Python多线程实现方法详解》,感兴趣的朋友请继续看下去吧!以下内容将会涉及到等等知识点,如果你是正在学习文章或者已经是大佬级别了,都非常欢迎也希望大家都能给我建议评论哈~希望能帮助到大家!
Python多线程依赖threading模块,适用于I/O密集型任务,但受GIL限制无法在CPU密集型任务中实现真正并行;通过Lock、Queue等机制可解决共享数据的竞态条件;对于并行计算需求,应选用multiprocessing或多线程结合异步IO的混合模型。

Python实现多线程主要依赖于内置的threading模块。它提供了一种在同一进程内并发执行多个任务的机制,让程序在处理I/O密集型操作时显得更高效,用户界面也能保持响应。但要说它能实现真正的并行计算,那得带着点儿保留意见,因为Python的全局解释器锁(GIL)是一个绕不开的话题,它在很大程度上限制了多线程在CPU密集型任务上的并行能力。
解决方案
要实现Python多线程,核心是使用threading.Thread类。以下是一个基本的示例,展示了如何创建、启动和等待线程完成:
import threading
import time
def task_function(name, delay):
"""一个模拟耗时操作的函数"""
print(f"线程 {name}: 启动...")
time.sleep(delay)
print(f"线程 {name}: 完成。")
# 创建线程列表
threads = []
# 创建并启动第一个线程
thread1 = threading.Thread(target=task_function, args=("Worker 1", 2))
threads.append(thread1)
thread1.start() # 启动线程
# 创建并启动第二个线程
thread2 = threading.Thread(target=task_function, args=("Worker 2", 3))
threads.append(thread2)
thread2.start() # 启动线程
# 等待所有线程完成
for t in threads:
t.join() # 阻塞主线程,直到该线程执行完毕
print("所有线程都已完成。")
# 如果涉及到共享资源,需要使用锁来避免竞态条件
balance = 0
lock = threading.Lock()
def deposit(amount):
global balance
with lock: # 使用with语句确保锁的自动释放
current_balance = balance
time.sleep(0.01) # 模拟一些操作延迟
current_balance += amount
balance = current_balance
print(f"存款 {amount},当前余额:{balance}")
def withdraw(amount):
global balance
with lock:
current_balance = balance
time.sleep(0.01)
current_balance -= amount
balance = current_balance
print(f"取款 {amount},当前余额:{balance}")
# 启动多个线程进行存取款操作
deposit_threads = [threading.Thread(target=deposit, args=(100,)) for _ in range(5)]
withdraw_threads = [threading.Thread(target=withdraw, args=(50,)) for _ in range(3)]
all_bank_threads = deposit_threads + withdraw_threads
for t in all_bank_threads:
t.start()
for t in all_bank_threads:
t.join()
print(f"最终余额:{balance}")在这个例子里,threading.Thread接受一个target参数(线程要执行的函数)和一个args参数(传递给函数的参数元组)。start()方法启动线程,而join()方法则会阻塞当前线程(通常是主线程),直到被调用的线程执行完毕。对于共享数据的操作,比如上面deposit和withdraw函数中的balance变量,使用threading.Lock(或者RLock、Semaphore等)是至关重要的,它能确保在任何给定时刻只有一个线程能够访问关键代码段,从而避免数据不一致的问题,也就是我们常说的竞态条件。
Python多线程真的能并行计算吗?深入理解GIL的限制与应对
这大概是每个Python开发者在接触多线程时都会遇到的第一个疑问,也是最让人困惑的地方。我的经验告诉我,答案是“在某些情况下可以,但在CPU密集型任务上不行”。核心原因就是Python的“全局解释器锁”(Global Interpreter Lock,简称GIL)。
GIL是一个互斥锁,它的作用是确保在任何时候,只有一个线程能执行Python字节码。这意味着,即使你的程序在多核处理器上运行,并且你创建了多个线程,这些线程也无法真正地并行执行Python代码。它们会轮流获得GIL,执行一小段代码,然后释放GIL,让下一个线程有机会执行。这个过程切换得非常快,以至于我们感觉它们是同时在运行,但这只是并发,而非并行。
那么,GIL的存在意味着Python多线程一无是处吗?当然不是。GIL只影响CPU密集型任务,也就是那些大部分时间都在进行计算的程序。对于I/O密集型任务,比如网络请求、文件读写、数据库操作等,当一个线程在等待I/O操作完成时,它会主动释放GIL,允许其他线程运行。这样一来,虽然Python代码本身没有并行执行,但程序整体的吞吐量却能显著提升,因为CPU不会在等待I/O时空闲下来。
应对GIL的策略:
- 识别任务类型:如果你的任务是I/O密集型,多线程依然是提高效率的有效手段。
- 外部库:许多Python的科学计算库(如NumPy、SciPy)或底层C/C++扩展(如OpenCV)在执行内部计算时会释放GIL。这意味着当你调用这些库的函数时,它们可以并行执行,而Python主线程可以去做其他事情。
- 多进程(Multiprocessing):对于CPU密集型任务,使用
multiprocessing模块创建多个进程是更直接的解决方案。每个进程都有自己的Python解释器和GIL,因此它们可以真正地并行运行在不同的CPU核心上。当然,进程间通信(IPC)会带来额外的开销和复杂性。 - 异步IO(Asyncio):对于高并发的I/O密集型任务,
asyncio框架提供了一种基于协程的非阻塞I/O模型,它在单线程内通过事件循环来管理并发,避免了线程切换的开销和GIL的限制。这是一种完全不同的并发范式,但在特定场景下非常高效。
在我看来,理解GIL是Python并发编程的起点。它不是一个bug,而是为了简化解释器设计和内存管理而做出的权衡。一旦你接受了它的存在,就能更清晰地选择合适的并发工具。
Python多线程中的数据同步与通信:避免竞态条件的实用技巧
在多线程编程中,最大的挑战之一就是如何安全地共享数据。当多个线程同时访问和修改同一个共享资源时,如果没有适当的同步机制,就可能导致数据不一致、程序崩溃等难以预料的问题,这就是所谓的“竞态条件”(Race Condition)。我的经验告诉我,处理好这一块,多线程编程就成功了一大半。
最常见的同步原语是锁(Lock)。threading.Lock是一个简单的互斥锁,它提供了acquire()和release()方法。当一个线程调用acquire()成功后,它就获得了锁,其他尝试获取该锁的线程会被阻塞,直到持有锁的线程调用release()释放锁。通常,我们会使用with lock:语法,它能确保锁在代码块执行完毕后自动释放,即使发生异常也能正确处理,这大大减少了忘记释放锁导致死锁的风险。
除了基本的Lock,还有一些更高级的同步机制:
RLock(可重入锁):允许同一个线程多次获取同一个锁。这在递归函数或内部调用了其他需要相同锁的函数时非常有用,避免了线程自己把自己锁死。Semaphore(信号量):控制对有限资源的访问数量。它维护一个内部计数器,当计数器大于0时,线程可以获取信号量并使计数器减1;当计数器为0时,线程会被阻塞。当线程释放信号量时,计数器加1。这适用于需要限制并发访问数量的场景,比如连接池。Event(事件):一个简单的线程间通信机制。一个线程可以设置(set())一个事件,另一个线程可以等待(wait())这个事件被设置。wait()方法会阻塞直到事件被设置。Condition(条件变量):比锁更强大的同步机制,通常与锁一起使用。它允许线程在某个条件不满足时等待,并在条件满足时被其他线程唤醒。这对于生产者-消费者模型等复杂场景非常有用。Queue(队列):queue模块提供了线程安全的队列,如Queue.Queue、Queue.LifoQueue、Queue.PriorityQueue。它们内部已经处理了锁机制,是实现线程间安全通信和数据传递的推荐方式,尤其是在生产者-消费者模型中。
from queue import Queue
# 生产者函数
def producer(q, items_to_produce):
for i in range(items_to_produce):
item = f"产品-{i}"
q.put(item) # 放入队列,如果队列满则阻塞
print(f"生产者: 生产了 {item}")
time.sleep(0.1)
# 消费者函数
def consumer(q, consumer_id):
while True:
item = q.get() # 从队列取出,如果队列空则阻塞
print(f"消费者 {consumer_id}: 消费了 {item}")
time.sleep(0.2)
q.task_done() # 告知队列该任务已完成
# 创建一个线程安全的队列
q = Queue(maxsize=10) # 限制队列大小
# 启动生产者线程
producer_thread = threading.Thread(target=producer, args=(q, 20))
producer_thread.start()
# 启动多个消费者线程
consumer_threads = []
for i in range(3):
c_thread = threading.Thread(target=consumer, args=(q, i+1), daemon=True) # 设置为守护线程
consumer_threads.append(c_thread)
c_thread.start()
# 等待所有生产者任务完成
producer_thread.join()
# 等待队列中的所有任务都被处理完毕
q.join()
print("所有产品都已生产和消费。")在使用这些工具时,我发现最容易犯的错误是死锁(Deadlock)和活锁(Livelock)。死锁发生在多个线程互相等待对方释放资源时,而活锁则发生在线程不断地尝试获取资源但又不断地放弃,导致任务无法进展。避免这些问题的关键在于:
- 保持锁的粒度尽可能小:只在真正需要保护共享数据的关键代码段加锁。
- 遵循固定的加锁顺序:如果一个线程需要获取多个锁,始终以相同的顺序获取它们。
- 避免长时间持有锁:尽快释放锁,减少其他线程的等待时间。
- 使用高级抽象:
queue模块通常比手动管理锁更安全、更简洁。
数据同步和通信是多线程编程的艺术,它要求开发者对程序的执行流程有清晰的认识,并能预见潜在的并发问题。
Python多线程与多进程、异步IO:如何选择最适合你的并发模型?
在Python中,我们有不止一种实现并发的方式:多线程(threading)、多进程(multiprocessing)和异步IO(asyncio)。面对这些选择,我经常看到开发者感到迷茫,不知道在什么场景下该用哪一个。其实,这三种模型各有优劣,并没有“万能”的解决方案,关键在于根据你的应用场景和任务特性来做选择。
多线程 (
threading)- 优点:
- 线程间共享内存,数据交换方便。
- 启动开销小,上下文切换快。
- 适用于I/O密集型任务,如网络请求、文件读写,因为I/O操作会释放GIL。
- 缺点:
- 受GIL限制,无法在CPU密集型任务上实现真正的并行。
- 数据同步复杂,容易出现竞态条件和死锁。
- 适用场景:需要并发处理大量I/O操作的Web服务器、网络爬虫、GUI应用(保持界面响应)。
- 优点:
多进程 (
multiprocessing)- 优点:
- 每个进程有独立的内存空间和Python解释器,不受GIL限制,可以实现真正的并行计算。
- 进程间相互隔离,一个进程崩溃通常不会影响其他进程。
- 缺点:
- 进程间数据共享复杂,需要专门的进程间通信(IPC)机制(如队列、管道、共享内存)。
- 启动开销大,上下文切换比线程慢。
- 消耗更多系统资源(内存)。
- 适用场景:CPU密集型任务,如科学计算、图像处理、大规模数据分析、并行编译。
- 优点:
异步IO (
asyncio)- 优点:
- 在单线程内实现高并发,避免了线程/进程切换的开销和GIL的限制。
- 资源消耗低。
- 适用于I/O密集型任务,尤其是需要处理大量并发连接的场景。
- 缺点:
- 编程模型与传统的同步编程不同,需要使用
async/await语法,学习曲线相对陡峭。 - 一旦某个
awaitable函数内部执行了CPU密集型操作而没有释放控制权,整个事件循环就会被阻塞。 - 生态系统相对年轻,一些库可能还没有完全支持异步模式。
- 编程模型与传统的同步编程不同,需要使用
- 适用场景:高并发Web服务、实时聊天应用、长连接服务、API网关、高吞吐量的I/O操作。
- 优点:
我的选择逻辑通常是这样的:
- 如果任务主要是等待外部资源(网络、磁盘),并且对实时性要求不是极高,线程往往是我的首选。 它简单易用,且对于I/O瓶颈的程序效果显著。
- 如果任务需要大量计算,并且可以分解成独立的子任务,那么我会毫不犹豫地选择进程。 牺牲一些启动开销来换取真正的并行计算,是值得的。
- 如果我需要构建一个高性能、高并发的服务,并且大部分操作都是非阻塞的I/O,那么
asyncio会是我的首选。 它的性能优势在这些场景下非常明显,但确实需要一些时间去适应它的编程范式。
有时候,你甚至会需要将它们结合起来使用。例如,一个asyncio服务可能在某个地方需要执行一个CPU密集型任务,这时它可以将这个任务“offload”到一个单独的进程池中去执行,从而避免阻塞事件循环。这种混合模型虽然复杂,但在某些高性能场景下却能发挥出最大的潜力。选择哪种并发模型,归根结底是对你的程序瓶颈和需求进行深入分析的结果。
终于介绍完啦!小伙伴们,这篇关于《Python多线程怎么用?详解实现方法》的介绍应该让你收获多多了吧!欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布文章相关知识,快来关注吧!
Excel导入外部数据方法详解
- 上一篇
- Excel导入外部数据方法详解
- 下一篇
- C语言find函数使用详解
-
- 文章 · python教程 | 6小时前 |
- Python如何重命名数据列名?columns教程
- 165浏览 收藏
-
- 文章 · python教程 | 7小时前 |
- 异步Python机器人如何非阻塞运行?
- 216浏览 收藏
-
- 文章 · python教程 | 7小时前 |
- Python排序忽略大小写技巧详解
- 325浏览 收藏
-
- 文章 · python教程 | 7小时前 |
- Python列表引用与复制技巧
- 300浏览 收藏
-
- 文章 · python教程 | 8小时前 | 数据处理 流处理 PythonAPI PyFlink ApacheFlink
- PyFlink是什么?Python与Flink结合解析
- 385浏览 收藏
-
- 文章 · python教程 | 8小时前 | sdk 邮件API requests库 smtplib Python邮件发送
- Python发送邮件API调用方法详解
- 165浏览 收藏
-
- 文章 · python教程 | 9小时前 |
- Pandasmerge_asof快速匹配最近时间数据
- 254浏览 收藏
-
- 文章 · python教程 | 9小时前 |
- 列表推导式与生成器表达式区别解析
- 427浏览 收藏
-
- 文章 · python教程 | 9小时前 |
- Pythonopen函数使用技巧详解
- 149浏览 收藏
-
- 文章 · python教程 | 9小时前 |
- Python合并多个列表的几种方法
- 190浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 3193次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 3405次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 3436次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 4543次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 3814次使用
-
- Flask框架安装技巧:让你的开发更高效
- 2024-01-03 501浏览
-
- Django框架中的并发处理技巧
- 2024-01-22 501浏览
-
- 提升Python包下载速度的方法——正确配置pip的国内源
- 2024-01-17 501浏览
-
- Python与C++:哪个编程语言更适合初学者?
- 2024-03-25 501浏览
-
- 品牌建设技巧
- 2024-04-06 501浏览

