Jupyter运行带参数的Python脚本技巧
欢迎各位小伙伴来到golang学习网,相聚于此都是缘哈哈哈!今天我给大家带来《Jupyter中运行带参数的Python脚本方法》,这篇文章主要讲到等等知识,如果你对文章相关的知识非常感兴趣或者正在自学,都可以关注我,我会持续更新相关文章!当然,有什么建议也欢迎在评论留言提出!一起学习!
引言:Jupyter Notebook中argparse的挑战
在Python开发中,argparse模块是处理命令行参数的标准工具,它使得脚本能够接收外部输入,例如文件路径、配置选项等。然而,当开发者在Jupyter Notebook这样的交互式环境中编写和测试此类脚本时,会遇到一个常见问题:Jupyter Notebook本身并不是一个命令行环境,因此无法直接通过python your_script.py --arg1 value1的方式来运行并传递参数。直接调用parser.parse_args()会导致错误,因为它期望从sys.argv中获取参数,而sys.argv在Notebook环境中通常只包含Notebook自身的相关信息。
为了解决这一问题,我们需要采取一些策略来模拟命令行参数,或者将Notebook内容转换为可独立执行的Python脚本。
方法一:在Notebook中模拟命令行参数(开发与测试)
对于在Jupyter Notebook中进行快速开发、调试和验证,最直接有效的方法是“欺骗”argparse,让它以为自己是从命令行被调用。argparse模块在内部通过解析sys.argv列表来获取参数。sys.argv是一个包含命令行参数的字符串列表,其中sys.argv[0]通常是脚本的名称。我们可以通过手动修改sys.argv列表来模拟命令行输入。
原理
当parser.parse_args()被调用时,它会检查sys.argv列表(如果未指定其他参数列表)。因此,在调用parse_args()之前,我们可以将我们希望传递的参数字符串添加到sys.argv中。为了不影响后续代码或Notebook环境,通常会先保存原始的sys.argv,然后在测试完成后恢复它。
实现步骤与示例代码
假设我们有以下使用argparse的Python代码片段,它定义了三个文件路径参数:
import argparse from pathlib import Path import pandas as pd import numpy as np from datetime import datetime, timedelta, date,time import sys import os # 定义参数解析器 parser = argparse.ArgumentParser(description='Tractive_missing_campaign') parser.add_argument("--SP_File", help="Add path of your SP file",type=Path) parser.add_argument("--File2", help="Add path of your Datorama file",type=Path) parser.add_argument("Missing_Campaign_File", help="Add path where you want to save your file",type=Path) # 模拟命令行参数 # 1. 保存原始的sys.argv original_argv = sys.argv[:] # 2. 设置模拟的参数列表。sys.argv[0]通常是脚本名,这里用一个占位符。 # 注意:这里的参数值应替换为实际存在的测试文件路径。 # 例如,如果你的测试文件在当前Notebook目录下,可以直接使用文件名。 # 如果文件在其他位置,请提供完整路径。 test_args = [ "your_script_name.py", # 占位符,模拟脚本名称 "--SP_File", "data/file1.csv", # 替换为你的SP文件路径 "--File2", "data/file2.csv", # 替换为你的Datorama文件路径 "output/missing_campaign_output.xlsx" # 替换为你的输出文件路径 ] # 3. 将sys.argv设置为模拟的参数列表 sys.argv = test_args # 4. 调用parse_args(),它将解析我们设置的sys.argv args = parser.parse_args() # 5. 恢复原始的sys.argv,避免影响Notebook中其他代码或后续执行 sys.argv = original_argv # --- 以下是使用解析参数的业务逻辑 --- ## 读取SP文件 sp_report_path = args.SP_File if not sp_report_path.exists(): raise ValueError(f"未找到SP文件于: {sp_report_path}") try: with open(sp_report_path, "r+") as csvfile: sp_df = pd.read_csv(csvfile) print(f"SP文件 {sp_report_path} 读取成功,形状: {sp_df.shape}") except Exception as ex: template = "读取SP文件时发生异常: {0}. 参数:\n{1!r}" message = template.format(type(ex).__name__, ex.args) print(message) ## 读取Datorama报告文件 datorama_report_path = args.File2 if not datorama_report_path.exists(): raise ValueError(f"未找到Datorama文件于: {datorama_report_path}") try: with open(datorama_report_path, "r+") as csvfile: datorama_df = pd.read_csv(csvfile, usecols = ['Campaign Key']) print(f"Datorama文件 {datorama_report_path} 读取成功,形状: {datorama_df.shape}") except Exception as ex: template = "读取Datorama文件时发生异常: {0}. 参数:\n{1!r}" message = template.format(type(ex).__name__, ex.args) print(message) # 假设有一些数据处理逻辑,这里仅作示意 # output_path = args.Missing_Campaign_File # slicer_column_values = ['USD', 'EUR'] # 示例数据 # Match_Values = True # 示例数据 # left_merged = pd.DataFrame({'currency': ['USD', 'EUR', 'USD'], 'Match': [True, True, False]}) # 示例数据 # start_date = date.today().strftime('%Y%m%d') # end_date = date.today().strftime('%Y%m%d') # for slicer_column_value in slicer_column_values: # temporary_df = left_merged[(left_merged['currency'] == slicer_column_value) & (left_merged['Match'] == Match_Values)] # PartnerWiseFileName = os.path.join(output_path, 'Missing_camp_{}_{}_{}_data.xlsx'.format(slicer_column_value, start_date, end_date)) # print(f"生成文件: {PartnerWiseFileName}, 形状: {temporary_df.shape}") # # temporary_df.to_excel(PartnerWiseFileName, index = False) print("任务完成 (模拟参数模式)")
注意事项:
- 路径处理: argparse的type=Path参数非常有用,它会自动将输入的字符串转换为pathlib.Path对象。在业务逻辑中,应直接使用args.SP_File等Path对象,它们提供了.exists()、.is_file()等便捷方法。
- os.chdir的误用: 原始代码中Sp_Report = os.chdir(args.SP_File)是错误的。os.chdir()函数用于改变当前工作目录,它返回None。正确的做法是直接使用args.SP_File这个Path对象进行文件操作和存在性检查。示例代码已修正此问题。
- 仅用于测试: 这种方法主要用于在Notebook中进行开发和测试。它并没有真正模拟命令行环境,也不适合在生产环境中运行。
%%python魔术命令的局限性
Jupyter Notebook提供%%python魔术命令,允许在一个单元格内执行独立的Python脚本。例如:
%%python - "Running with Arguments" from argparse import ArgumentParser parser = ArgumentParser() parser.add_argument("message") args = parser.parse_args() print(args.message)
这里,"Running with Arguments"会被当作sys.argv[1]传递给单元格内的Python解释器。然而,这种方式主要用于传递单个位置参数。对于带有多个命名参数(如--SP_File)的复杂argparse配置,sys.argv的直接修改更为灵活和强大。因此,对于本教程描述的场景,直接修改sys.argv是更推荐的方法。
方法二:将Notebook转换为Python脚本(生产与实际命令行执行)
当你的代码开发和测试完成后,如果目标是将其作为独立的命令行工具运行,或者集成到自动化流程中,那么将其转换为标准的Python脚本是最佳实践。
原理
Jupyter Notebook (.ipynb文件) 本质上是一个JSON格式的文件,包含了代码、输出、Markdown文本等。它不是一个直接可执行的Python脚本。要使其能够通过python your_script.py --args的方式运行,需要将其中的Python代码提取出来,并保存为.py文件。
实现步骤与示例
Jupyter官方提供了nbconvert工具,可以方便地将Notebook转换为多种格式,包括Python脚本。
安装nbconvert (如果尚未安装):
pip install nbconvert
将Notebook转换为Python脚本: 在命令行或Notebook的shell单元格中(使用!前缀),执行以下命令:
jupyter nbconvert --to script your_notebook_name.ipynb
这会在与your_notebook_name.ipynb相同的目录下生成一个your_notebook_name.py文件。nbconvert会智能地提取所有代码单元格中的Python代码,并按顺序写入到.py文件中。
运行转换后的Python脚本: 现在,你可以像运行任何其他Python脚本一样,从命令行传递参数执行它:
python your_notebook_name.py --SP_File data/file1.csv --File2 data/file2.csv output/missing_campaign_output.xlsx
请确保data/file1.csv、data/file2.csv和output/missing_campaign_output.xlsx是实际存在或期望的路径。
优势:
- 真正的命令行行为: 脚本将像一个独立的命令行工具一样运行,完全遵循argparse的设计意图。
- 可部署性: 转换后的.py文件更容易集成到CI/CD流程、调度任务或作为其他应用程序的组件。
- 清晰的环境分离: 生产环境与开发环境(Notebook)分离,减少潜在的副作用。
关键代码实践与常见陷阱
- pathlib.Path的优势: 在argparse中指定type=Path是一个非常好的实践。Path对象提供了跨操作系统的路径操作方法,例如.exists()、.is_file()、.parent、.joinpath()等,比os.path更面向对象且易于使用。
- 文件/目录存在性检查: 在尝试读取或写入文件之前,务必检查其路径是否存在或是否可访问。这可以提高脚本的健壮性。
file_path = args.SP_File if not file_path.exists(): raise FileNotFoundError(f"指定的文件不存在: {file_path}") if not file_path.is_file(): raise ValueError(f"指定路径不是一个文件: {file_path}")
- 错误处理: 使用try-except块来捕获文件操作(如pd.read_csv)可能发生的异常,并提供有意义的错误信息。这有助于调试和用户理解。
- 绝对路径与相对路径: 考虑你的脚本在不同环境下运行时,相对路径可能带来的问题。通常,对于关键的文件输入/输出,建议用户提供绝对路径,或者在脚本内部将相对路径解析为绝对路径(例如,使用Path.resolve())。
总结
在Jupyter Notebook中测试使用argparse的Python脚本,可以通过两种主要方式实现:
- 在Notebook内部模拟sys.argv: 这是一种高效的开发和调试策略,允许开发者在不离开交互式环境的情况下,验证参数解析和核心业务逻辑。
- 将Notebook转换为Python脚本: 这是将代码投入生产或进行真正命令行测试的推荐方法,通过jupyter nbconvert工具可以轻松实现。
理解这两种方法及其适用场景,将有助于开发者更灵活、高效地管理和执行其Python脚本。同时,遵循良好的文件路径处理和错误处理实践,能够显著提升代码的健壮性和用户体验。
今天带大家了解了的相关知识,希望对你有所帮助;关于文章的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~

- 上一篇
- Artbreeder人像风格调教技巧详解

- 下一篇
- PHP字符串操作技巧与常用函数汇总
-
- 文章 · python教程 | 1小时前 |
- Python代理访问OpenAIAPI方法
- 370浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Python替换特定字符技巧分享
- 211浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Scrapy框架使用教程:高效爬虫扩展解析
- 488浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Python异常处理技巧全解析
- 251浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Python判断文件是否存在方法
- 442浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Pythonopenpyxl读写Excel实战教程
- 412浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- VSCode多工作区Python调试全攻略
- 427浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Matplotlib与Seaborn数据可视化教程
- 276浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Python中def定义函数的作用详解
- 384浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Pandas条件遍历与列更新技巧
- 331浏览 收藏
-
- 文章 · python教程 | 3小时前 |
- Python中fd是什么意思?
- 188浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 499次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 484次学习
-
- 造点AI
- 探索阿里巴巴造点AI,一个集图像和视频创作于一体的AI平台,由夸克推出。体验Midjourney V7和通义万相Wan2.5模型带来的强大功能,从专业创作到趣味内容,尽享AI创作的乐趣。
- 36次使用
-
- PandaWiki开源知识库
- PandaWiki是一款AI大模型驱动的开源知识库搭建系统,助您快速构建产品/技术文档、FAQ、博客。提供AI创作、问答、搜索能力,支持富文本编辑、多格式导出,并可轻松集成与多来源内容导入。
- 487次使用
-
- AI Mermaid流程图
- SEO AI Mermaid 流程图工具:基于 Mermaid 语法,AI 辅助,自然语言生成流程图,提升可视化创作效率,适用于开发者、产品经理、教育工作者。
- 1268次使用
-
- 搜获客【笔记生成器】
- 搜获客笔记生成器,国内首个聚焦小红书医美垂类的AI文案工具。1500万爆款文案库,行业专属算法,助您高效创作合规、引流的医美笔记,提升运营效率,引爆小红书流量!
- 1302次使用
-
- iTerms
- iTerms是一款专业的一站式法律AI工作台,提供AI合同审查、AI合同起草及AI法律问答服务。通过智能问答、深度思考与联网检索,助您高效检索法律法规与司法判例,告别传统模板,实现合同一键起草与在线编辑,大幅提升法律事务处理效率。
- 1300次使用
-
- Flask框架安装技巧:让你的开发更高效
- 2024-01-03 501浏览
-
- Django框架中的并发处理技巧
- 2024-01-22 501浏览
-
- 提升Python包下载速度的方法——正确配置pip的国内源
- 2024-01-17 501浏览
-
- Python与C++:哪个编程语言更适合初学者?
- 2024-03-25 501浏览
-
- 品牌建设技巧
- 2024-04-06 501浏览