Jupyter运行带参数的Python脚本技巧
欢迎各位小伙伴来到golang学习网,相聚于此都是缘哈哈哈!今天我给大家带来《Jupyter中运行带参数的Python脚本方法》,这篇文章主要讲到等等知识,如果你对文章相关的知识非常感兴趣或者正在自学,都可以关注我,我会持续更新相关文章!当然,有什么建议也欢迎在评论留言提出!一起学习!

引言:Jupyter Notebook中argparse的挑战
在Python开发中,argparse模块是处理命令行参数的标准工具,它使得脚本能够接收外部输入,例如文件路径、配置选项等。然而,当开发者在Jupyter Notebook这样的交互式环境中编写和测试此类脚本时,会遇到一个常见问题:Jupyter Notebook本身并不是一个命令行环境,因此无法直接通过python your_script.py --arg1 value1的方式来运行并传递参数。直接调用parser.parse_args()会导致错误,因为它期望从sys.argv中获取参数,而sys.argv在Notebook环境中通常只包含Notebook自身的相关信息。
为了解决这一问题,我们需要采取一些策略来模拟命令行参数,或者将Notebook内容转换为可独立执行的Python脚本。
方法一:在Notebook中模拟命令行参数(开发与测试)
对于在Jupyter Notebook中进行快速开发、调试和验证,最直接有效的方法是“欺骗”argparse,让它以为自己是从命令行被调用。argparse模块在内部通过解析sys.argv列表来获取参数。sys.argv是一个包含命令行参数的字符串列表,其中sys.argv[0]通常是脚本的名称。我们可以通过手动修改sys.argv列表来模拟命令行输入。
原理
当parser.parse_args()被调用时,它会检查sys.argv列表(如果未指定其他参数列表)。因此,在调用parse_args()之前,我们可以将我们希望传递的参数字符串添加到sys.argv中。为了不影响后续代码或Notebook环境,通常会先保存原始的sys.argv,然后在测试完成后恢复它。
实现步骤与示例代码
假设我们有以下使用argparse的Python代码片段,它定义了三个文件路径参数:
import argparse
from pathlib import Path
import pandas as pd
import numpy as np
from datetime import datetime, timedelta, date,time
import sys
import os
# 定义参数解析器
parser = argparse.ArgumentParser(description='Tractive_missing_campaign')
parser.add_argument("--SP_File",
help="Add path of your SP file",type=Path)
parser.add_argument("--File2",
help="Add path of your Datorama file",type=Path)
parser.add_argument("Missing_Campaign_File",
help="Add path where you want to save your file",type=Path)
# 模拟命令行参数
# 1. 保存原始的sys.argv
original_argv = sys.argv[:]
# 2. 设置模拟的参数列表。sys.argv[0]通常是脚本名,这里用一个占位符。
# 注意:这里的参数值应替换为实际存在的测试文件路径。
# 例如,如果你的测试文件在当前Notebook目录下,可以直接使用文件名。
# 如果文件在其他位置,请提供完整路径。
test_args = [
"your_script_name.py", # 占位符,模拟脚本名称
"--SP_File", "data/file1.csv", # 替换为你的SP文件路径
"--File2", "data/file2.csv", # 替换为你的Datorama文件路径
"output/missing_campaign_output.xlsx" # 替换为你的输出文件路径
]
# 3. 将sys.argv设置为模拟的参数列表
sys.argv = test_args
# 4. 调用parse_args(),它将解析我们设置的sys.argv
args = parser.parse_args()
# 5. 恢复原始的sys.argv,避免影响Notebook中其他代码或后续执行
sys.argv = original_argv
# --- 以下是使用解析参数的业务逻辑 ---
## 读取SP文件
sp_report_path = args.SP_File
if not sp_report_path.exists():
raise ValueError(f"未找到SP文件于: {sp_report_path}")
try:
with open(sp_report_path, "r+") as csvfile:
sp_df = pd.read_csv(csvfile)
print(f"SP文件 {sp_report_path} 读取成功,形状: {sp_df.shape}")
except Exception as ex:
template = "读取SP文件时发生异常: {0}. 参数:\n{1!r}"
message = template.format(type(ex).__name__, ex.args)
print(message)
## 读取Datorama报告文件
datorama_report_path = args.File2
if not datorama_report_path.exists():
raise ValueError(f"未找到Datorama文件于: {datorama_report_path}")
try:
with open(datorama_report_path, "r+") as csvfile:
datorama_df = pd.read_csv(csvfile, usecols = ['Campaign Key'])
print(f"Datorama文件 {datorama_report_path} 读取成功,形状: {datorama_df.shape}")
except Exception as ex:
template = "读取Datorama文件时发生异常: {0}. 参数:\n{1!r}"
message = template.format(type(ex).__name__, ex.args)
print(message)
# 假设有一些数据处理逻辑,这里仅作示意
# output_path = args.Missing_Campaign_File
# slicer_column_values = ['USD', 'EUR'] # 示例数据
# Match_Values = True # 示例数据
# left_merged = pd.DataFrame({'currency': ['USD', 'EUR', 'USD'], 'Match': [True, True, False]}) # 示例数据
# start_date = date.today().strftime('%Y%m%d')
# end_date = date.today().strftime('%Y%m%d')
# for slicer_column_value in slicer_column_values:
# temporary_df = left_merged[(left_merged['currency'] == slicer_column_value) & (left_merged['Match'] == Match_Values)]
# PartnerWiseFileName = os.path.join(output_path, 'Missing_camp_{}_{}_{}_data.xlsx'.format(slicer_column_value, start_date, end_date))
# print(f"生成文件: {PartnerWiseFileName}, 形状: {temporary_df.shape}")
# # temporary_df.to_excel(PartnerWiseFileName, index = False)
print("任务完成 (模拟参数模式)")注意事项:
- 路径处理: argparse的type=Path参数非常有用,它会自动将输入的字符串转换为pathlib.Path对象。在业务逻辑中,应直接使用args.SP_File等Path对象,它们提供了.exists()、.is_file()等便捷方法。
- os.chdir的误用: 原始代码中Sp_Report = os.chdir(args.SP_File)是错误的。os.chdir()函数用于改变当前工作目录,它返回None。正确的做法是直接使用args.SP_File这个Path对象进行文件操作和存在性检查。示例代码已修正此问题。
- 仅用于测试: 这种方法主要用于在Notebook中进行开发和测试。它并没有真正模拟命令行环境,也不适合在生产环境中运行。
%%python魔术命令的局限性
Jupyter Notebook提供%%python魔术命令,允许在一个单元格内执行独立的Python脚本。例如:
%%python - "Running with Arguments"
from argparse import ArgumentParser
parser = ArgumentParser()
parser.add_argument("message")
args = parser.parse_args()
print(args.message)这里,"Running with Arguments"会被当作sys.argv[1]传递给单元格内的Python解释器。然而,这种方式主要用于传递单个位置参数。对于带有多个命名参数(如--SP_File)的复杂argparse配置,sys.argv的直接修改更为灵活和强大。因此,对于本教程描述的场景,直接修改sys.argv是更推荐的方法。
方法二:将Notebook转换为Python脚本(生产与实际命令行执行)
当你的代码开发和测试完成后,如果目标是将其作为独立的命令行工具运行,或者集成到自动化流程中,那么将其转换为标准的Python脚本是最佳实践。
原理
Jupyter Notebook (.ipynb文件) 本质上是一个JSON格式的文件,包含了代码、输出、Markdown文本等。它不是一个直接可执行的Python脚本。要使其能够通过python your_script.py --args的方式运行,需要将其中的Python代码提取出来,并保存为.py文件。
实现步骤与示例
Jupyter官方提供了nbconvert工具,可以方便地将Notebook转换为多种格式,包括Python脚本。
安装nbconvert (如果尚未安装):
pip install nbconvert
将Notebook转换为Python脚本: 在命令行或Notebook的shell单元格中(使用!前缀),执行以下命令:
jupyter nbconvert --to script your_notebook_name.ipynb
这会在与your_notebook_name.ipynb相同的目录下生成一个your_notebook_name.py文件。nbconvert会智能地提取所有代码单元格中的Python代码,并按顺序写入到.py文件中。
运行转换后的Python脚本: 现在,你可以像运行任何其他Python脚本一样,从命令行传递参数执行它:
python your_notebook_name.py --SP_File data/file1.csv --File2 data/file2.csv output/missing_campaign_output.xlsx
请确保data/file1.csv、data/file2.csv和output/missing_campaign_output.xlsx是实际存在或期望的路径。
优势:
- 真正的命令行行为: 脚本将像一个独立的命令行工具一样运行,完全遵循argparse的设计意图。
- 可部署性: 转换后的.py文件更容易集成到CI/CD流程、调度任务或作为其他应用程序的组件。
- 清晰的环境分离: 生产环境与开发环境(Notebook)分离,减少潜在的副作用。
关键代码实践与常见陷阱
- pathlib.Path的优势: 在argparse中指定type=Path是一个非常好的实践。Path对象提供了跨操作系统的路径操作方法,例如.exists()、.is_file()、.parent、.joinpath()等,比os.path更面向对象且易于使用。
- 文件/目录存在性检查: 在尝试读取或写入文件之前,务必检查其路径是否存在或是否可访问。这可以提高脚本的健壮性。
file_path = args.SP_File if not file_path.exists(): raise FileNotFoundError(f"指定的文件不存在: {file_path}") if not file_path.is_file(): raise ValueError(f"指定路径不是一个文件: {file_path}") - 错误处理: 使用try-except块来捕获文件操作(如pd.read_csv)可能发生的异常,并提供有意义的错误信息。这有助于调试和用户理解。
- 绝对路径与相对路径: 考虑你的脚本在不同环境下运行时,相对路径可能带来的问题。通常,对于关键的文件输入/输出,建议用户提供绝对路径,或者在脚本内部将相对路径解析为绝对路径(例如,使用Path.resolve())。
总结
在Jupyter Notebook中测试使用argparse的Python脚本,可以通过两种主要方式实现:
- 在Notebook内部模拟sys.argv: 这是一种高效的开发和调试策略,允许开发者在不离开交互式环境的情况下,验证参数解析和核心业务逻辑。
- 将Notebook转换为Python脚本: 这是将代码投入生产或进行真正命令行测试的推荐方法,通过jupyter nbconvert工具可以轻松实现。
理解这两种方法及其适用场景,将有助于开发者更灵活、高效地管理和执行其Python脚本。同时,遵循良好的文件路径处理和错误处理实践,能够显著提升代码的健壮性和用户体验。
今天带大家了解了的相关知识,希望对你有所帮助;关于文章的技术知识我们会一点点深入介绍,欢迎大家关注golang学习网公众号,一起学习编程~
Artbreeder人像风格调教技巧详解
- 上一篇
- Artbreeder人像风格调教技巧详解
- 下一篇
- PHP字符串操作技巧与常用函数汇总
-
- 文章 · python教程 | 1分钟前 |
- Pythonconfigparser配置读取教程
- 345浏览 收藏
-
- 文章 · python教程 | 26分钟前 |
- Python传递不定参数方法详解
- 464浏览 收藏
-
- 文章 · python教程 | 50分钟前 |
- 正则表达式中^和$分别表示行首和行尾。
- 243浏览 收藏
-
- 文章 · python教程 | 56分钟前 |
- PyCharm安装后怎么打开?首次启动教程
- 490浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Python动态导入模块技巧分享
- 432浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Pandas多级列转行索引技巧
- 226浏览 收藏
-
- 文章 · python教程 | 1小时前 |
- Python环境搭建详细教程
- 268浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- FlaskMySQL查询无结果怎么解决
- 226浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- SeleniumPython点击新窗口冻结问题解决办法
- 293浏览 收藏
-
- 文章 · python教程 | 2小时前 |
- Python函数返回值获取技巧
- 187浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- ChatExcel酷表
- ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
- 3182次使用
-
- Any绘本
- 探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
- 3393次使用
-
- 可赞AI
- 可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
- 3425次使用
-
- 星月写作
- 星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
- 4530次使用
-
- MagicLight
- MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
- 3802次使用
-
- Flask框架安装技巧:让你的开发更高效
- 2024-01-03 501浏览
-
- Django框架中的并发处理技巧
- 2024-01-22 501浏览
-
- 提升Python包下载速度的方法——正确配置pip的国内源
- 2024-01-17 501浏览
-
- Python与C++:哪个编程语言更适合初学者?
- 2024-03-25 501浏览
-
- 品牌建设技巧
- 2024-04-06 501浏览

