Go语言技术文章
-
- LoRA 适配器怎样与基础模型分离加载
- LoRA 适配器不是完整基础模型,通常应先加载兼容的基础模型,再用 PeftModel.from_pretrained 或 Transformers 的 load_adapter 挂载。本文说明多个适配器的命名与切换、unload 和 delete_adapter 的区别,以及保持分离和 merge_and_unload 合并部署的取舍。
- 科技周边 · 人工智能 | 1星期前 | LoRa Transformers PEFT merge_and_unload load_adapter adapter_config.json 102浏览 收藏
-
- Hugging Face Transformers 怎样只输出生成结果而不带输入提示词
- Hugging Face Transformers 的 generate 返回序列可能同时包含输入提示词和新生成 token。本文按 decoder-only、encoder-decoder、批量 padding 三种边界说明如何只解码新增内容,并解释 max_new_tokens、return_dict_in_generate 与 pipeline 输出的区别。
- 科技周边 · 人工智能 | 1星期前 | python · Hugging Face Transformers generate tokenizer 新生成 token 145浏览 收藏
-
- Holo4 这类计算机使用代理怎样划分工具权限
- Holo4 这类计算机使用代理可以跨桌面、网页和移动端执行长流程任务,但不应该只用一个总开关管理权限。本文按工具能力、资源范围、动作审批和隔离运行环境四层拆解权限,并给出浏览器、文件系统与 Shell 的策略示例。
- 科技周边 · 人工智能 | 1星期前 | ai agent · 工具调用 · 最小权限 工具权限 Computer Use Holo4 计算机使用代理 212浏览 收藏
-
- vLLM 怎样限制批处理显存上限
- vLLM 的 gpu-memory-utilization 只划定单实例显存预算,不直接限制批处理条数。本文用 max-num-batched-tokens、max-num-seqs、max-num-active-seqs 和排队上限拆开说明显存、单轮批量与入口容量的配置边界。
- 科技周边 · 人工智能 | 1星期前 | 人工智能 · vLLM KV Cache gpu-memory-utilization max-num-batched-tokens max-num-seqs 批处理显存 265浏览 收藏
-
- RAG 检索结果怎样保留来源片段和页码
- RAG应在解析和切分时保留文档版本、页位置及原文区间,并在检索重排后维持片段身份。本文给出来源字段设计、证据表绑定、旧索引迁移与页码缺失的处理方法。
- 科技周边 · 人工智能 | 1星期前 | 307浏览 收藏
-
- Accelerate 怎样让多个进程分别绑定到不同 GPU
- 用 CUDA_VISIBLE_DEVICES 和 accelerate launch 明确可见 GPU 与进程数量,再通过 PartialState 读取每个进程的设备,给出多进程推理时的绑定、分片和排错方法。
- 科技周边 · 人工智能 | 1星期前 | 分布式 · 人工智能 · 多进程 多GPU Accelerate CUDA_VISIBLE_DEVICES 444浏览 收藏
-
- MLflow 模型别名怎样把新版本切换到 champion 并支持回滚
- 用 MLflow Model Registry 的 champion alias 解耦推理代码与模型版本:切换时指向新版本,出现问题时用同一接口回指旧版本。
- 科技周边 · 人工智能 | 1星期前 | 人工智能 · MLFlow Model Registry 模型别名 champion 模型回滚 296浏览 收藏
-
- PyTorch 怎样用 autocast 控制混合精度范围
- 用 PyTorch 的 torch.autocast 控制混合精度范围:明确前向与损失计算的作用域,演示局部关闭 autocast 保留 float32,并说明 GradScaler、推理和常见边界。
- 科技周边 · 人工智能 | 1星期前 | 248浏览 收藏
-
- Hugging Face Spaces 怎样查看应用运行日志
- Hugging Face Spaces 排查失败时,先区分构建日志和运行日志,再用 hf spaces logs 或 fetch_space_logs 读取、截取和持续跟踪输出。
- 科技周边 · 人工智能 | 1星期前 | AI工程 · 运行日志 Hugging Face Spaces Space日志 构建日志 fetch_space_logs 322浏览 收藏
-
- Hugging Face Transformers 怎样为推理启用半精度
- 用 Transformers 做推理时,dtype 负责权重加载精度,autocast 负责前向计算精度。本文给出 float16、bfloat16 与 float32 的选择方法、代码示例和兼容性检查清单。
- 科技周边 · 人工智能 | 1星期前 | Hugging Face Transformers 半精度推理 float16 bfloat16 212浏览 收藏
-
- OpenTelemetry 语义约定更新怎样影响链路字段
- OpenTelemetry 语义约定更新不会自动等价于所有链路字段改名。本文以当前语义约定 1.45.0 和 HTTP 迁移规则为例,说明如何识别字段变化、稳定性、双发迁移与 schema URL,并把应用、Collector、后端查询和回滚记录对齐。
- 科技周边 · 业界新闻 | 2星期前 | 可观测性 · 469浏览 收藏
-
- CNCF 毕业公告怎样看治理变化
- CNCF 项目毕业不只是一个新闻标签。本文用项目状态、技术成熟度、治理透明度、安全实践和生产采用五个视角,说明怎样区分公告事实与个人推断,并把毕业信号转成有边界的云原生试点判断。
- 科技周边 · 业界新闻 | 2星期前 | 372浏览 收藏
-
- Rust 1.90 edition 迁移怎样判断影响
- Rust 1.90 工具链升级与 edition 2024 切换应分开判断。以三组对照记录说明迁移顺序、cargo fix 覆盖范围、临时值行为及构建性能归因,避免把链接器收益算作 edition 效果。
- 科技周边 · 业界新闻 | 2星期前 | 353浏览 收藏
-
- Node.js 24 LTS 怎样确认支持范围
- Node.js 24 LTS 的支持判断不能只看版本号,还要核对官方生命周期、操作系统与架构、glibc、OpenSSL、原生扩展和项目回归。本文给出一套可复用的支持范围确认方法。
- 科技周边 · 业界新闻 | 2星期前 | Node.js · javascript · 版本升级 · 415浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- Golang深入理解GPM模型
- Golang深入理解GPM调度器模型及全场景分析,希望您看完这套视频有所收获;包括调度器的由来和分析、GMP模型简介、以及11个场景总结。
- 474次学习
查看更多
AI推荐
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1149次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1136次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1313次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1254次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1107次使用

