Andrej Karpathy:神奇大模型不存在的,只是对人类标注的拙劣模仿
科技周边不知道大家是否熟悉?今天我将给大家介绍《Andrej Karpathy:神奇大模型不存在的,只是对人类标注的拙劣模仿》,这篇文章主要会讲到等等知识点,如果你在看完本篇文章后,有更好的建议或者发现哪里有问题,希望大家都能积极评论指出,谢谢!希望我们能一起加油进步!
Andrej Karpathy,OpenAI 创始成员及特斯拉前 AI 高级总监,近日对大型语言模型(LLM)的“智能”程度提出了质疑,引发业内热议。他认为,人们对 LLM 回答问题的解读过于理想化,将其视为对互联网平均数据标注员的“询问”更为贴切。
Karpathy 指出,LLM 主要通过模仿人工标注数据进行训练。当用户提问(例如,“阿姆斯特丹十大景点”)时,模型实际上是在复现数据标注员曾通过搜索引擎等工具整理出的答案。如果问题不在训练数据集中,模型则会基于预训练阶段(互联网文档语言建模)的知识进行推测。
针对强化学习与人类反馈(RLHF)技术,Karpathy 认为其作用被夸大了。RLHF 并非创造“超越人类”的结果,而是将模型性能从“人工生成”提升到“人工判别”级别。这种提升源于人类对结果的判断更容易于生成结果本身。 LLM 的性能更接近于“人类整体水平”而非个体专家水平,因此所谓的“超人”能力是有限的,真正的“超人”能力需要更高级的强化学习方法,而非 RLHF。
Karpathy 此前已多次批评 RLHF。他以 AlphaGo 为例,指出 RLHF 方法可能导致奖励机制失效,无法实现像 AlphaGo 打败人类世界冠军那样的突破性成果。他认为,LLM 的奖励模型(RM)只是对人类偏好的一种近似,而非解决问题的真正目标。 此外,过度使用 RLHF 还会导致模型学习到一些在人类看来荒谬但 RM 却认为“很棒”的回应。
近期,来自 VRAIN 和剑桥大学的研究也佐证了 Karpathy 的观点,指出 LLM 在一些简单任务上表现不佳,甚至会在复杂任务中给出错误答案却不自知。
尽管 LLM 的参数量和训练数据不断增加,性能也在提升,但其基础机制的可靠性仍值得商榷。 目前,OpenAI 提出的基于规则的奖励(RBR)方法或许能为解决 LLM 的“指令遵循”问题提供新的思路,但 LLM 的“智能”本质仍有待进一步探索。
理论要掌握,实操不能落!以上关于《Andrej Karpathy:神奇大模型不存在的,只是对人类标注的拙劣模仿》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!
细述:通过Shell脚本定时自动备份MongoDB
- 上一篇
- 细述:通过Shell脚本定时自动备份MongoDB
- 下一篇
- Win10应用程序无法启动因为并行配置不正确怎么办
-
- 科技周边 · 人工智能 | 2天前 |
- 讯飞绘文写活动通知怎么避免改错时间和地点
- 360浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Accelerate Accelerator.clip_grad_norm_ 怎样在混合精度训练中裁剪梯度
- 339浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 | 人工智能 · LoRa PEFT save_pretrained PeftModel 适配器权重
- PEFT PeftModel 怎样只保存适配器权重
- 468浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Transformers num_special_tokens_to_add 怎样计算输入的特殊词元开销
- 233浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 | TensorFlow dataset tf.data assert_cardinality
- TensorFlow tf.data.assert_cardinality 怎样标记数据集的样本数量
- 191浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 | PyTorch 模型权重 safetensors safe_open
- Safetensors safe_open 怎样按名称读取单个张量
- 368浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Transformers get_added_vocab 怎样读取新增词元与编号映射
- 267浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Safetensors metadata 怎样读取文件元数据
- 358浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Transformers compute_transition_scores 怎样查看每个生成 token 的分数
- 321浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 |
- Transformers StopStringCriteria 怎样按结束字符串停止生成
- 443浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 | 人工智能 · Hugging Face 模型仓库 Hugging Face Hub HfApi list_repo_tree
- Hugging Face Hub HfApi.list_repo_tree 怎样列出模型仓库中的文件
- 429浏览 收藏
-
- 科技周边 · 人工智能 | 3天前 | 人工智能 · PyTorch safetensors contiguous save_file transpose
- Safetensors 保存转置张量时怎样处理连续内存
- 165浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1180次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1165次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1349次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1288次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1148次使用
-
- 量化模型本地推理的显存估算方法
- 2026-10-17 501浏览
-
- 本地大模型反复输出同一句话怎么调整生成参数
- 2026-09-06 501浏览
-
- Python 调用大模型时如何用结构化输出校验 JSON:从解析失败到可重试
- 2026-08-29 501浏览
-
- AI写作工具免费版安装教程(含豆包Clawdbot)
- 2026-05-30 501浏览
-
- WPS AI能自动生成PPT吗?输入主题一键制作演示文稿
- 2026-05-27 501浏览

