Miras发布,谷歌深度学习架构设计新框架
2025-04-27 11:21:40
0浏览
收藏
Miras是由谷歌开发的深度学习架构设计新框架,专注于序列建模任务。通过整合Transformer、现代线性RNN等模型,Miras重新定义了这些模型为具有内部优化目标的关联记忆模块。该框架通过关联记忆架构、注意力偏差目标、保持门以及记忆学习算法四大关键选择,构建出具有不同优势的新型序列模型,如Moneta、Yaad和Memora。这些模型在语言建模和常识推理等任务中表现优异,超越了现有的Transformer和线性RNN模型。Miras不仅优化了记忆管理,还提升了模型在处理长序列任务时的性能,同时保持了快速的并行化训练能力。
Miras是什么
Miras是由谷歌开发的专用于深度学习架构设计的通用框架,特别适用于序列建模任务。Miras基于关联记忆和注意力偏差的概念,将Transformer、现代线性RNN等模型重新定义为具有内部优化目标的关联记忆模块。Miras通过四种关键选择构建模型:关联记忆架构、注意力偏差目标、保持门以及记忆学习算法。Miras能够生成具有不同优势的新型序列模型,例如Moneta、Yaad和Memora,这些模型在语言建模和常识推理等任务中表现优异,超越现有的Transformer和线性RNN模型。
Miras的主要功能
- 整合现有架构:将现有的多种序列模型(如Transformer、RetNet、Mamba等)纳入一个统一的框架中。
- 优化记忆管理:通过引入注意力偏差(Attentional Bias)和保持门(Retention Gate)的概念,Miras能够更好地平衡学习新信息和保留旧信息,从而优化模型的记忆管理能力。
- 设计新型模型:支持设计具有不同注意力偏差和保持机制的全新序列模型,如Moneta、Yaad和Memora。
- 提升模型性能:在处理长序列任务时提升模型性能,同时保持快速的并行化训练能力。
Miras的技术原理
- 关联记忆:一种将输入(键,Keys)映射到输出(值,Values)的机制。在Miras中,序列模型被视为关联记忆模块,基于学习输入和输出之间的映射关系来存储和检索信息。关联记忆是Miras的核心,决定了模型如何存储和利用序列数据中的信息。
- 注意力偏差:作为关联记忆的内部优化目标,用于衡量模型如何优先关注某些事件或刺激。通过选择不同的注意力偏差目标(如ℓ2回归、ℓ1回归、Huber损失等),调整模型对数据的敏感度和鲁棒性。
- 保持门:一种正则化机制,控制模型在学习新信息时如何保留旧信息。通过引入保持正则化项(如ℓ2正则化、KL散度等)来平衡学习和保留,防止模型过度遗忘旧信息,从而在长序列任务中保持更好的性能。
- 记忆学习算法:用于优化关联记忆的目标函数。常见的算法包括梯度下降、动量梯度下降等。选择合适的优化算法可以提高模型的训练效率和收敛速度。
Miras的项目地址
- arXiv技术论文:http://arxiv.org/pdf/2504.13173
Miras的应用场景
- 语言建模:适用于NLP研究人员和文本生成开发者,用于高效处理长文本并捕捉长距离依赖。
- 常识推理:适用于AI研究者和智能助手开发者,用于提升对隐含信息的理解和推理能力。
- 长文本处理:适用于文本分析工程师和信息检索专家,用于优化长文本处理效率并减少资源消耗。
- 多模态任务:适用于多模态研究者和多媒体内容分析工程师,用于融合多种模态信息并提升跨模态推理能力。
理论要掌握,实操不能落!以上关于《Miras发布,谷歌深度学习架构设计新框架》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!
Debian消息传递未来趋势深度解析
- 上一篇
- Debian消息传递未来趋势深度解析
- 下一篇
- JavaScript处理复数的巧妙技巧
查看更多
最新文章
-
- 科技周边 · 人工智能 | 17小时前 |
- Transformers generate 怎样返回每步生成分数并定位异常输出
- 308浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · api设计 · 人工复核 内容审核 Categories Moderation API category_scores
- 内容审核接口返回多标签结果时怎样设计分支
- 160浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · 多模态 · token 视觉模型 detail 多图输入 Vision API
- 视觉模型输入多张图片时怎样控制顺序和细节级别
- 386浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · 提示词缓存 prompt_cache_key 稳定前缀 动态输入
- 提示词缓存怎样拆分稳定前缀和动态输入
- 419浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 多模态输入 Gemini API Files API MIME 类型
- Gemini API 怎样把文件输入和文本提示放在同一请求
- 164浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · padding Transformers tokenizer attention_mask input_ids truncation
- Transformers tokenizer 怎样让 padding 与 truncation 对齐批量输入
- 416浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 |
- Hugging Face Datasets DatasetDict 跨 train 与 validation 的 map 处理方案
- 267浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · 结构化输出 · JSON Schema Responses API Structured Outputs strict refusal
- 结构化输出怎样约束模型返回 JSON Schema
- 328浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · openai · 工具调用 Responses API function_call_output call_id
- Responses API 怎样处理工具调用后的继续响应
- 156浏览 收藏
-
- 科技周边 · 人工智能 | 18小时前 | 人工智能 · openai · 多轮对话 Responses API conversation state OpenAI API previous_response_id
- Responses API 怎样用上一轮响应继续多轮对话
- 121浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
查看更多
AI推荐
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1074次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1075次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1237次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1181次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1022次使用
查看更多
相关文章
-
- 量化模型本地推理的显存估算方法
- 2026-10-17 501浏览
-
- 本地大模型反复输出同一句话怎么调整生成参数
- 2026-09-06 501浏览
-
- Python 调用大模型时如何用结构化输出校验 JSON:从解析失败到可重试
- 2026-08-29 501浏览
-
- AI写作工具免费版安装教程(含豆包Clawdbot)
- 2026-05-30 501浏览
-
- WPS AI能自动生成PPT吗?输入主题一键制作演示文稿
- 2026-05-27 501浏览

