• 10万美元+26天,一个低成本千亿参数LLM就诞生了
    10万美元+26天,一个低成本千亿参数LLM就诞生了
    包括仅解码器结构(如GPT和LLAMA系列模型)、仅编码器结构(如BERT)和编码器-解码器结构(如T5)以及它们的变体模型在内的大型语言模型(LLM)已经取得了非凡的成功,并已被广泛用于各种语言处理和多模态任务。尽管如此成功,训练LLM的成本还是过于高昂,以至于仅有少数公司能承受其训练成本。此外,当前的趋势说明未来还会使用更大规模的训练数据,这会进一步推升大模型的研发成本。举个例子,LLAMA-1训练使用了1-1.4TBtoken,而Llama2更是达到了2TB。研发LLM的另一大关键性挑战是评估。主流
    科技周边 · 人工智能   |  2年前  |   理论 ​大模型 447浏览 收藏
  • vivo自研AI大模型预热:将在OriginOS 4上首搭
    vivo自研AI大模型预热:将在OriginOS 4上首搭
    DoNews9月21日消息,vivoOS产品副总裁周围21日在微博透露,vivo即将发布自研AI大模型,C-Eval全球中文榜单第二、CMMLU全球中文榜单第一,将于原系统4(OriginOS4)首搭。根据周围的表示,vivo自2017年开始着手人工智能领域,在全球建立了AI研究院,并于2018年成立了图谱研究院,目前已有超过600名专业人员致力于大模型的研发。自2018年以来,vivo自豪地宣称已在顶级期刊上发表了70多篇高水平论文即将发布的OriginOS4将内置一款中央化智能助理。周围的人表示,这可
    科技周边 · 人工智能   |  2年前  |   447浏览 收藏
  • 扩展LLaMA2上下文至100k:MIT和港中文采用LongLoRA方法
    扩展LLaMA2上下文至100k:MIT和港中文采用LongLoRA方法
    通常情况下,大型预训练模型的文本长度是固定的。如果想要支持更长的文本,就需要对模型进行微调。然而,训练具有长上下文的语言模型的计算成本非常高,需要大量的训练时间和GPU资源举个例子,如果要训练一个具有8192长度上下文的模型,相比于2048长度上下文,需要16倍的计算资源。尽管如此,上下文长度对于模型性能非常重要,因为它代表了LLM在回应时对整个上下文的清晰理解能力最近,麻省理工学院与香港中文大学合作研究,提出了LongLoRA。这是一种高效的微调方法,能够在有限的计算成本下扩展预训练的大型语言模型的上下
    科技周边 · 人工智能   |  2年前  |   模型 训练 447浏览 收藏
  • 《GTA6》会深度利用AI智能技术,但可能不会因此降低售价
    《GTA6》会深度利用AI智能技术,但可能不会因此降低售价
    Take-Two首席执行官StraussZelnick在与投资者的交流中表示,虽然AI人工智能将有助于简化开发过程,但这可能不会降低开发成本。所以他警告粉丝们,如果R星完全接受AI的使用,请不要指望《GTA66》会因此降低零售价。此前《荒野大镖客:救赎》重制版售价为49.99美元,该定价曾被粉丝吐槽:“如此低的成本,却还是这么贵”。前段时间也有外媒分析称,《GTA6》的定价会在70美元以上,比如基础版79.99美元会比较符合R星的定价策略。Zelnick还说道,虽然Take-Two长期致力于AI开发技术,
    科技周边 · 人工智能   |  2年前  |   售价 GTA AI智能技术 447浏览 收藏
  • 山西成功试飞大型人工影响天气无人机
    山西成功试飞大型人工影响天气无人机
    首飞成功!山西有了人工影响天气大型无人机“无人机准备完毕。”“起飞!”随着一声口令,12月1日我省人工影响天气大型无人机从大同南六庄机场起飞,半小时后平稳着落,圆满完成首飞。这次大型无人机首次飞行是人工影响天气的一个重大里程碑,它标志着无人机在山西乃至整个华北地区开展人工增雨作业的序幕。这对于充分发挥人工影响天气在保障山西的粮食安全、水资源安全和生态安全方面的作用来说具有重要意义我省地处黄土高原,水资源相对匮乏。多年来,省气象部门一直致力于围绕省委省政府的重大决策部署和重大工程建设,全力推进抗旱增雨救灾气
    科技周边 · 人工智能   |  2年前  |   人工影响天气 大型无人机 447浏览 收藏
  • 新标题:何恺明与MIT合作:简单框架实现无条件图像生成的最新突破
    新标题:何恺明与MIT合作:简单框架实现无条件图像生成的最新突破
    大佬何恺明还未正式入职MIT,但和MIT的第一篇合作研究已经出来了:他和MIT师生一起开发了一个自条件图像生成框架,名叫RCG(代码已开源)。这个框架结构非常简单但效果拔群,直接在ImageNet-1K数据集上实现了无条件图像生成的新SOTA。它生成的图像不需要任何人类注释(也就是提示词、类标签什么的),就能做到既保真又具有多样性。这样的它不仅显著提高了无条件图像生成的水平,还能跟当前最好的条件生成方法一较高下。用何恺明团队自己的话来说:有条件和无条件生成任务之间长期存在的性能差距,终于在这一刻被弥补了。
    科技周边 · 人工智能   |  2年前  |   模型 训练 447浏览 收藏
  • 比亚迪与大疆合作开发全球首款车载无人机——仰望U8无人机版
    比亚迪与大疆合作开发全球首款车载无人机——仰望U8无人机版
    快科技1月16日消息,在今晚的比亚迪梦想日上,比亚迪与大疆携手推出的首款车载无人机正式亮相,首搭在仰望U8无人机版当中。比亚迪仰望无人机是比亚迪旗下仰望品牌的创新功能,体现了比亚迪智能化的发展方向。这款车载无人机被设计为安装在车顶的装置,具有伸缩的无人机起落平台。该无人机将具备车载自动充电,智能跟车、智能拍片、智能成片,低电量自动回仓功能。该无人机平时将隐藏在仰望车顶的机舱之内,该机舱还具备智能换电功能。起飞后,该无人机将自动识别本车,并悬停在空中等待指令。此外,无人机还可以实时将画面进行回传,将视野拉到
    科技周边 · 人工智能   |  1年前  |   比亚迪 大疆 447浏览 收藏
  • 荣耀开发者大会举办AI大模型人机交互圆桌论坛,探讨变革的话题
    荣耀开发者大会举办AI大模型人机交互圆桌论坛,探讨变革的话题
    2023年1月10日至11日,荣耀举办了2023开发者大会,期间正式发布了自家研发的操作系统MagicOS8.0(中文名:魔法OS8.0)。该操作系统引入了平台级AI使能的意图识别人机交互功能,为智能终端交互带来了全新的范式。与此同时,荣耀Magic6系列手机首次搭载了自家研发的70亿参数大模型——“魔法大模型”,并宣布启动“百模生态计划”,以魔法OS为中国百大模型提供入口,旨在打造基于意图交互的智慧服务生态系统。这一系列发布为荣耀开创了更加智能化、多样化的未来。1月11日,荣耀举办了主题为《洞见趋势:A
    科技周边 · 人工智能   |  1年前  |   荣耀开发者大会 人机交互变革 447浏览 收藏
  • 提升工作效率至分钟级:IT之家评测室对讯飞智文AI PPT的体验评价
    提升工作效率至分钟级:IT之家评测室对讯飞智文AI PPT的体验评价
    2023年已经进入尾声。每到年末,就又是被各种PPT噩梦缠绕的季节……比如最近小编的工作群里就一直被领导“钉”个不停,什么产品总结、市场复盘、业绩汇报、明年规划等等,这份PPT还没做完,下一份已经来了,简直让人抓狂。要说做PPT,大家一定都有共同的痛:内容1小时,排版一整天,各种设计元素、排版细节要手动一点一点地调整,繁琐到爆炸,内容要稍微多一点,得做上好几天。小编这两天就经常听到办公室平时轻松搞定复杂代码的程序员同事,被几十页PPT困时发出的哀嚎……但其实,如今生成式AI发展正当其时,很多机械繁琐的工作
    科技周边 · 人工智能   |  1年前  |   447浏览 收藏
  • AI可能对劳动力产生三种主要影响
    AI可能对劳动力产生三种主要影响
    “GenAI很可能是自农业和工业革命以来最重大的变革。”好吧,请稍安勿躁。埃森哲最新报告中关于2024年劳动力的观点或许有些夸张,因为自20世纪80年代初信息革命开始以来,我们一直听到类似的关于工作的言论。但毫无疑问,人工智能将极大地改变和协助工作的执行和交付方式,可谓是正在进行的信息革命的最新阶段。AI将如何改变我们所知的工作,以及人们将如何受到影响?首先,AI被视为一种技术,它可能对工人产生影响,就像之前的许多其他技术一样。然而,GenAI的情况正好相反,埃森哲调查的几乎所有员工(95%)都看到了使用
    科技周边 · 人工智能   |  1年前  |   人工智能 AI GenAI 447浏览 收藏
  • 利用玻尔兹曼机进行特征提取的方法与应用
    利用玻尔兹曼机进行特征提取的方法与应用
    玻尔兹曼机(BoltzmannMachine,BM)是一种基于概率的神经网络,由多个神经元组成,其神经元之间具有随机的连接关系。BM的主要任务是通过学习数据的概率分布来进行特征提取。本文将介绍如何将BM应用于特征提取,并提供一些实际应用的例子。一、BM的基本结构BM由可见层和隐藏层组成。可见层接收原始数据,隐藏层通过学习得到高层次特征表达。在BM中,每个神经元都有两种状态,分别是0和1。BM的学习过程可以分为训练阶段和测试阶段。在训练阶段,BM通过学习数据的概率分布,以便在测试阶段生成新的数据样本。在测试
    科技周边 · 人工智能   |  1年前  |   人工神经网络 特征工程 447浏览 收藏
  • 生成式人工智能的原理与应用
    生成式人工智能的原理与应用
    生成式AI是一类人工智能模型,其特点在于能够根据训练数据的分布生成新的数据,而这些新数据与训练数据有所不同。这些模型的主要目标是通过统计学的方法来学习数据的分布,并利用这种学习来产生具有类似特征的新数据。生成式AI的应用十分广泛,包括但不限于自然语言处理、图像生成和音频生成等领域。通过生成式AI,我们能够产生出与训练数据不同但具有相似特征的新数据,为各种应用提供更多可能性。生成式AI的模型通常使用神经网络。神经网络是一种模拟人类神经元之间交互的计算模型,它能够通过学习大量数据来提取出数据中的共性和规律。在
    科技周边 · 人工智能   |  1年前  |   人工智能 机器学习 447浏览 收藏
  • 低成本机器人:解决各类障碍的科技利器
    低成本机器人:解决各类障碍的科技利器
    根据美国ScienceDaily网站的报道,卡内基梅隆大学计算机科学学院和加州大学伯克利分校的研究人员共同开发了一种创新的机器人系统。这个系统的机器人具备应对各种障碍的能力,包括攀爬高楼梯、穿越崎岖不平、湿滑、陡峭和多变的地形,甚至在黑暗环境中也能正常运行。这一技术突破为机器人在复杂环境中的应用提供了更广阔的可能性。这个研究成果有望为未来的探险、搜救和救援任务提供有力支持。该机器人在不平坦的楼梯和公园的山坡上经过了严格的测试。研究团队让机器人走过垫脚石和湿滑的表面,并要求它爬上类似于人类跳跃的楼梯一样高的
    科技周边 · 人工智能   |  1年前  |   人工智能 机器学习 447浏览 收藏
  • Transformer本可以深谋远虑,但就是不做
    Transformer本可以深谋远虑,但就是不做
    语言模型是否会规划未来token?这篇论文给你答案。「别让YannLeCun看见了。」YannLeCun表示太迟了,他已经看到了。今天要介绍的这篇「LeCun非要看」的论文探讨的问题是:Transformer是深谋远虑的语言模型吗?当它在某个位置执行推理时,它会预先考虑后面的位置吗?这项研究得出的结论是:Transformer有能力这样做,但在实践中不会这样做。我们都知道,人类会思考而后言。十年的语言学研究表明:人类在使用语言时,内心会预测即将出现的语言输入、词或句子。不同于人类,现在的语言模型在「说话」
    科技周边 · 人工智能   |  1年前  |   理论 447浏览 收藏
  • 1.04亿元出售49%股权!广汽撤资与比亚迪合资公司
    1.04亿元出售49%股权!广汽撤资与比亚迪合资公司
    广东联合产权交易中心近日披露,广汽集团退出与比亚迪合作的合资公司——广州广汽比亚迪新能源客车有限公司,计划10387.94万元出售所持有的49%股权。回顾该公司的设立节点发现,2014年新能源汽车不断收获政策利好,2014年7月,政府部门接连下发三份文件,在新能源车推广、车辆购置税、用电等方面鼓励和支持新能源汽车的发展。这不仅给比亚迪等有志于发展新能源的车企提供了动力,也让市场对新能源汽车充满期待。而广汽的核心业务主要在乘用车,需要补齐客车产品线,在这样的背景下,该合资公司诞生了。随即,广州广汽比亚迪新能
    科技周边 · 人工智能   |  1年前  |   广汽比亚迪 447浏览 收藏
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
  • Golang深入理解GPM模型
    Golang深入理解GPM模型
    Golang深入理解GPM调度器模型及全场景分析,希望您看完这套视频有所收获;包括调度器的由来和分析、GMP模型简介、以及11个场景总结。
    474次学习
查看更多
AI推荐
  • ChatExcel酷表:告别Excel难题,北大团队AI助手助您轻松处理数据
    ChatExcel酷表
    ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
    3375次使用
  • Any绘本:开源免费AI绘本创作工具深度解析
    Any绘本
    探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
    3586次使用
  • 可赞AI:AI驱动办公可视化智能工具,一键高效生成文档图表脑图
    可赞AI
    可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
    3616次使用
  • 星月写作:AI网文创作神器,助力爆款小说速成
    星月写作
    星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
    4748次使用
  • MagicLight.ai:叙事驱动AI动画视频创作平台 | 高效生成专业级故事动画
    MagicLight
    MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
    3991次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码