-
- 高性能 LLM 推理框架的设计与实现
- 一、大语言模型推理概要介绍与传统的CNN模型推理不同，大语言模型的推理通常会分成prefill和decoding两个阶段。每一个请求发起后产生的推理过程都会先经历一个Prefill过程，prefill过程会计算用户所有的输入，并生成对应的KV缓存，再经历若干个decoding过程，每一个decoding过程，服务器都会生成一个字符，并将其放入到KV缓存当中，之后依次迭代。由于解码过程是逐字符生成的，每个答案片段的生成都需要大量时间，并且会生成大量字符。因此，解码阶段的数量非常庞大，占据了整个推理过程的绝大
- 科技周边 · 人工智能 | 1年前 | LLM 大语言模型 推理框架 434浏览 收藏
-
- 如何利用AI实现文档处理自动化
- 译者|陈峻审校|重楼文件处理在许多企业及员工看来是一项必不可少、却又耗时费力的工作。每天，他们往往需要花费无数个小时去对文件进行分类、归档、以及搜索。不过，如今人工智能（AI）正在以自动化的方式改变着这些琐碎的工作。通过利用人工智能，企业可以自动提取和解释文档中的信息，从而更加专注于自己的主营业务。可以说，在文档处理中采用人工智能不仅可以节省时间，还能最大限度地减少人为错误，从而获得更准确、更可靠的结果。以下是有关如何将人工智能应用于企业自动化文档处理的探讨。在如何受益于利用人工智能来获取自动化文档处理方
- 科技周边 · 人工智能 | 1年前 | 人工智能 自动化文件处理 434浏览 收藏
-
- 全球最强开源 MoE 模型来了，中文能力比肩 GPT-4，价格仅为 GPT-4-Turbo 的近百分之一
- 想象一下，一个人工智能模型，不仅拥有超越传统计算的能力，还能以更低的成本实现更高效的性能。这不是科幻，DeepSeek-V2[1]，全球最强开源MoE模型来了。DeepSeek-V2是一个强大的专家混合（MoE）语言模型，具有训练经济、推理高效的特点。它由236B个参数组成，其中21B个参数用于激活每个标记。与DeepSeek67B相比，DeepSeek-V2性能更强，同时节省了42.5%的训练成本，减少了93.3%的KV缓存，最大生成吞吐量提高到5.76倍。DeepSeek是一家探索通用人工智能（AGI
- 科技周边 · 人工智能 | 1年前 | GPT-4 模型 MoE 434浏览 收藏
-
- 世界模型也扩散！训练出的智能体竟然不错
- 世界模型提供了一种以安全且样本高效的方式训练强化学习智能体的方法。近期，世界模型主要对离散潜在变量序列进行操作来模拟环境动态。然而，这种压缩为紧凑离散表征的方法可能会忽略对强化学习很重要的视觉细节。另一方面，扩散模型已成为图像生成的主要方法，对离散潜在模型提出了挑战。这种范式转变的推动，来自日内瓦大学、爱丁堡大学、微软研究院的研究者联合提出一种在扩散世界模型中训练的强化学习智能体——DIAMOND（DIffusionAsaModelOfeNvironmentDreams）。论文地址：https://arx
- 科技周边 · 人工智能 | 1年前 | 训练 智能体 434浏览 收藏
-
- 高亮反光终结者？谷歌NeRF-Casting：光线追踪就能搞定！
- NeRF不再“畏惧”近处高光反射早期的NeRF变体使用多层感知器（MLPs）从三维坐标映射到体积密度和视点相关的颜色，但是表示详细的三维几何和颜色所需的大型MLPs训练和评估速度极慢。最近的工作专注于通过用类似体素网格的数据结构或网格和小型MLPs的组合替代大型MLPs，使NeRF更加高效。虽然可以扩展到表示详细的大规模场景，但其优势仅限于三维几何和主要的漫反射颜色。扩展NeRF建模现实的视点相关外观的能力仍然是一个挑战。当前先进的用于闪亮物体视图合成的模型在两个方面存在限制：只能合成远处环境光照的准确反
- 科技周边 · 人工智能 | 1年前 | 谷歌 光线追踪 434浏览 收藏
-
- AI从头设计蛋白质「开关」，蛋白质设计的惊人突破，David Baker研究登Nature
- 编辑|KX在生活中，打开一盏灯或调节灯光很容易。但实现类似生物分子功能控制的系统却非常复杂，而且人们对此了解甚少。在生物学中，蛋白质功能以复杂的方式开启和关闭，变构调节是其中一种重要的生物学调节机制，对于健康的新陈代谢和细胞信号传导至关重要。但在合成蛋白质系统中，创建变构现象一直存在重大挑战。近日，华盛顿大学DavidBaker团队，设计出了能够通过变构控制，可靠而准确地在组装和拆卸之间转换的蛋白质。研究人员利用AI设计自然界中不存在的新蛋白质，设计了多种动态蛋白质排列。DavidBaker说：「通过设计
- 科技周边 · 人工智能 | 1年前 | AI 蛋白质 产业 蛋白质结构 434浏览 收藏
-
- 小鹏汽车VR遥操作机器人专利公布：可提高对机器人的控制精度
- 11月26日，爱企查App显示，近日，广州小鹏汽车科技有限公司一项名为“一种基于VR头显的机器人遥操作系统、方法和设备”的发明专利公布。摘要该专利属于机器人遥操作技术领域。该系统包含：动捕设备：捕捉穿戴者身体部位的姿态，传输至VR头显。VR头显：过滤动捕姿态，发送过滤后的姿态和头显姿态至上位机。上位机：使用控制算法处理姿态数据，生成控制信号，并发送至机器人。机器人：接收控制信号，执行相应动作。该系统增加了冗余自由度，解决了机械臂在奇异位置失控的问题，提高了控制精度。
- 科技周边 · 人工智能 | 9个月前 | 机器人控制 小鹏汽车 vr遥操作 434浏览 收藏
-
- 深南电路“一种电路板切割余料的清除方法、系统及电路板”专利获授权
- 深南电路近日获得一项关于电路板切割余料清除方法的专利授权（授权公告号CN114585160B，授权公告日2024年10月29日，申请日2020年11月18日）。该专利提出了一种新型的电路板切割余料清除方法、系统及电路板设计。这项专利技术主要通过在设定区域对切割后的电路板进行抽真空处理来清除余料。与传统的人工清除或使用胶带的方法相比，该方法效率更高，并能有效避免因人工操作或胶带使用而造成的板材损伤、余料残留以及胶带污染等问题。该技术显著提升了电路板生产效率和产品质量。
- 科技周边 · 人工智能 | 9个月前 | 深南电路 434浏览 收藏
-
- 长城汽车11月销售汽车12.74万辆，今年累销同比下降1.81%
- 长城汽车11月销量逆势增长，海外及新能源市场表现亮眼！长城汽车（601633）日前发布2024年11月产销快报，数据显示，11月全球销量同比增长3.7%，达到127,394辆。海外市场和新能源汽车销量均实现显著增长，展现出强劲发展势头。具体数据如下：11月销量同比增长3.7%，达到127,394辆；1-11月累计销量为1,098,006辆，同比小幅下降1.81%。产量方面，11月产量为134,207辆，同比增长2.09%；1-11月累计产量为1,100,786辆，同比下降5.67%。各品牌表现：哈弗品牌1
- 科技周边 · 人工智能 | 8个月前 | 长城汽车 434浏览 收藏
-
- 鹏鼎控股：11月营收40.45亿元，同比增加0.79%
- 鹏鼎控股11月营收40.45亿元，同比增长0.79%。公司日前接受机构调研时表示，AI业务全产业链覆盖已成型，涵盖服务器、存储设备及端侧产品。前三季度AI服务器及汽车电子业务营收实现翻倍增长，泰国工厂投产后将进一步提升营收规模。AI端侧产品方面，随着AIPC和AI手机等产品上市，PCB市场将迎来升级换代，对高品质、低损耗、高散热和细线路等特性需求增加。作为PCB龙头企业，鹏鼎控股将持续加大研发投入，保持技术领先优势，推出更具竞争力的产品。公司还指出，AI服务器对PCB精密度的要求不断提高，SLP等产品应用
- 科技周边 · 人工智能 | 8个月前 | 鹏鼎控股 434浏览 收藏
-
- 顺络电子合伙企业完成工商登记备案，将从事股权投资
- 此前，顺络电子披露，公司拟作为有限合伙人与普通合伙人深圳市高新投人才股权投资基金管理有限公司，及其他有限合伙人深圳市引导基金投资有限公司、深圳市宝安区产业投资引导基金有限公司、深圳市汇通金控基金投资有限公司、深圳市龙华区引导基金投资管理有限公司、深圳市光明区引导基金投资管理有限公司、深圳市高新投创业投资有限公司、江西赣江新区信担金服管理有限公司共同签署《深圳市高新投高端装备产业私募股权投资基金合伙企业（有限合伙）合伙协议》，共同投资设立深圳市高新投高端装备产业私募股权投资基金合伙企业（有限合伙），合伙企业
- 科技周边 · 人工智能 | 8个月前 | 顺络电子 434浏览 收藏
-
- 星云股份6.37亿元募资项目注册生效，将用于星云储能系统项目
- 福建星云电子股份有限公司（简称“星云股份”）A股股票发行项目已获深圳证券交易所注册生效，标志着公司发展进入新阶段。星云股份是国内领先的智慧能源解决方案提供商，专注于检测技术，产品广泛应用于动力锂电池、储能锂电池、消费及小动力锂电池以及新能源汽车充电等领域。公司核心业务涵盖电池仿真测试、电池过程测试及MES系统，为电池制造企业及新能源汽车企业提供智能制造解决方案，并通过子公司星云检测提供锂电池检测服务，实现了从单一设备销售向销售及服务一体化模式的转型升级。积极响应国家新型基础设施建设号召，星云股份基于多年积
- 科技周边 · 人工智能 | 8个月前 | 星云股份 募资注册 434浏览 收藏
-
- 高德地图联合蔚来行政旗舰ET9发布全域车道级导航
- 高德地图全域车道级导航与蔚来ET9强强联手，于12月21日NIODAY惊艳亮相！这是高德地图车机版首次推出全域车道级导航服务，未来将陆续应用于更多蔚来车型。相比传统车道级导航，高德地图全域车道级在覆盖范围、底层技术和用户体验上实现了全面升级，带来更卓越的全场景导航体验。覆盖范围显著提升：路网数据日级更新目前，中国公路通车里程已达543万公里。以往的车道级导航仅覆盖高速、快速路及部分城市道路。而高德全域车道级导航，凭借全国车道级路网数据、视觉车道级定位和深度学习模型等先进技术，覆盖范围扩展至全国99%以上的
- 科技周边 · 人工智能 | 8个月前 | 高德地图 蔚来汽车 车道级导航 434浏览 收藏
-
- 把RLHF带给VLA模型！通过偏好对齐来优化机器人策略，代码已开源
- GRAPE：通过偏好对齐提升机器人策略泛化能力AIxiv专栏持续报道全球顶尖AI研究成果。本文介绍一篇来自北卡罗来纳大学教堂山分校、华盛顿大学及芝加哥大学的研究，该研究提出了一种名为GRAPE的新算法，显著提升了视觉-语言-动作（VLA）模型的泛化能力。论文第一作者为北卡罗来纳大学教堂山分校的张子健，指导老师为助理教授HuaxiuYao。共同第一作者为华盛顿大学的KaiyuanZheng。其他作者来自北卡教堂山、华盛顿大学和芝加哥大学。论文信息:标题:GRAPE:GeneralizingRobotPoli
- 科技周边 · 人工智能 | 8个月前 | 工程 GRAPE 434浏览 收藏
-
- 受订单减少影响，天微电子2024年预亏1400万元-2000万元
- 天微电子发布2024年业绩预亏公告，预计净利润亏损1.4亿至2亿元。公告显示，天微电子2024年预计归属于母公司所有者的净利润亏损1400万至2000万元，同比下降128.17%到140.24%；扣除非经常性损益后的净利润亏损1900万至2800万元，同比下降167.02%到198.77%；营业收入预计为7.4亿至9.1亿元，同比下降35.22%到47.32%。业绩预亏的主要原因如下：1.订单减少导致收入下滑：公司主要产品灭火抑爆系统受整车年度任务及总装厂生产进度影响，导致2024年订单减少
- 科技周边 · 人工智能 | 7个月前 | 天微电子 434浏览 收藏
查看更多
课程推荐
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案，代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景，打造一站式知识长龙服务，适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例，全面具体可落地，从理论到实践，一步一步将GO核心编程技术、编程思想、底层实现融会贯通，使学习者贴近时代脉搏，做IT互联网时代的弄潮儿。
- 512次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信：Le-studyg；在课程中，我们将首先介绍MySQL8的新特性，包括性能优化、安全增强、新数据类型等，帮助学生快速熟悉MySQL8的最新功能。接着，我们将深入解析MySQL的网络通信机制，包括协议、连接管理、数据传输等，让
- 499次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网，分为导航，轮播，关于我们，成功案例，服务流程，团队介绍，数据部分，公司动态，底部信息等内容区块。网站整体采用CSSGrid布局，支持响应式，有流畅过渡和展现动画。
- 484次学习
-
- Golang深入理解GPM模型
- Golang深入理解GPM调度器模型及全场景分析，希望您看完这套视频有所收获；包括调度器的由来和分析、GMP模型简介、以及11个场景总结。
- 474次学习
查看更多
AI推荐
-
- 千音漫语
- 千音漫语，北京熠声科技倾力打造的智能声音创作助手，提供AI配音、音视频翻译、语音识别、声音克隆等强大功能，助力有声书制作、视频创作、教育培训等领域，官网：https://qianyin123.com
- 970次使用
-
- MiniWork
- MiniWork是一款智能高效的AI工具平台，专为提升工作与学习效率而设计。整合文本处理、图像生成、营销策划及运营管理等多元AI工具，提供精准智能解决方案，让复杂工作简单高效。
- 927次使用
-
- NoCode
- NoCode (nocode.cn)是领先的无代码开发平台，通过拖放、AI对话等简单操作，助您快速创建各类应用、网站与管理系统。无需编程知识，轻松实现个人生活、商业经营、企业管理多场景需求，大幅降低开发门槛，高效低成本。
- 957次使用
-
- 达医智影
- 达医智影，阿里巴巴达摩院医疗AI创新力作。全球率先利用平扫CT实现“一扫多筛”，仅一次CT扫描即可高效识别多种癌症、急症及慢病，为疾病早期发现提供智能、精准的AI影像早筛解决方案。
- 975次使用
-
- 智慧芽Eureka
- 智慧芽Eureka，专为技术创新打造的AI Agent平台。深度理解专利、研发、生物医药、材料、科创等复杂场景，通过专家级AI Agent精准执行任务，智能化工作流解放70%生产力，让您专注核心创新。
- 955次使用
