新闻动态
公司动态
行业新闻
技术知识
解决方案
锂电行业
汽车与零部件行业
平板显示行业
3C电子行业
烟草行业
电商物流行业
家电行业
食品饮料行业
家居行业
医药行业
鞋服行业
石油化工行业
其他行业
产品中心
移动机器人
新能源专用移动机器人
潜伏牵引式移动机器人
潜伏举升式移动机器人
背负移载式移动机器人
搬运式智能叉车机器人
CCM-定制系列
CCS-充电站系列
软件产品
智能控制系统
智能仓储管理系统
AI算法
服务支持
品质服务
服务内容
关于188bet金宝搏
公司简介
资质荣誉
联系我们
加入我们
合作夥伴
188bet金宝搏官网
188bet亚洲真人体育下载网址
在华为旗下的学术平台“黄大年茶思屋”上ღღღ,有技术专家甚至指出188bet金宝搏官网登录ღღღ,该模型的核心构件视觉encoder的高效解码188bet金宝搏官网登录ღღღ,为光计算和量子计算在LLM(注ღღღ:大语言模型)领域的引入提供了明确的技术路径188bet金宝搏官网登录ღღღ。
10月29日ღღღ,图灵量子相关负责人在接受21世纪经济报道记者采访时表示ღღღ,DeepSeek-OCR技术能更有效地将光计算高并行性和低功耗优势发挥出来ღღღ,相信很快便会有光计算芯片结合大模型的应用出现污到你那里滴水不止的长文ღღღ。
一直以来ღღღ,上下文的长度是困扰大模型性能的重要瓶颈ღღღ。比如ღღღ,上下文窗口过小ღღღ,会导致模型无法一次性阅读用户之前的输入信息(比如文章)ღღღ,影响推理的准确性ღღღ。
针对这个痛点ღღღ,业内提出了稀疏注意力ღღღ、检索增强生成等多种技术来应对ღღღ。这一次ღღღ,DeepSeek首次提出“上下文光学压缩”(Contexts Optical Compression)技术ღღღ,通过将文本作为图像来处理ღღღ,实现信息的高效压缩ღღღ,理论上甚至可以实现无限上下文ღღღ。
黄大年茶思屋上的技术专家乔楠认为ღღღ,DeepSeek此次推出的新模型ღღღ,本质是模拟人脑的遗忘机制ღღღ。
简单而言ღღღ,通过将文本作为图像处理ღღღ,可以实现7—20倍的token压缩ღღღ。以一页文本为例ღღღ,通常需要2000—5000个文本tokensღღღ,转换为图像后仅需200—400个视觉tokensღღღ。10倍压缩时保持97%的解码精度ღღღ,20倍压缩时仍有60%精度ღღღ。而这是实现LLM Memory遗忘机制的关键点ღღღ。
在乔楠看来ღღღ,通过将多轮对话中的历史上下文渲染成图像ღღღ,LLM可以像人一样遗忘ღღღ。比如近期的对话(如k轮内)保持高分辨率的文本形态ღღღ;而更早的历史(k轮外)则被压缩成图像ღღღ。随着时间推移ღღღ,这些“记忆图像”可以被逐步降采样或缩小(变得更模糊)ღღღ,从而占用更少的Tokenღღღ,模拟人类记忆中“近期信息高保真ღღღ、远期信息自然褪去”的生物遗忘曲线污到你那里滴水不止的长文ღღღ。
上述图灵量子负责人也表示ღღღ,“DeepSeek-OCR技术将文本渲染为图像后作为视觉信息处理ღღღ,大幅降低数据分割和组装的操作次数188bet金宝搏官网登录ღღღ,从而降低整体计算负荷ღღღ。这种数据的编码机制ღღღ,降低了对后端计算硬件(无论是电芯片还是光芯片)在规模和精度上的直接压力ღღღ。”
进一步ღღღ,针对光计算188bet金宝搏官网登录ღღღ,该负责人认为ღღღ,“(此模型)同样也可以减少光电转化的次数ღღღ,从而能更有效地将光计算高并行性和低功耗优势发挥出来ღღღ,相信很快便会有光计算芯片结合大模型的应用出现ღღღ。”
通过将文本问题转化为图像问题ღღღ,DeepSeek的OCR技术有可能为光计算芯片进入大语言模型铺平道路ღღღ。
光计算芯片被誉为“后摩尔时代”的潜力技术ღღღ,它利用光速传输ღღღ、高并行性和低功耗的特性污到你那里滴水不止的长文ღღღ,为AI等计算密集型任务提供了新可能ღღღ。
乔楠认为ღღღ,光计算的核心优势之一是能以极高速度和极低功耗执行特定计算ღღღ,如图形处理中常见的傅里叶变换和大规模并行处理188bet金宝搏官网登录ღღღ。以前引入光计算最大的问题是序列的上下文太长了污到你那里滴水不止的长文ღღღ,光芯片没办法做太大ღღღ,现在DeepSeek-OCR提出了光学编码的原生机制ღღღ,这解决了引入光芯片的最大问题ღღღ。
在乔楠的构想中ღღღ,DeepSeek-OCR的DeepEncoder(视觉编码器)部分ღღღ,会成为一个非常适合由光学协处理器来执行的模块188bet金宝搏官网登录ღღღ。但文本解码(Decoder部分)仍由电子芯片(GPU/NPU)处理ღღღ。另外记忆的压缩(文本-图像-视觉Token)则可以完全交给光计算芯片ღღღ,实现最优分工ღღღ。
前述图灵量子负责人就表示ღღღ,光芯片目前主要还有两个问题需要解决ღღღ,一是先进光电融合封装ღღღ,使光源ღღღ,芯片和探测器件高效集成在芯片上ღღღ,并确保它们与电子控制单元稳定协作ღღღ,这是发挥出光计算优势的集成污到你那里滴水不止的长文ღღღ。其次整个光计算的软件生态还不够用成熟污到你那里滴水不止的长文ღღღ,致使大规模开发和优化光计算应用仍存在挑战ღღღ。
据了解ღღღ,国内主要参与者有曦智科技ღღღ,图灵量子ღღღ,光本位等公司ღღღ,国外有Lightmatterღღღ,Lumai污到你那里滴水不止的长文ღღღ,Cerebras Systems等厂家ღღღ。
其中ღღღ,图灵量子一直围绕薄膜铌酸锂(FTLN)开展各方面的研究ღღღ,具备从设计ღღღ,版图ღღღ,流片ღღღ,测试和封装全流程能力ღღღ,经过多年的技术迭代和优化ღღღ,已在TFLN产品方面已取得规模化量产ღღღ。
图灵量子负责人坦言ღღღ,“光计算芯片已经驶入了产业化的早期车道188bet金宝搏官网登录ღღღ,但距离在数据中心里与GPU同台竞技ღღღ,可能还需要3—5年的时间来攻克工程ღღღ、成本和生态的难题ღღღ。”金宝搏188ღღღ,金宝搏188官网appღღღ。188bet金宝搏·中国官网ღღღ,deepseekღღღ,金宝搏188官网app网址ღღღ,188bet金宝搏官网登录ღღღ。