据界面新闻 6 月 27 日报道,原粒半导体创始人兼 CEO 方绍峡在接受采访时表示,大模型的爆发首先带动的是训练,算力需求目前最紧俏也是这部分,英伟达目前在训练一侧是绝对的霸主。但当大模型训出来后,开放 API 响应广大网友们每天的各种请求,推理的算力价值就会被浮出水面。 方绍峡还表示,与云计算的数据中心架构相比,大模型在边缘端的智能计算是在一个已经训练好、有基本智能水平的模型基础上。当边缘端具备多模态大模型的离线学习进化能力时,本地模型将变成私人定制化的东西,数据也无需再往云端上传。这部分推理与训练微调过程主要依赖边缘多模态大模型 AI 算力。 据悉,原粒半导体是一家 AI Chiplet 供应商,公司正式成立于今年 4 月,创始团队来自国际半导体巨头,在 AI 芯片领域深耕多年。该公司目标是通过结合创新的多模态 AI 处理器技术与 Chiplet 设计方法,提供高能效、低成本的通用 AI Chiplet 组件。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)