2016-2022 All Rights Reserved.平安财经网.复制必究 联系QQ 备案号：
本站除标明“本站原创”外所有信息均转载自互联网 版权归原作者所有。
邮箱：toplearningteam#gmail.com (请将#换成@)
Groq芯片的创新意义（关于Groq芯片的简介）
2024-03-04 14:37:22
编辑：郭园芝
来源：
导读 前一段时间Groq芯片每秒生成速度接近500tok/s，远超GPT-4 40tpk/s的计算能力引起人们关注。后来Groq被曝光他们的LPU芯片去掉了HBM，只依靠...
前一段时间Groq芯片每秒生成速度接近500tok/s，远超GPT-4 40tpk/s的计算能力引起人们关注。后来Groq被曝光他们的LPU芯片去掉了HBM，只依靠SRAM计算，引起了人们的质疑，不过Groq芯片也有其进步意义。
1.Groq极高的计算速度是建立在有限的单卡吞吐能力上面，这样的条件下想要达到和H100相同的吞吐量，就需要更多的芯片，这造成了实际上Groq的搭建成本并不低，甚至达成一定规模以后，单位投资下的收益远远不如H100。
2.Groq面向的是大模型推理场景，它是一款推理用的ASIC加速芯片，只能在特定的模型中使用，因此性价比并不算很高，在实际搭建过程中，可能要花费比使用英伟达芯片更高的投资。
3.Groq的LPU只能适用于Mixtral和Llama 2，其他的大模型公司想要使用Groq的产品，需要确定需求和规格，之后进行功能验证，最后生产出的产品才可以使用这一芯片。
4.LPU推理引擎是Groq创建的一种新型的端到端处理单元系统，能为具有顺序组件的计算密集型应用程序提供最快的推理能力。
5.Groq在可扩展计算架构方面做出了创新，相比于传统的GPU，这种芯片的编程模型更加简化，能够在计算当中体现出更高的响应速度和可靠的执行效率，它拥有许多个具有特色的组件，比如数据交换器、指令控制、SRAM内存等，这使其具备强大的计算能力与灵活性。
6.Groq的出现让人们看到了突破英伟达垄断地位的可能性，虽然它的使用范围相对来说收窄许多，却让人们看到了其他公司敢于对英伟达亮剑的精神和勇气。英伟达并不是大模型的唯一选择，现在其他公司也在研发新的芯片，尝试适用于其他的开发场景。
免责声明：本文由用户上传，如有侵权请联系删除！
猜你喜欢
- Groq芯片的创新意义（关于Groq芯片的简介）
- 吃到VR/AR红利的HTC正在准备做什么（关于HTC新动作的简介）
- 天涯社区发布“自救”计划（关于天涯社区自救的简介）
- 爱奇艺持续发力加大AI投入（关于爱奇艺动作的简介）
- 生成式人工智能短时难取代人类（关于人工智能的简介）
- MWC彰显中国AI力量（关于中国AI的简介）
- 俞永福卸任阿里本地生活集团董事长（关于俞永福的简介）
- 网易营收破千亿（关于网易营收的简介）
- 英伟达如何崛起为AI霸主（关于英伟达的简介）
- 蓝牙HiFi的时代可能快要结束（关于蓝牙HIFI的简介）
- Figure AI获贝索斯OpenAI等投资近7亿美元（关于Figure AI的简介）
- 优爱腾芒决战「喜剧」之巅（关于爱优腾芒竞争的简介）
最新文章
- Groq芯片的创新意义（关于Groq芯片的简介）
- 国际油价创近四个月新高（关于国际油价创新高的简介）
- 吃到VR/AR红利的HTC正在准备做什么（关于HTC新动作的简介）
- 雅诗兰黛“涨价”难以解决困境（关于雅诗兰黛的简介）
- 和府捞面上市AB面（关于和府捞面上市AB面的简介）
- 打赢9块9 瑞幸面临新战场（关于瑞幸9块9的简介）
- 天涯社区发布“自救”计划（关于天涯社区自救的简介）
- 长安汽车回应车辆出4S店自燃（关于车辆自燃的简介）
- 爱奇艺持续发力加大AI投入（关于爱奇艺动作的简介）
- 生成式人工智能短时难取代人类（关于人工智能的简介）
- 春秋创始人王正华交班（关于春秋创始人王正华的简介）
- 茶饮品牌开年激战（关于茶饮品牌开年激战的简介）
- G社镜头下的杨超越：黑色连衣裙搭配精致美瞳，令人目不转睛
- 韩国医生集体离岗引发危机，政府考虑吊销执照和逮捕调查
- 应用场景加速落地 AI助力投资焕新（关于AI助力投资焕新简介）
- 碳酸锂、尿素涨近4% 集运指数跌超7%（关于国内期货收盘的简介）
- 棉价跌回过年前 内外盘走势缘何分化（关于棉价 内外盘走势的简介）
- 美联储逆回购工具使用规模跌破5,000亿美元（关于美联储相关的简介）
- 美国PCE数据符合预期 黄金继续看多头延续（关于美黄金行情的简介）
- 苹果iOS17.4发布：开启AI时代新篇章
- 大学生网络游戏防沉迷：代表的呼声与网友的反馈
- 华中科技大学2024年保送录取优秀运动员名单发布：足球运动员韦世豪加盟引热议
- 马来西亚政府宣布恢复MH370失事航班搜索工作
- 老年人怎样吃水果（关于老年人怎样吃水果的简介）
精彩推荐
- 豪车相撞：苏州交通事故引发网友热议，涉及5000万元布加迪与宝马
- 男子商店购买“农药”饮料：店家拒赔，面临法律诉讼
- 【夏日清凉传统】探寻大暑三伏天的饮茶习俗和古老智慧
- 冷漠无助！女子高铁上被男孩烫伤，家长拒绝道歉引争议
- 男性防晒：21岁小伙因“撑伞羞耻”中度晒伤
- 【食客含蟑螂敲诈商家被拘】北京餐饮行业不良事件引关注
图文推荐
点击排行
- 1 G社镜头下的杨超越：黑色连衣裙搭配精致美瞳，令人目不转睛
- 2 韩国医生集体离岗引发危机，政府考虑吊销执照和逮捕调查
- 3 苹果iOS17.4发布：开启AI时代新篇章
- 4 大学生网络游戏防沉迷：代表的呼声与网友的反馈
- 5 华中科技大学2024年保送录取优秀运动员名单发布：足球运动员韦世豪加盟引热议
- 6 马来西亚政府宣布恢复MH370失事航班搜索工作
- 7 华语乐坛四位天王重聚：周杰伦、王力宏、林俊杰送花篮祝福陶喆
- 8 杨幂的极致气质：韩国摄影师镜头下的时尚魅力
- 9 梅西生涯联赛500球，创历史纪录
- 10 新规推动快递员业务量激增，社会各界关注影响及解决方案