您的位置: 首页 >互联网 >

Kimi掀起大模型长文本之战(关于Kimi的简介)

2024-04-01 19:35:06 编辑:伊雅可 来源:
导读 近日月之暗面从一众AI大模型公司当中脱颖而出,打破人们对这一行业产品大同小异的刻板印象,Kimi掀起了大模型之间对于长文本生成以及处理的...

近日月之暗面从一众AI大模型公司当中脱颖而出,打破人们对这一行业产品大同小异的刻板印象,Kimi掀起了大模型之间对于长文本生成以及处理的技术竞争浪潮。在去年10月份,Kimi Chat就将上下文的窗口长度扩展到20万字,而当时Claude2-100k和OpenAI的GPT4-32K支持的最长文本分别为100K(约8万汉字)和32K(约2.5万汉字),存在较大的差距。

1.Kimi相比于其他大模型更加精准地命中了用户端的需求,大模型技术的规模化应用被刻画出了一条清晰的路径,堪称夸张的文本处理能力引来了大量的用户,Kimi日活用户从10万直接增长到百万量级。

2.由上下文窗口长度决定的长文本能力是指语言模型进行预测或者生成文本时,考虑到的前一个词元或者文本片段的大小范围,上下文窗口和模型智能水平、算力成本之间始终具有矛盾。

3.更广阔的上下文窗口空间意味着更高的模型只能水平,但是会导致计算需要的算力资源大幅度增加;缩小上下文窗口空间可以降低算力成本,但是模型的智能水平会受到影响,模型的理解能力下降,对用户来说,意味着体验有所下降。

4.月之暗面在这一竞争中的特殊之处在于更强大的上下文空间并没有影响模型的智能水平,这是在“无损”前提下进行的,不会以牺牲用户体验为代价。

5.从上下文窗口来看,Kimi在众多大模型厂商当中取得了突出的成绩,但这能否构成他们的核心壁垒,构筑起商业护城河,仍然有待商榷。在使用AI模型时足够的上下文窗口必不可少,但是厂商如何取得成本、性能以及用户体验之间的平衡,也是一个值得思考的课题。


免责声明:本文由用户上传,如有侵权请联系删除!

最新文章

精彩推荐

图文推荐

点击排行

2016-2022 All Rights Reserved.平安财经网.复制必究 联系QQ   备案号:

本站除标明“本站原创”外所有信息均转载自互联网 版权归原作者所有。

邮箱:toplearningteam#gmail.com (请将#换成@)