您的位置： 首页 >科技 >

MLC LLM：一款无需联网的开源人工智能聊天机器人

2023-05-03 10:05:20 编辑：农娴荷 来源：
导读 近日，一款名为MLC LLM的项目在GitHub上线，引起了不少关注。这个项目是一个无需联网的开源人工智能聊天机器人，能够在手机上运行。它的本

近日，一款名为MLC LLM的项目在GitHub上线，引起了不少关注。这个项目是一个无需联网的开源人工智能聊天机器人，能够在手机上运行。它的本质是一种通用解决方案，允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。这些模型在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。

该项目使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM。虽然效果不如GPT3.5或GPT4，但在大小方面比较占优势。目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。

MLC LLM的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。这些专家利用自己的技术和知识，开发了这个通用解决方案，可以让人们更轻松地使用自然语言处理和人工智能技术，同时也让这些技术更加普及和易于使用。

总的来说，MLC LLM是一款非常有潜力的开源项目，可以为人工智能技术的发展和普及做出贡献。它的出现不仅为人们提供了一种方便、快捷的聊天机器人应用，同时也为开发人员和科技爱好者提供了一个可探索的平台，让他们可以尝试各种模型和算法，并不断优化和改进。


标签： 无需联网
免责声明：本文由用户上传，如有侵权请联系删除！

猜你喜欢

最新文章

精彩推荐

图文推荐

点击排行

2016-2022 All Rights Reserved.平安财经网.复制必究 联系QQ   备案号：

本站除标明“本站原创”外所有信息均转载自互联网 版权归原作者所有。

邮箱：toplearningteam#gmail.com (请将#换成@)