2016-2022 All Rights Reserved.平安财经网.复制必究 联系QQ 备案号：
本站除标明“本站原创”外所有信息均转载自互联网 版权归原作者所有。
邮箱：toplearningteam#gmail.com (请将#换成@)
弱智吧成为大模型重要语料来源（关于大模型语料的简介）
2024-04-05 11:57:04
编辑：容波宜
来源：
导读 近日一篇人工智能领域的论文将百度贴吧的弱智吧推上风口浪尖，缺乏训练数据的AI大模型将目光投向了弱智吧，根据论文内容，使用弱智吧帖子标...
近日一篇人工智能领域的论文将百度贴吧的“弱智吧”推上风口浪尖，缺乏训练数据的AI大模型将目光投向了弱智吧，根据论文内容，使用弱智吧帖子标题加上GPT-4回答微调之后的Yi-34B模型评估结果超过精心收集的SFT指令集数据，在安全性评估方面也位于第二名。
1.最近大型语言模型取得了突出的进展，但是在中文指令调优方面仍然存在着一定的短板，现有的数据集基本上都是以英语为中心，或者与现实世界的中国用户交互模式存在差别。
2.为了改善LLM在中文语境下的能力，10家机构联合发布的研究提出了COIG-CQIA，这是一个中文指令调优数据集，数据来源包括问答社区、维基百科以及现有的NLP数据集。
3.这一研究成果提出了一个高质量的中文指令调优数据集，专门用于和人类交互保持一致，并且通过严格的过滤程序实现。
4.现在中文大模型的开发难点在于缺乏高质量的中文数据集，研究团队认为各种中文社交媒体以及论坛是大模型训练的最佳语料来源，为此开发者从许多社交平台中收集人工编写的文本集合，最终构建出了数据集。
5.在对来自不同平台的数据集进行评估时，开发者发现在多个比分当中，弱智吧提供的数据训练在分类表现中最好，对此进行微调之后的Yi-34B评测中，弱智吧的数据训练表现几乎在全领域中都拿到第一的成绩。
6.对于弱智吧数据集这样的结果，开发者也感到意外，人们认为是弱智吧的数据特性有助于增强模型的逻辑推理能力，使其在大多数遵循指令的任务中表现更加出色。弱智吧有许多语料看起来更像是脑筋急转弯，这能大大弥补大模型的逻辑能力。
免责声明：本文由用户上传，如有侵权请联系删除！
猜你喜欢
- 弱智吧成为大模型重要语料来源（关于大模型语料的简介）
- 大模型巨头“围剿”Kimi（关于围剿Kimi的简介）
- 中国首个AI程序员入职阿里云（关于AI程序员的简介）
- 腾讯抖音将AI社交方向转为AI伴侣（关于AI伴侣的简介）
- 淘宝直播全网“抢”人（关于淘宝抢人的简介）
- 搜狗没有留住最后的体面（关于搜狗的简介）
- 微信新游流水堪比《原神》（关于微信新游戏的简介）
- Suno V3可能会取代大部分音乐人（关于Suno V3的简介）
- 苹果开发出新款AI产品（关于苹果新款AI产品的简介）
- 网易游戏的爆款焦虑（关于网易游戏的简介）
- 抖音调整酒旅业务叫板携程（关于抖音酒旅业务的简介）
- 字节旗下Gauth下载量三个月暴增14倍（关于Gauth的简介）
最新文章
- 弱智吧成为大模型重要语料来源（关于大模型语料的简介）
- 小米汽车锁单4万台（关于小米汽车锁单4万台的简介）
- 大模型巨头“围剿”Kimi（关于围剿Kimi的简介）
- 预计清明小长假日均发送1500万人次（关于铁路运行的简介）
- 中国茶叶买家缓解尼印贸易争端（关于尼印贸易争端的简介）
- 浙江义乌发布楼市新政（关于楼市新政的简介）
- 中国首个AI程序员入职阿里云（关于AI程序员的简介）
- 小米SU7正式交付 大定超过10万单（关于小米汽车的简介）
- AI高速发展 全球电力跟的上吗（关于AI高速发展的简介）
- 台湾地震致电子代工厂机台停机（关于机台停机的简介）
- 中青旅去年扭亏为盈（关于中青旅控的简介）
- “王婆说媒”出圈背后（关于“王婆说媒”出圈背后的简介）
- 调和肝脾第一方（关于调和肝脾第一方的简介）
- 金、银为何狂飙（关于金、银为何狂飙的简介）
- 美股市场风格将改变（关于美股市场风格将改变的简介）
- 春季养肝的黄金时期（关于春季养肝的黄金时期的简介）
- 特斯拉计划投资145亿（关于特斯拉计划投资145亿的简介）
- 保护肝脏六个不要（关于保护肝脏六个不要的简介）
- 油价或将飙升至95美元（关于油价飙升至95美元的简介）
- 人有三瘾老有三戒（关于人有三瘾老有三戒的简介）
- 台积电损失6000万美元？（关于台积电损失6000万美元的简介）
- 9类食物降尿酸（关于9类食物降尿酸的简介）
- 苹果裁员背后的故事：汽车项目的搁置
- "专家揭秘：旅韩大熊猫‘福宝’入住成都的全程护理过程"
精彩推荐
- 豪车相撞：苏州交通事故引发网友热议，涉及5000万元布加迪与宝马
- 男子商店购买“农药”饮料：店家拒赔，面临法律诉讼
- 【夏日清凉传统】探寻大暑三伏天的饮茶习俗和古老智慧
- 冷漠无助！女子高铁上被男孩烫伤，家长拒绝道歉引争议
- 男性防晒：21岁小伙因“撑伞羞耻”中度晒伤
- 【食客含蟑螂敲诈商家被拘】北京餐饮行业不良事件引关注
图文推荐
点击排行
- 1 苹果裁员背后的故事：汽车项目的搁置
- 2 "专家揭秘：旅韩大熊猫‘福宝’入住成都的全程护理过程"
- 3 韩国大熊猫福宝抵成都，疑遭戳引发争议，官方回应解释全过程
- 4 球场永恒的守护：国安俱乐部誓为杨雪保留北看台座位
- 5 90后男子操控87个账户炒股，获利近亿
- 6 合理规范个人购买商品房放置骨灰盒行为，维护社会公共秩序
- 7 苹果App Store服务中断，部分用户无法连接
- 8 台湾花莲县海域7.3级地震：龟山岛断裂，宜兰县头城镇传出灾情
- 9 耶伦访华：深化美中经济合作的新里程碑
- 10 周杰伦感叹台湾花莲地震：晃得不得了，但我们平安！