作家｜苗正

淌若让你在互联网上给大模子选一册汉文课本，你会去那里取材？是知乎，是豆瓣，也曾微博？一个决议团队为了构建高质地的汉文辅导微调数据集，对这些外交媒体进行了测试，想找到教练大模子最佳的汉文意料，恶果谜底保证让你大跌眼镜——

弱智吧。

弱智吧是百度贴吧上的一个子版本，这是一个相当神奇的场地，吧友们热衷于创作和共享指桑骂槐、一词多义、因果畸形、谐音梗等带着逻辑罗网的骨子，况且部分帖子以致带有一定的形而上学意味。关联词，拿这些东西教练全知万能伟大的大模子？能行吗。

别急，咱们先来望望这个决议团队作念了什么实验。

这是一篇题为《COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning》的论文，作家来自多个国表里高校，通俗来说，他们淡薄了一个汉文辅导微调数据集COIG-CQIA（全称为Chinese Open Instruction Generalist-Quality Is All You Need ）。

关于汉文大模子成就者来说，刻下的一个要点挑战就在于莫得一个高质地汉文数据集，决议团队觉得，种种汉文外交媒体、论坛关于大模子的教练应该是很好的语料来源。

于是为了给这个数据集取材，他们从不同的外交平台（如问答社区、维基百科、窥伺材料、已有的 NLP 数据集等）网罗了高质地的东说念主工编写的文本靠拢，这些文本过程严格筛选和雅致处理，最终才构建出了这个数据集。

论文称，这个数据集的野心是构建一个种种化、庸碌的做事于汉文大模子的辅导调优数据集，以更好地使模子行为在汉文环境下与东说念主类互动相一致，普及辅导反应的智商。

这里也科普一个认识，那即是大模子诚然有弘大的常识储备，关联词它是为惩处通用当然说话处理任务而遐想的，因此莫得主义处理特定问题。此时，就需要对其进行“微调”，来让其输出恶果适宜特定问题的预期。而辅导微调即是诠释确了模子应实验的任务类型、输入条目、输出顺次等具体细节情况下，再给出正确的恶果。比如我用汉文发问，并条目模子用西班牙语薪金，那么模子的成就者为了知足我后半句话的条目，就得对模子进行辅导微调。

这时就需要一个“辅导微调数据集”。这类数据集雷同包含无数的“辅导-输出”对，其中每个对包括一个明确的辅导（instruction），即用户但愿模子实验的任务诠释，以及与之对应的遐想输出（output），即模子在剿袭到该辅导后应当生成或实验的恶果。

COIG-CQIA即是这样一个数据集。决议团队开始是对数据集进行了严格的筛选和清洗，确保数据集是相比健康的。具体作念法是字据预设的筛选尺度，去除无关或低质地的文本。这可能包括删除告白、无好奇的灌水骨子、含有明锐信息或违背社区限定的帖子等。

之后，团队还作念了东说念主工骚扰：对处理后的文本进行东说念主工审核，确保其骨子正确无误，适宜预期的语义和常识尺度，股票投资同期也确保数据集与真实的汉文用户交互格式相一致。尤其是在一些诸如弱智吧语录这样深层隐喻相比强，模子基本没主义饱和交融汇注到的段子的含义，那就需要进行东说念主工标注，提供明确的辅导-输出示例，为模子微调提供精准的教练信号。

在作念罢了整理责任后，决议团队使用COIG-CQIA数据集对多个开源汉文大模子作念了微调。

而为了评估这些不同来源的数据质地，团队分别用不同的外交网站的数据微调了并吞个模子，并作念了测试。

在论文展示的对微调后的Yi系列模子的评估证据中，神奇的一幕出现。

在Yi-6B的性能对比中，在多个比分中（敞开式问答，头脑风暴，分类问题，生成问题，紧闭式问答和编程），用弱智吧的数据教练的模子表刻下多个分类中证据是最佳的。

而对微调后的Yi-34B的评测中，基于弱智吧数据教练出来的证据，更是径直拿了险些一起范围的第一，笼统评分遥遥率先。

除了性能外，COIG-CQIA还对其安全性能进行测试了，使用的是开源评估框架SafetyBench。不错看到，CQIA-Sub-6B的SafetyBench高达81.7，比GPT 3.5的SafetyBench还高。这样高的评分代表COIG-CQIA概况准确识别风险，并分歧出含有无益信息、潜在非法骨子、秘籍明锐信息、误导性建议等不安全选项，遴选出最适宜安全原则的谜底。换句话说，其具备一定的贸易化后劲。

而其中，弱智吧的证据又亮了。出奇了GPT3.5 。

论文里也对此感到诧异，作家尝试作念了分析：“挑升念念的是，弱智吧数据集在多个子集上的平均名次中最终位居第二，咱们觉得这可能是因为弱智吧的数据特质有助于增强模子的逻辑推贤人商，从而在大多数遵照辅导的任务中证据出色。”

在看完这篇论文后，我又去弱智吧看了看这些天才般的语料，这是有东说念主整理的一部分弱智吧经典语录：

玉皇大帝住的是平流层()也曾对流层？

导盲犬退却入内，是给盲东说念主看的，也曾给导盲犬看的？

空心能吃饭吗？

变形金刚买保障是买车险也曾东说念主险？

我买了一斤藕，为什么半斤齐是空的？

雷公电母放的是直流电也曾疏通电？

每天吃一粒伤风药，还会伤风吗？

求教妊妇打东说念主算群殴吗？

去自首的路上被捏了还算自首吗？

吃麻醉剂去打架，算开挂吗？

被门夹过的核桃，还能补脑吗？

计划到大模子最欠缺的即是逻辑智商，看来这些更像脑筋急转弯的问答照实是大说话模子的好语料。

而在弱智吧最近的首页上，一个名次靠前的帖子也很应景：

“什么责任齐可能会被东说念主工智能取代，但弱智不会。”

确实，有好奇呢。

• 汉文
• 互联
• 最佳
• 网上
• 猜测