我对AI味儿的理解是，它是一种让人难以忍受的平庸。 AI写出来的文本之所以会被我们辨认出来，就是因为AI不分场合地使用一些套路模版。这种写作方式，其实我们小时候也被训练过，那就是背范文，然后在考试的时候把作文题往范文上生拉硬凑。稍微好一点的会模仿范文的行文结构，最好的是理解了范文哪里写得好以及为什么写得好，然后再泛化。但是写得好的永远是少数。多数学生在经过这种训练以后，写出来的都是生搬硬套的垃圾。这就是一种平庸。平庸是一种存在的结构。它弥漫在所有地方，不因环境的不同而改变。 所以在AI时代之前，互联网上其实也同样有类似于今天的AI泔水的文章和视频。这些垃圾的生产效率就是会比精品高。写作者也通常会不合时宜地套用一些能吸引人眼球的写作套路。可以想见，当选取模型训练语料的时候，首先考虑的肯定是量是否足够，然后才会在乎质。而且在乎质，评价的维度也不会以文章的质量为首，而是会以文章的被接受程度为首，否则一是标准主观，无法量化，训练数据的标注工作将会过于沉重，以至于只有少数人员能胜任，那么模型的推出就会遥遥无期。二是文章会过少，甚至在分训练集和测试集以后，训练数据会过少，直接让训练无法开始。 因此，我们能从AI泔水中品到的其实是前AI时代的劣质“爆款”文案。就是那种，一个文案火了以后，大家都来照抄照搬，但又很机械很教条地抄的感觉。时至今日，仍然有这种尝试。各种公域自动化运营工具，就试图抓爆款然后用AI拆解，接着让AI复刻。 那么用来训练AI的语料，必然会被这种前AI时代的泔水污染。随着大模型竞争越来越激烈，现在也可以看到数据标注产业的变化，那就是越来越多大厂会请各行各业的专业人士标注语料，提供更高质量的语料，而不是用廉价的互联网语料硬堆来短期内满足资本下达的ddl。 所有这些现象都指向一处，那就是平庸。这就是我们从AI泔水那里品到的味道。AI一定会用最省力的方式造句，也就是套模版。我在GPT3时代用AI写例句编例题。那会儿就已经感受到了AI的教条。让AI用一个词造十个句子，十个有九个都是一模一样的句式，只把个别词换了。在今天这种问题得到了一定程度的缓解，但依然存在。我依然需要用之前提到过的随机词池法来规避这个问题。但这样就需要发送多次请求。造多少句子就要多少次请求。 归根结底，AI的平庸正是平庸这个统计学现象在人间的缩影。只要llm的本质不变，这种平庸就无法根除。即使训练语料全是由最优秀的文字组成，它依然会像一个背了许多范文却审美拙劣的学生一样，把任何全新的话题用已有的模式生搬硬套进去，产出一篇平庸的文章。只是如果内容的消费者也一样平庸，那AI的产出就是合格的。没吃过细糠，自然不会挑食。 如果真发现AI产出了惊为天人的文章，那只能说明提示词里的想法早已有人在地球的某个角落用更好的文字表达过，只是使用者不知道而已。