洋仔

前面的小文，简单介绍了下这一轮AI的发展历程。这一轮AI，本质上是深度学习技术的再次突破。但事实上，深度学习的技术突破，已经带来了三轮AI的热潮。 第一轮AI热潮，是深度学习技术在2012年左右的突破，让大家都认为AI的春天来了，于是冒出了一堆AI类公司。但最终的结果，是那一轮AI，最终收敛到了语音领域。那时候，最大的一个AI风口，是各种智能音响。其中亚马逊的 Amazon Echo（对应的语音助手叫 Alexa），是声量最大的。当时，我们为了做语音助手，也买过一堆智能音响。直到现在，我家还有一个当时的遗存：喜马拉雅的智能音响。 但是好景不长，热过一阵后，大家就兴趣寡然了。因为效果实在是差强人意。人们希望的是，对Amazon Echo说，帮我买个东西吧，东西就直接送到家里了。但实际结果是，多次交互的效果太差，还不如用户直接拿出手机买来得更快。 第二轮AI热潮，则是深度学习在人像识别领域的突破。然后人们认为，AI的春天终于来了。资本迅速的炒出了商汤、旷视、依图等AI 4小龙。结果这一轮AI，最后又收缩到人脸识别领域了。后来，AI 44小龙被称为AI 4小骗。 然后就是这一轮AI热潮，以transformer架构为核心的新一轮大语言模型，真正有机会实现第一轮人们曾经梦想的那个场景：对AI说，帮我买个东西吧，然后东西就送到家里了。 那么这一轮AI会不会最终又收缩到某些特定领域，还是最终实现AGI？反正越来越多的人，都认为这一轮AI和前两轮都不一样，这一轮AI是有机会实现AGI的。

特斯拉那个会飞的汽车，居然过了两三天才风评反转，这太奇怪了。 我觉得只要稍微有点分辨能力的人，看到那车，当场的反应应该都是：确实很惊艳，但是没啥用。有个成语叫做华而不实。特斯拉这车，不就完美的诠释了这个成语吗？大家对这个成语很陌生吗？结果大家居然要反应两三天？ 现在造车，就锚定两个价值。要么出行：怎么样更快更舒适更便宜的出行；要么娱乐：可以在车里玩得更愉快更开心。现在国人造车，都在向这两个方向极致迭代。油车换单车，包括超快充等，是出行向的。而所谓冰箱彩电大沙发，目标则是打造更好的座舱，目标指向更好的娱乐。智界G9搞的那个车顶帐篷，把娱乐这个方向，又向前推进了一大步。 所谓飞行汽车，也必须在这两个方向找锚点。而特斯拉这车的问题，恰恰就是没有在任何一个点上，产生价值。说出行吧，它没法真的在路上飞起来。甚至遇到堵车，都不见得能让它飞过去。说娱乐吧，在玩意儿没法长时间空中停留，娱乐场景及其狭窄。 其实，有一款飞行汽车，我是特别的看好，就是小鹏旗下的飞行汽车——陆地航母。它的价值是娱乐。它自身携带的飞机，可以飞行几十分钟。这就很有趣了。影石的影翎无人机之所以能卖爆，第一次有厂商在无人机领域给到了大疆压力，唯一的原因，就是那种从高空沉浸式俯视大地的视角，确实让人很心旷神怡——从飞机座舱看大地的感觉，我想很多人都喜欢。而这，就是陆地航母那飞行汽车的娱乐价值了。 所以即使它还没上市，就以高达200多万元的售价，预售了将近一万辆。这是多少国内车厂梦寐以求的售价及销量。 所以特斯拉这车，既没出行价值又没娱乐价值，结果几乎所有人一边倒在感叹，我就觉得很奇怪。不过，这倒也不奇怪。因为它是特斯拉，所以它无论做什么，都是最好的。毕竟即使特斯拉的车是毛坯房，也能每月占据销量榜。 这是大众的思维方式，也是企业可以操纵、利用的大众心理策略。

其二：正是因为中国搞了工业化，才能在二十一世纪初加入的WTO后，迅速参与世界大消费循环，才能迅速脱贫。 这个观点，应该是几乎绝大多数人，都赞成的。我也赞成，只不过它有点片面。 中国几十亿人。单纯靠工业化，无法拉动这几十亿人。 真正让中国这么巨大的国家脱贫的，其实是三件事同时发生：工业化、城市化、信息化。 工业化，对很多人来说，就是到工厂里打工挣钱。这成就了无数的外贸工厂。我身边在工厂打工的朋友不少。我也去过。 城市化，对很多人来说，就是到工地上打工挣钱。这成就了恒大融创等企业。我身边在工地上上班的人不少，我居然也去过。 信息化，对很多人来说，就是到互联网公司打工挣钱。这成就了华为百度腾讯等企业。我身边在互联网公司上班的人不少，我竟然还去过。 这三波人，各打各的工，各挣各的钱，最终把中国拉出了贫困国家之列。 缺了任何一群人，这个国家都会面临巨大的困境。日本人缺了信息化，强大的工业化国家，现在也一瘸一拐的。 美国人现在抛弃了工业化，只剩信息化了，也被迫和中国说G2分天下。 印度没有城市化，基建稀烂，几十亿人口都没有找到出路。 换个角度来说，作为个体，你选择哪个领域生存？那就要看清楚，这个领域接下来的走势是什么。 譬如至少在工业化领域，中国几乎算是最后一波工业化立国的国家。中国之后，这种可能性几乎不存在了。类似于越南，想靠工业化立足，唯一的原因，仅仅是美国人为设置交易障碍。如果美国不设置这样的障碍，那几乎可以肯定，工业化没越南啥事。

最近和胖友们聊天，发现有些普遍的错误。 简单整理下这些错误，避免大家再犯。 其一：从南到北，整个国庆都在下雨，雨水越来越多了。 西北暖湿来临，根据历史经验，国家必将重回汉唐盛世。 这个说法现在应该是非常流行的。但其实还真不对。 国家强大，无非就是有钱有人。古代以农业立足，雨水多农业收好，能养活很多人。杜甫说，忆昔开元全盛日，小邑犹藏万家室。这种情况下，老百姓敢生，人也多钱也多。所以国家当然就强盛了。 但当今世界，还能套用这套公式吗？不能了。这属于典型的，用上一代的思维，来看待这一代的事物。 因为至少在中国，当前是以工业立国，不靠农业。所以雨水多农业收成好，对中国的影响是有限的。至于说人口嘛，古代收成和人口成正比，今天收成和人口恰恰成反比。 所以现在的真实情况是，无论西北是否暖流来袭，国家越来越富，人口越来越少。因此其结果，必然是中短期越来越强大（越来越富），长久来看必然衰落（人越来越少）。

使用AI，最重要的是输入。而输入的核心，就是提示词。因此我们说，使用AI最重要的事，就是对提示词进行优化。小学生般的提示词输入，就得到小学生般的答案。专家级的提示词输入，就得到专家级的答案。 AI的逻辑，是预测下一个词（token）。预测的方式，是基于神经网络算概率。你说一个吃字，它算下吃这个字的后面，再吐出哪个字的概率更高。 AI的训练，是用全人类的文本去做训练，所以它的知识很丰富。任何一个词，站在全人类所有文本的角度来说，它的后面都会有无数个字。吃字的后面可以是吃饭，可以是吃冰淇淋，可以是吃屎，也可以是吃不下……在训练模型的海量文本里，吃字的后面有这么多候选字。那到底该出哪一个？就用条件概率去算，把那些最高概率的词算出来，然后选一个给到你（也就是所谓的采样策略）。 所以任何问题给到AI，它都一定有答案，因为模型总是会生成出文本。所以AI不存在像人类一样，对于不会的问题，就无法回答的情况。本质上就是对于人类千百年来的无数文本来说，任何一个字后面，都一定能找到一堆词可以接上去。 这一轮AI的底层技术，是Transformer。这个技术有两个特点：第一，会把所有的输入都进行一轮计算，计算各个字之间的相关性。第二，会把每个词的位置作为计算参考。这两点合起来，也就是所谓的注意力机制。相关性越强、位置越近，注意力就越高。 而算概率，就是把所有的输入作为条件，进行计算。算什么呢？算相似度。AI会把我们的所有输入，都进行词嵌入处理，也就是变成向量。大家应该听说过向量这个词，向量就是带大小和方向的量。 如何表示词和词的相似度呢？就是计算向量间的相似度，也即计算向量间的夹角。夹角越小，相似度就越高，那就越相似。譬如土豆和洋芋，这两个词构成的向量，它们的夹角很小，就认为这两个词很相似。 那如何算得更准？这就得靠提示词了。没有提示词，那就只能随便说。有了提示词，就会把提示词作为输入，进行计算。你问土豆相关的问题，提示词说它是美食家，那么它计算下一个词的时候，就会向美食家这个方向去靠。因为将美食家这个输入纳入计算后，那么下一个词吐出与美食家这个词相关的词的概率，会比吐出医学这个词相关的词的概率要高——还记得我们上面说的注意力么。AI吐出的每个词（也就是AI的答案），都会是与你输入的提示词的注意力更高的词。 这就是要优化提示词的作用：让模型吐出的词，最大概率来满足你的专业需求。因为你输入的每个字，都在改变模型吐出的字的概率，都在影响整个注意力。所以不要随便写提示词，而要写你最希望得到的答案相关的提示词。 我们说AI有幻觉。看了上面的介绍，大家应该也就理解了AI幻觉的本质：AI并不是基于事实，而是基于自己学到的庞杂且巨大的信息量（也就是所谓的参数），来计算概率，从而回答人们的问题。而AI学到的这些庞杂的信息，真假难辨，但AI并不会去做真实性的校验。反正概率高，就吐给你了。至于真假如何、正确与否，是否符合事实，这不是AI所关心的事。所以，这就是你自己要去确认的事。 那么如何减少幻觉，其实做法也就很简单了：不要让它简单的基于自己那庞大的信息量去计算概率，而要让它把参考内容作为上下文的条件，让生成要锚定在这些材料上计算概率。这就是通过RAG来降低AI幻觉的本质。