关于人工智能的一些闲言碎语

因 ChatGPT 的「横空出世」，以及接入 GPT 接口的应用涌现，使得近日对人工智能的讨论大为爆发。

我也不能免俗，在这几天也加入了相关的讨论。在此整理近日于社交媒体之上刊登的一些观点，以飨读者。

谈态度

《皮尤调查显示人们对 AI 更可能感到担忧而不是兴奋》 皮尤研究中心（Pew Research Center）调查了 11,004 名美国成年人对周围产品使用 AI 的认识。这次调查是在去年 12 月进行的，当时 ChatGPT 还没有成为最热门的科技话题。调查发现，一个人受教育程度越高，或家庭收入越高，那么更有可能识别 AI。一个人使用互联网的次数越多，也越可能认识到 AI 的使用。在被调查的人中，约四分之一听过 AI，15% 从未听过。对于 AI 可能带来的隐患，38% 的人担忧多于兴奋，15% 的人兴奋多于担忧。人们对 AI 的了解越深入，那么他们就越可能兴奋不已。

——「奇点」网站报道，原文地址

对我来说，AI 既不令我兴奋，也不令我感到恐惧。我真正从 AI 里思考的一个问题是，在「自媒体」纷纷进行「工业化生产」的前提下，人的独特性、作品的独特性，究竟应该在哪一个方面体现出来；以及，实用和独特性是否真的完全是天秤的两端？

我觉得 GPT 的进步对所有人提出的一个问题是，创作对于你自己，究竟是什么东西？AI 现在已经向我们证明，它们可以不用将文字单纯地以通顺的方式拼合在一起（就像是「打字机猴子」那样，以「暴力破解」方式来撰写一本剧本），而是以现有信息重组整合来猜测可能性最高的排列。即便如此，我们很难将 AI 创作的东西归入到「创作」的范围。但人的「创作」和 AI 一样，会与你的经验、阅读和见识强相关，那么如何在创作里展现 AI 所无法展现的思考？这是每个 AI 奇点真正到来的时候，每个创作者都应该思考的课题。

谈人工智能的本质

其实 GPT 这事儿吧，我联想到的一个很有趣的事情是 Enigma 机和图灵机的斗争。

简单来说，二战期间德国弄出了一个叫 Enigma 的密码机，这个东西虽然本质上是一个（机械式的）凯撒密码加密算法，但是由于额外添加了很多层加密机制（包括密钥滚动和多层加密），导致初期几乎无人能破解由 Enigma 机器加密的德军情报。

起初，大家都是找的语言学家来尝试破解，最后图灵大骂你们这些破语言学家绝对搞不定，这事得靠数学家来做，把那帮语言学家气得够呛。

最后结果当然就是图灵是正确的——一个在数学上精密无比的图灵机成功摧毁了 Enigma 建立起的数学迷雾。

联想到这件事的原因是，AI 算法本质上就是一组高等数学方程组成的算法，人们似乎觉得，好像可以用一组高等数学方法参透语言和艺术的真谛。

谈翻译

基于 ChatGPT API 的文本翻译、文本润色、语法纠错 Bob 插件，让我们一起迎接不需要巴别塔的新时代！

——bob-plugin-openai-translator 项目简介，原文地址

千万不要去做「完全推倒巴别塔」的鬼梦。语言不仅仅是一个信息传递的工具；在使用过程中，语言永远会成为正文的 context 之一。这也是为什么「文学翻译」在很大程度上是一个几乎不可能被 AI 取代的领域之一，因为文学翻译本质上是一个再创作的过程。在《咆哮山庄》这个译名没有被提出的时候，AI 自己是没办法（以相同的思考路径）去提出这样的译名的。

谈人与人工智能

AI 可以拥有超越常人的见识，但是只有人才能超越见识。

谈逻辑学习与感受共情

「讨论大语言模型的局限性是非常困难的。因为两年前，很多人非常自信的评论大语言模型的局限性，现在这些语言模型完全不一样了…… 有一种说法是，这些模型只是去学习统计上的规律，所以它们并不真正理解世界的运作机制。我有不同的看法，我认为学习这些统计上的规律，比看上去要重要得多得多。…… 预测是一种压缩计算。预测也是一种统计现象。要预测，你最后本质还是需要理解生成那些数据的真正的底层机制。要能更好的预测，要能更好的压缩计算，你需要更好的理解生成这些数据的世界。当我们的生成式模型变得越来越好时，他们会拥有，我称为对世界的「令人震惊的理解力」（a shocking degree of understanding）和它的很多微妙之处。但这不仅仅是对于世界，这是从文字的棱镜来观察的世界。

——Ilya Sutskever，原文地址

「逻辑」本身与经验和知识相关，而它们本身又能以统计学方法（a.k.a. 大数据模型）观测和总结。因此这个说法在逻辑思维的养成上是成立的，一个智能体的确可以通过大量的总结和提炼来训练逻辑思维的形成。

但是「情感」本身不是。情感的产生机制极为复杂，一个完全没有接触过世界的婴儿也会对疼痛和不适造成负面情感，而不需要所谓的「训练」。再加上神经元 AI 模型虽然在设计上借鉴了大脑工作原理，但并不是完全与大脑的工作机制完全一致，所以以大量训练完成情感的演化的说法，在我看来并不成立。

谈创造

谈天吉皮提
博闻强识，对答如流

大型语言模型，可谓现在最时兴的模型。「谈天吉皮提」系开智公司的最新产品，可与君谈天说地。无论工商学政，俱无所不知。

时常用之，工作生活再无难题，办事格外有效率。

美国开智公司出品
免费试用，接口有售

——Celestial Phineas 创作的梗图，原文地址

ChatGPT 自己是「创作」不出来这些东西的——人类自己不好好说话、不好好创作，是没办法教电脑好好说话、好好画画的。