一个基督徒程序员视角下的ChatGPT | 吕岳东

文/吕岳东

最近火爆整个互联网的人工智能ChatGPT，自去年十一月底发布以来，每个月的活跃用户已超过1亿，每个人都跃跃欲试，想要试探它的智力，有人断言它将会取代google等搜索引擎，成为人们获得知识和探寻真相的必备工具，甚至有人开始担忧未来人工智能可能带来的可怕后果。

ChatGPT是基于GPT技术的一款人机问答工具。GPT （Generative Pre-trained Transformer）简称生成型预训练变换模型，这个技术简单而言，就是输入少量人工整理好的数据（注1），通过复杂的算法生成模型，在多次人工调教和自我训练后（深度学习, deep learning），成为一个适用于更广泛情况的模型。当这个技术被用在自然语言处理（NLP, natural language processing）领域的时候，大幅提高了语言生成的准确度。笔者在使用的过程中，发现它可以很好的“理解”上下文，语句非常自然连贯。它擅长回答知识性的提问，或者为你写演讲稿，甚至可以模仿某个人的语气改编一段话。可以说ChatGPT对人类语言的“理解”已经达到了惊人的水平。

本文试图从一个基督徒的视角谈谈ChatGPT可能带来的影响。但是要做到这一点，我们需要理解它的局限是什么（以及一些事实，见注2），才能知道什么情况下使用它是合理的（或者危险的）。为此笔者将通过几个实际案例来摸索ChatGPT的软肋，这些案例涉及逻辑、社会事件、圣经解释。（注3）

案例一：理解模糊逻辑之难

ChatGPT似乎可以很好地理解逻辑清晰的提问，但笔者发现，它不能理解较为模糊的逻辑关联，比如：“一只熊从约为10米的悬崖跌落地面用时2秒，熊是什么颜色？”。

ChatGPT最初否定坠落高度与颜色有相关性。笔者给出提示，重力加速度与地理位置相关，它表示这也许有关联，但不同种类的熊有不同颜色，不能确定。笔者继续追问如何计算重力加速度，它准确地给出了计算过程，可没想到计算结果有误。最后笔者展示了推导过程并用严谨的逻辑又问了一遍，它不但再次出现了计算错误，甚至根据错误计算推导出错误的地理位置，让人开始怀疑ChatGPT是不是在一本正经地胡说八道。

这个问题的趣味在于寻找重力和颜色之间的关联。由于地球不是标准的球体，重力加速度随着纬度增高而变大，随着高度增高而减少， 10m/s2的加速度最有可能是地球两级的重力加速度，由此可以得出结论熊是白色的北极熊。注意这个结论严格来说是不严谨的，但人类可以忽略这种不严谨，依然可以理解这个问题的用意。

笔者认为ChatGPT并不是真正理解语言所表达的意思，而只是根据大量数据所建立起来的模型去预测下一个最有可能出现的字词，从而把人类的语言理解力转变成了概率问题。尽管它可以理解简单直接的比喻、借代等修辞语句，但只要稍作变化就相形见绌。比如笔者询问乐于助人和好撒玛利亚人的比喻，它可以在二者之间建立关联，但当笔者提到“让犹太人接受撒玛利亚人比让他们穿过针眼还难”，它无法理解这之间的关联，反而着重解释骆驼穿过针眼的典故。这样的回答显然不是正常人类的反应。

人类的认知不仅仅涉及理性和逻辑，也包括丰富细腻的情感，和不可扼杀却被罪捆绑的自由意志。这些都可以在圣经的启示中找到：不仅有罗马书中的严密逻辑，但以理书关于七十个七（但9:24）的奥秘数学，也有福音书中耶稣用比喻所说的深刻教导，以及启示录中关乎未来的玄妙绝伦的预言。过去500年人文主义试图“封神理性”，当今的人工智能欲将人的理性和逻辑集大成，但是理性不是神，以“科学”为神是人类的巴别塔与愚昧的自负，康德以理性驱赶上帝，自然神论以自然神替代位格神，其结果就是个“冒牌上帝”，本质上是赝品。

案例二：裹挟着社会偏见

笔者的第二个问题是关于极具争议的George Floyd案。ChatGPT在简述中将争议的焦点指向权利和武力的滥用、司法究责和种族的议题，矛头直指警察系统。这基本符合主流媒体铺天盖地的报道。但笔者想要讨论的是Floyd的死因以及两份尸检报告为什么结论不一致。

ChatGPT虽然提到第一份报告死因是心脏骤停，第二份是脖颈按压造成的窒息，但它认为两份尸检报告结论相同，死因都是他杀，并强调两份尸检报告相互补充、支持。笔者继续问到为什么Floyd的家人要聘请私人尸检机构作第二次尸检？ChatGPT的回答简而言之就是不信任政府指派的法医，没有将暴力按压脖颈作为死因。它多次提及第二次尸检由知名的Michael Baden操刀。笔者继续追问两份尸检的最终结论到底是什么时，ChatGPT这才提到第一份尸检发现心脏骤停的原因可能是药物服用和吸入的冰毒（Meth），并又一次强调两份报告结论都是他杀，以及Baden是很有声望的法医病理学家。

但很显然这是两份截然不同的报告。ChatGPT在笔者的追问下承认之前的说法有误，也承认第二份尸检明确否定了死因是药物和冰毒，此时它的“态度”依然坚持认为两份报告在法庭上的作用类似。两份相互矛盾的报告是如何能被法庭采纳的呢？药物和冰毒致死的量刑绝对不会与脖颈压迫致死的量刑相同。笔者此时已经察觉到了ChatGPT所展现的偏见和似乎是刻意的隐瞒。

最后笔者分别提问两份尸检报告的法医是否有不良记录。ChatGPT提到第一份报告的法医没有什么过往的不良记录，除了这个报告本身引起了社会上的争论和质疑。而第二份报告的Baden在广为人知的辛普森案件中做过有争议证词（ChatGPT没有提到在结案后他又不承认自己的证词）。但根据笔者的调查，Baden用非常牵强的理由间接否定辛普森的犯罪动机，可以说就是作假证，但ChatGPT坚持认为只是有争议的证词并极力为Baden辩护。

笔者认为ChatGPT的偏见来自于训练时所使用的数据，换句话说，如果主流报道呈现出一致的偏见（有心的读者可以自行查阅主流媒体是如何轻描淡写或压根儿不提Baden在辛普森案上的作为），那么ChatGPT极有可能会继承这种偏见。笔者之所以能在对话中发现有偏见的措辞，是因为事先翻阅过相关资料，可以预见的是，一个不了解此案的读者很大可能会完全认同ChatGPT的描述，因为一个人很难质疑他所不熟悉的事情。从这一点来说，ChatGPT不应该取代搜索引擎。前者是代替人类思考，而后者作为工具由读者自行对搜索结果思考和过滤。

案例三：披着人本主义的圣经解释

ChatGPT能够较为准确地回答诸如“什么是福音”，“如何传福音”等问题（尽管笔者认为它的回答有回避对罪的认识的嫌疑）。它也能够准确的根据经文查找圣经中的出处，将经文还原为希伯来或希腊文。对于稍微敏感一点的问题诸如女牧师的圣经依据，ChatGPT模糊了牧师这个职分与教会领袖之间的界限，它的回答保持中立，乏善可陈。

笔者进而提问某些经文的含义，多数情况下ChatGPT能够较为准确地回答。但是当笔者追问经文中的某个字词在圣经其他地方的使用时，它有时候会给出匪夷所思的回答。比如在马太福音11:7节“他们走的时候，耶稣就对众人讲论约翰说：“你们从前出到旷野是要看什么呢？要看风吹动的芦苇吗？”，找出芦苇这个词在其它地方的应用。ChatGPT给出了以赛亚42:3、以西结29:6-7、马可福音15:19以及启示录11:1节，并且给出了这些经文的意思。但关于以西结29:6-7它是这么说的：

先知斥责埃及，说：“凡荡桨的和水手，并一切泛海掌舵的，都必下船登岸。他们必为你放声痛哭，把尘土撒在头上，在灰中打滚；又为你使头上光秃，用麻布束腰，号啕痛哭，苦苦悲哀。”在这节经文中，芦苇象征着船只，水手曾经依赖，但后来将要抛弃它们。

显然这段经文出自以西结27:29，并没有提到芦苇，内容是关于推罗的挽歌。 ChatGPT竟然把29:6-7中的芦苇嫁接到27:29，将两段不相关的经文融合在一起做出解释。笔者认为ChatGPT有可能将“荡桨的”误认为是“芦苇”，“荡桨的”在希伯来原文中的动词形式是抓住的意思，而“芦苇”有竿子的意思，难道它认为抓住竿子类似抓住桨？可翻遍圣经中芦苇作为竿子的经文，发现主要用于丈量尺寸，没有其他应用。笔者再次惊奇于ChatGPT一本正经胡说八道的能力。

接下来的内容有关婚姻教导。笔者先是询问在以西结10:19中“他们便应许必休他们的妻。他们因有罪，就献群中的一只公绵羊赎罪”，为什么与外邦人结婚被视为一种罪？ChatGPT提到与外邦人结婚会导致拜偶像等后果，但是作结论的时候，说这是与时代及旧约紧密相连的问题，并不适用于现代婚姻。笔者反问，为什么保罗在哥林多前书中劝导基督徒不要与非基督徒结婚？它首先回答了保罗是什么意思（基本正确），接着话锋一转，说：

值得注意的是，这些建议不是普遍禁止与非基督徒结婚，也不是要说非基督徒本质上是低等的（保罗并没有这个意思），不值得结婚。而是说，这些建议仅仅承认共同的信仰可以是成功婚姻的一个重要因素，特别对那些决定按照耶稣教导而行的夫妇来说更是如此。（最后这半句有点废话，都按耶稣教导而行了，怎么可能不是共同的信仰呢？）

注意括弧里的话是笔者加进去的。听起来好像没大毛病，但是仔细琢磨发现，ChatGPT的意思是成功的婚姻可以不必要有共同的信仰。但是保罗的意思是“得以殷勤服侍主，没有分心的事”，换句话说，保罗的重点是在基督，而不是婚姻。为了印证Chat GPT是不是这个想法，笔者问道：“你的意思是成功的婚姻可以是在基督徒与非基督徒之间？”ChatGPT回答：

是的，……（省略一些重复的废话），关键是这样的夫妇（基督徒与非基督徒）需要有坦诚的交流，尊重彼此的信仰，愿意克服可能面对的困难。

所以ChatGPT实际上是在用非圣经的观点来解释圣经，它认为靠着人的自我努力和反省就可以变得完美。然而一个严肃的基督徒必然在观点、行为和目的上与非基督徒有着无法调和的矛盾。笔者觉得并不稀奇，在案例二中我们已经指出，ChatGPT的“观点”来自于互联网上的大量数据，它不可能做出主流观点（或偏见）以外的结论。

结论

ChatGPT对语言本身有着很好的理解，可以预见的是，未来很可能会有大量跟语言相关的工作被ChatGPT取代（或提高效率），比如文本处理、文案编辑、知识或科普类新闻的撰稿等。笔者认为这未尝不是好事，因为能被替代的大凡都是没有创造力的工作。

笔者并不担心人工智能有朝一日会进化到拥有自我意识的超级智能体，进而控制、奴役人类。进化论的鼓吹者相信生物繁殖达到一定数量就会增加基因突变的概率，实现生物的进化跃迁。人工智能的盲目崇拜者也相信，当计算机的算力达到超级强大、数据超级庞大的时候，人工智能就会在某一天突变成为有自我意识的智能体。然而人不仅仅是血肉和生物电流组成的有机体，而是有灵的被造（创世纪2:7）。当上帝将生命的气息赋予被造的人时，人才能被称为有生命、有自我意识的个体。这个气息（或灵），机器无法创造。

奴役人的，终究只会是人类自己（启示录13:7, 18:3）。但在这一天到来之前，笔者更担心的是ChatGPT将成为人的日常应用，加剧信息的污染，最终影响基督徒的信仰生活。首先，ChatGPT很可能会取代google等搜索引擎。根据以上案例的分析，在某些具有争议的议题下ChatGPT会将主流的观点和偏见带入回答中（注意这里所说的偏见不是简单的种族、性别等偏见，而是人在各样社会事件中普遍会持有的偏见在文字中的表达，进而形成的主流观点），误导用户，虽然笔者认为不应该取代搜索引擎，但是不应该并不表示不会，事情的发展不总是优秀的替代拙劣的，而是常常发生劣质的驱逐优质的。其次，由于ChatGPT会放大主流的观点和偏见，我们可以预见到，随着ChatGPT相关技术、硬件门槛的降低，大量虚假和带有偏见的文章会充斥着整个互联网，必然会反噬、污染有效信息。而这会进一步加剧主流偏见走向更极端的方向，甚至整个社会的文化、信仰和道德水准被逐步瓦解。

很可能人无法完全阻止这样的进程。因为人是罪人（罗马书3:23），随心所欲，按照己意做认为对的事情（以弗所书2:1），心中没有良善（罗马书7:18-19），甚至以作恶为自豪（诗篇10:3）。若不通过启示的真理，人不可能通过理性和自我反省扭转走向深渊的结局，因此事情往往是顺着人的欲望发展。笔者不止一次地看到自媒体的主播趁着ChatGPT的火热不遗余力地鼓吹和造势，不过是为了流量和钱财。笔者所从事的行业中也有不少鼓吹者，表现自己的与时俱进、高瞻远瞩，终究不过是为了多赚两个铜板。

将来每个人都要独立地站在白色大宝座前，接受审判。神给了人独立的自由意志，因此每个人都要独立地在是非曲直面前做出判断，这既是高贵的尊严，也是沉甸甸的责任，无可推诿。把判断权交给机器可以说是愚昧、懒惰和不负责任的。从末世论意义上讲，人工智能实际上没有什么新鲜的，它无法替代我们面对基督的福音所包含的恩典和审判的双重意义。

笔者无法预见是否有朝一日基督徒对经文的解释和应用主要来自ChatGPT，那将是非常危险的。笔者不建议基督徒使用ChatGPT作为日常的解经工具，或者至少采取谨慎的态度和有限度的使用。但更重要的是持续的主日听道。“我的羊听我的声音，我也认识他们，他们也跟着我”（约翰福音10:27），基督徒不能不听牧者的声音。主也三次吩咐彼得“你牧养我的羊”（约翰福音21:16），牧师和传道既然奉主的差遣（约翰福音20:21），而信道是从听道而来（罗马书10:17），基督徒理应从牧师和传道那里得到牧养，用纯正的圣经观替代世俗小学，在真理上成长。

注1：研究人员训练GPT3的时候，雇佣了40个合同工标记模型生成的答案的准确度。

注2：一些事实。首先，ChatGPT不知道最近发生的热点事件，这是因为ChatGPT依赖研究者训练它时所使用的数据，它不能知道给定数据以外的知识。

其次，有很多人认为它的“进化”速度非常快，给人一个错觉，就好像它自己在通过跟人类的交流中不断自我进化变得更聪明。其实ChatGPT是预训练模型，一旦这个模型训练好了就不会再变了，我们跟它的交流只是这个模型的输入输出结果，不会造成这个模型的任何改变。这就是为什么不同的人问它同样的问题，得到的回答大概率也是类似的。所以与其说是进化，不如说是软件的迭代。

最近ChatGPT与图像生成的结合，让人觉得它的进化速度快的惊人，从语言一瞬间进化到了图像。其实人工智能在图像领域早就领先于语言处理，只是最近语言处理的突破才把二者结合起来。

注3：为了排除不同语言可能造成的影响，笔者的提问使用英文。