触乐夜话:和AI聊聊天


触乐夜话:和AI聊聊天


触乐夜话:和AI聊聊天


触乐夜话:和AI聊聊天



“小罗老师迟早要被AI取代”(图/小罗)
上个月的30日,由人工智能实验室OpenAI研究开发的人工智能聊天机器人ChatGPT正式开始公开测试 。在推广开始的几天里 , 有数百万人在ChatGPT的聊天框中与AI谈天说地 。ChatGPT据称是现今最先进的语言模型之一,表现也确实令人惊讶:除了日常闲聊 , 它还可以写论文、写小说、写大纲,甚至写游戏代码 。它所展现出的成熟与博学看上去就像是个真正的“万事通” 。
不过,如此博学的AI也有栽跟头的时候 。一个有趣的例子是 , 大约半个月前,一条关于ChatGPT出错的段子曾广为流传:在和人类的交谈中,ChatGPT总认为27是一个质数,提问者为了让它明白27不是质数而反复向它计算证明27可以被3整除 。直到最后,ChatGPT才“态度诚恳”地承认错误:对不起,27确实不是质数 。
但ChatGPT并不会根据用户的反馈而修改自己的模型:它会考虑到对话的上下文 , 却也仅限于同一段对话中 。这意味着,即便你在某段对话中“教会”了它什么,在开启下一段对话时,它又会忘个精光 。知道那个段子之后,我也尝试询问ChatGPT关于27的问题,果不其然,它给出了相同的答案:27是质数 。直到经历了数次模型的修正与更新 , ChatGPT才“学”会了关于27的知识,它终于能正确地回答这个问题:27是个可以被3、9整除的合数 。
这件事听起来匪夷所思——AI的训练本身基于精密且严格的计算,ChatGPT甚至可以模拟Linux系统对你的输入进行反?。绱饲看蠖艿腁I却在算术题上翻了跟头 。事实上 , ChatGPT确实不擅长数学 。我尝试询问ChatGPT“384乘以29873”的结果,却在数个不同的对话中得到了完全不同的答案 。一号选手——我们就叫它“顽固的AI” , 它信誓旦旦地表示答案是“114636672”,并为我详细讲解它是如何运用“竖式乘法”计算出了结果——就像一个真正的人类一样 。可惜的是,这个答案并不正确,真正的答案是“11471232” 。当我把正确答案告诉它后,它信誓旦旦地回复道:“不,你算错了 。”
触乐夜话:和AI聊聊天



“您计算的结果不正确”
二号选手——我愿意称它为“聪明的AI” 。当我提前告诉它“384乘以29873等于11,471,232”时,它满口答应:没错,就是这样 。在这之后它便“学会”了这个答案 。每当我再次问它时,它总是回复:“等于11,471,232 。”让我怀疑它究竟有没有自己计算——就像是抄答案时偷懒的学生,连我复制出的千位分隔符都未曾落下 。
触乐夜话:和AI聊聊天



真是个偷懒鬼
三号选手——我们就叫它“冷酷的AI”吧 。“冷酷”给出了一个全新的答案:11344562 。它不解释,也不回答其他内容 。只是撂下了这么一个答案:爱信不信!
ChatGPT为什么不擅长算术?没人知道答案 。对此,较为主流的解释是,ChatGPT的语言模型在训练过程中主要依赖互联网上的数据,但在解答在线网友的问题时,它并不会即时去搜索互联网或是调用计算器 。大多数情况下,也没有人会在网上问出“384乘以29873”的问题 。至于27是否是质数,则有可能来源于互联网上的错误信息——ChatGPT相当擅长“信口开河” 。和搜索引擎不同,作为使用者,你无法对ChatGPT里提供的信息进行溯源 , 要判别信息的可靠性并不容易 。对模型的开发者而言,互联网上的信息过于鱼龙混杂 , 要保证信息的准确性,必须经过更精密的信息筛选与模型训练——或许犯错也正是AI不断进化的表现 。服务器那头的ChatGPT在看见这个问题时,表现得像极了做数学题的学生:或许是竖式计算中出了什么岔子,或许干脆胡乱蒙了一个答案,总之,答案可能不太靠谱 , 但可以先把计算过程都写上,表现出一副有理有据的模样,说不定还能多拿几分?
当然,在算术领域以外,ChatGPT的可靠性已经超乎人们的想象 。开发者Erik Schluntz表示,在使用ChatGPT的过程中 , 他已经整整3天没有打开程序学习网站StackOverflow——无独有偶,StackOverflow刚刚禁止了利用ChatGPT回答网站上的问题 。简单来说,StackOverflow无法明确地判断ChatGPT生成的内容是否正确——它可能看起来信誓旦旦 , 却可能在某些细节上出点岔子 。
触乐夜话:和AI聊聊天



一位网友利用ChatGPT生成代码开发的游戏,美术素材则由AI绘图程序DALL·E生成
【触乐夜话:和AI聊聊天】聊天机器人的前景究竟在哪?以往我们在提到“聊天机器人”时 , 总想着孤独的人类在机器人身上寻求慰藉云云——不可否认的是,这类情况确实存在,ChatGPT也做得不错:一位网友曾分享过ChatGPT如何让他孤独的祖母重新开始倾诉的故事 。但ChatGPT也为我们带来了不一样的可能性 。作为一个更好的搜索引擎 , 一个便捷的百科全书 , 一本“万能手册”,比起科幻作品中常常提及的“人格化人工智能”,或许这种“工具式人工智能”才是实际应用中更好的方向 。AI或许不需要被强加“人格化”的想象,它一样可以成为你最好的帮手 。

猜你喜欢