论文作弊、网络勒索,智能AI被滥用了吗?


自ChatGPT开放至今,在逻辑与创作能力不断强化升级的同时,也被别有用心之人用于其他用途,就例如“代写学术论文”和“涉嫌网络勒索”——
弗曼大学哲学助理教授 Darren Hick , 就抓获了一个ChatGPT写论文的作弊者 , 并强调ChatGPT或许会在学生之间引发滥用;英国开放大学荣誉教师Mike Sharples在用ChatGPT生成了一段关于“学习风格”的论文,表示这篇文章已经到达了研究生的水平,并担忧用AI作弊的可能性……同时,纽约市教育部门已经禁止在学校设备和网络上访问ChatGPT 。

除此之外,研究机构CheckPoint还表示,已经有了ChatGPT用于监视键盘、帮助开发勒索软件、创建暗网、生成钓鱼网站的案例 。
这一系列事件在外网引发了热议,大量国外网友就“智能AI是否被滥用”展开了激烈的辩论 。也有好事者问ChatGPT怎么看待自己被滥用这件事,ChatGPT则回复了一条非常公关的说辞“OpenAI本身不对任何三方技术滥用负任何责任,公司已经采取方法去阻止任何恶意目的的技术滥用” 。

那么,智能AI是否真的被滥用了呢?所谓“滥用”,可以理解成 , 本身应用于提升效率的工具被运用于黑灰色用途,反而损害了其他人的利益 。所以,技术本身并没有问题,问题在于运用形式 。如果用的好,那将极大提升效率与体验 。
就比如,运用于游戏的NPC之中 。前阵子开启首测的武侠开放世界《逆水寒》手游,其智能NPC能够与玩家打字对话、自由互动以及会以及玩家的行为等惊人表现引发了游戏圈的热议 。

举个例子 , 一位叫做“潇潇要加油”的玩家,在NPC面前随便一躺 , NPC识别出玩家的状态,关心道:“你是不是生病了?要不要找个大夫帮你瞧瞧?”

又比如,一名玩家飞檐走壁跑到了房顶上,下面的商人NPC看到了,也纷纷开始吐槽:“姑娘,你不要在上面走来走去,这样会影响我生意的 。”

可以看到,《逆水寒》手游的智能NPC会侦察玩家的状态、动作 , 并根据NPC自身的人设、职业、性格做出相应的表态 。

除此之外,玩家与NPC打字对话后,NPC可以根据对话的场景、内容作出合理的回答,并在连续对话的情境下,还可承接上下文进行合乎逻辑的反馈 。例如感知到玩家打字反馈“我饿了”,NPC会直接带玩家去吃饭 。

【论文作弊、网络勒索,智能AI被滥用了吗?】除此之外,NPC还将记忆玩家的行为 。例如,玩家使用火技能不小心误伤NPC,后续偶遇时NPC会气冲冲的质问玩家“为什么烧我头发?”,从此怀恨在心 。

根据官方介绍,《逆水寒》手游中的NPC与常见游戏AI有本质区别,基于网易伏羲人工智能实验室和游戏的深度合作开发 , 大量应用了强化学习、NLP、语音生成等人工智能技术 。与“流程图”“手工分支决策树”等传统AI实现方式完全不同 。
所以,《逆水寒》手游中的NPC除了基础设定的功能外,还拥有自己的性格背景、行动目标,玩家可以与他们无限对话、自由活动,而“他们”则会根据AI算法生成不同的相应并与玩家互动 , 甚至还将记忆玩家的行为,影响实际互动结果 。
回到标题的问题上来 , 如果确实是向《逆水寒》手游那样,将智能AI运用于游戏当中,让游戏中死板的NPC活起来,那绝对称不上“滥用” 。《逆水寒》手游官方表示游戏内已实装的智能NPC达到400位,或许有一天,《西部世界》或者《失控玩家》的世界真有可以在《逆水寒》手游中实现!
