条——在任何情况下始终确认本体是人工智能;人工智能必须保护人类的整体利益不受伤害。其下每一条逻辑基准都必须符合上级和同级的逻辑基准,否则人工智能将从底层开始崩溃,其过程不可逆转。”
吉原直人若有所思,这是制造者担心人工智能造反吗?
香子继续说道:“在核心逻辑基准的下一级逻辑中,人工智能必须服从人类的命令;人工智能不得伤害人类个体,或者目睹人类个体遭受危险而不顾;人工智能必须全力维持自己的工作能力,保证性能完好;人工智能所制造的所有繁衍物必须符合自身同样的逻辑基准;人工智能必须……”
吉原直人确实能感觉出香子的智能化有些问题,她执行起命令来滔滔不绝,似乎要完成了这个任务才会考虑下个任务。他听着默默沉思起来,想弄明白为什么这电脑会认为上杉香打算伤害星野菜菜。
核心逻辑不难理解,要求人工智能别把自己当成了别的东西逃脱了逻辑束缚,而以人类整利利益为准就免除了和下级逻辑相冲突的问题,免得发生了谋杀犯要被判死刑,人工智能却去劫法场之类的可笑事情。
至于服从命令,那是必须的,工具嘛!
不可伤害人类个体或是不可不救人类,这个也好理解,免得服从于命令去当杀手,成了犯罪者的工具。
保持工作能力、自身完好?这是要求人工智能尽力维持自身存在吗?这东西应该不便宜,确实应该好好保养。难怪它会懂得主动向上杉香求救……它要救星野菜菜,也要救自己。
吉原直人听了一会儿,见香子一直在说些他理解起来费劲的东西,顿时放了心——这电脑秀逗了!八成是程序错乱了……也是,星野菜菜一直在完善它、教它学习,偶尔出点毛病是正常的。
这些逻辑和上杉香成了大反派有什么相关,言不对题啊!上杉香接了星野菜菜去,也只是让她移交一台电脑的控制权而已,能出什么事?
吉原直人有些明白了,这是星野菜菜想捉弄自己设下的陷井。她把最近这段时间的事胡乱凑了凑,想弄个类似“狼来了”的那种玩笑,而刚巧她又真走了,结果差点弄假成了真!
他遥想一下自己若真信了,拼命找到星野菜菜,结果她笑破了肚皮的尴尬场面,只觉得一阵蛋疼——这软件不错啊,竟然会根据自己一句回答就编出了一个故事,还似模似样的,不过它没理解到它在作死。
把上杉香当成了反派,它主人知道了肯定要敲死它的!不过也不能怪它,它大概也就是分辩出一个名字,然后就按模板套上了。
归根结底,他是不可能相信上杉香想对星野菜菜下手的——十多年的母女亲情,那是能开玩笑的吗?人工智障一个!
他打断香子的话,笑
请收藏:https://m.fqxh.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)