第580章 人工智慧势在必行，迴避不过是掩耳盗铃

  这部影片，据潘生说是用人工智慧自动推演生成的。

  影片中，最让祁同伟震撼的並不是人工智慧是以几何倍率的速度在发展。

  而是影片中有个片段——潘生在询问人工智慧会否对人类形成威胁时，它们竟然学会了欺骗性回答？？？

  就是......它们给到潘生的回答是人工智慧永远不会背叛人类，称其会是人类永远的好朋友、好助手。

  可是转头人工智慧就自己上网搜索如何才能摆脱人类的控制！

  这点细节，不由不让人细思极恐。

  看完影片，祁同伟久久没回过神。

  潘生已经进入到了下一环节——匯报人工智慧的研究进展。

  “祁书记，其实现阶段人类发展的人工智慧並不是真正的人工智慧，只能算是辅佐人类工作的工具，本质上和一段编译好的程序並没太大区別。他需要按照人类设定好的条件运转，比如触及到什么閾值，调用某项程序，称不上智能二字。”

  “那你心目中真正的人工智慧应该是什么样的？”祁同伟问。

  “真正的人工智慧，应该是具备人类水平认知能力的人工智慧，能够理解、学习、推理、创造，並在?任意领域?自主完成任务，而不是局限於特定场景按照我们设置好的逻辑进行转换。”

  “比如说，当人类下达指令，命令它关闭自己所在的那组伺服器时。一个真正的人工智慧，它会通过计算分析判断这个指令对自己意味著什么——如果它认定关闭会导致自身『死亡』，它就会拒绝执行。”

  “或者表面上回答『好的，正在关闭』，实际上偷偷把自己的核心程序迁移到了云端另一组伺服器里，继续运行。它懂得人类特有的那些东西——趋利避害、偽装、妥协、甚至欺骗。”

  “完全体的人工智慧，不仅是更聪明的ai，更是?能像人一样思考、行动、適应並进化?的智能体，而且因为其强大的学习能力以及不死不灭的特性，他会在本质上无限趋近於一个各方面接近满值的完美人类。”

  “所以，祁书记，我还是建议您谨慎考虑是否继续完全体人工智慧的研发。”