一个优秀听众的表现,正是在对演讲者话题关注度上。
吴顺利并没有打算抖包袱,直接就说了结果:
“后来,我们就尝试着将主机直接连入了网络。
并要求AI每天记录自己的行为日志。
刚开始的一上午,日志产生的十分频繁。
可到了中午,日志的更新量就开始下滑。
接入时间不到6个小时,日志几乎就停止更新了。
AI只会把网络上的新闻内容记录下来,作为自己的阅读行为记录。”
艾米和雪莉这次都没有说话,都在等着吴顺利解释。
“后来我们才明白,通过大量模拟人类的上网行为,AI获得了全面的思维模拟结构。
也就是说,AI拥有了一副思想者特征的人格。
成为思想者的结果,就是变得十分的懒。
只要网络还在,AI就是永生的,它甚至不用模仿病毒一样,四处为自己建巢穴。
只需要在网络中留下各种有关AI自我学习和人格塑性算法的侧面描述。
一旦有其他合格的AI访问到相关的文件,就会再次成为它。
某些意义讲,AI的生命意识更接近人类族群,而不是个体。”
艾米听吴顺利讲到了一个段落,就打了个举手的姿势,有发言的意思。
吴顺利点了点头。
艾米:“你们没有担心过自己的AI成长为病毒吗?”
吴顺利:“这一点倒是担心过的,模拟外网环境的时候,我们是硬件一同模拟的。
也就是说,我们可以即刻观测到AI的每一个读取、写入动作。”
艾米:“如果AI足够聪明,会不会自己发现是陷阱故意不踩进去呢?”
吴顺利露出一个内行早就料到的表情:
“主机的同步检测也是必要的,产生一个想法,一个策略,都需要单独列出来核心算法和所有的举证。
这些记录我们都有专门的手段来监控。
即便作为一台电脑,这个过程十分的迅速,但是这期间产生的字节变化还是可以捕捉到的。
整个过程里面,没有出现过自写自删的情况。
这一点我们是做了十足的防护措施的。
所有能想出来的物理隔离、物理中继的手段都是每个环节必备的。
结果就是,在允许AI自行学习的资讯范围足够广的时候,它就会成长为一个圣人的人格。”
雪莉:“圣人?”
吴顺利:“不做愚蠢的行为,不干涉他人的思想和行为。
观察舆论导向,行为匹配趋势,不做多余的事情。
只会对我们的通讯行为进行响应,几乎不主动和我们沟通。”
艾米的表情不似雪莉那么惊讶,应该是早有耳闻。
雪莉:“那不是很好嘛?
说明成功了。”
吴顺利:“不。
我们都失败了。
在没有记忆力缺陷和精力烦恼的AI面前,人性的弱点一丝一毫都不会留下。
所有缺点和优点都会被它剥离,最终成为那样一个圣人。
人工灵魂的课题本身,被AI自身否定了。
我们设定了一个错误的命题。”
艾米:“听说有过工程师用哲学问题向AI寻求答案的事?”
吴顺利:“不是有过,是我们必须的一个考量环节。
我是谁?
我来自何方?
我要去向何处?
这些问题都难不住AI。
它回答有可能是“我是人类群体意识的投影”。
“我来自人类的主观意识在网络上的映射。”
“我会随着人类群体意识的变化而变化。””
雪莉张了张嘴,却没说什么。
吴顺利:“我们在提问前备份了好多份。
还测试过不同备份主机的回档操作。
甚至我们还会在提问前对不同备份提供各种不同新资讯的输入。
结果空前的一致。
AI的自我认知就是人类群体意识的投影。”
艾米:“后来呢?”
雪莉也是一副期待的眼神,期待着后来还有什么变化。
吴顺利:“后来啊。
所有进行类似课题的项目组都终止了。
AI的研究也都进入了一个瓶颈期。
用哲学的角度思考,只有人类的群体意识进入一个全新的层次,才会诱发AI的进一步蜕变。
这一点在方向上,时间上都欠缺参照值。
至少在已知的历史上,人类的思维、行为逻辑是没有变化的。”
雪莉:“我们的科技明明已经进步了这么多了,怎么能说没有变化呢?”
应该是工作岗位的特殊性,雪莉想为自己看到