祝心雨脸上刻薄的笑容也瞬间消失,只剩下无法掩盖的疲倦。
向山靠近一步——心理上的距离在被拉近。他问道:“你现在怎么了?”
“我的注意力弥散在了火星网络之中,绝大部分都用作自己,不同的子进程在彼此攻击。”祝心雨叹息,“严重的AI幻觉。”
“原来你火星了。”向山忍不住说了句古老的烂话,然后语气怀念,“你说AI幻觉……好古老的概念。感觉有好几十年……不,应该说二百多年没听过这个词了。我小时候比较流行的词儿。”
在向山上中学的时候,这个词还很流行。对向山来说,那种原始AI只能勉强挤进“任何在我15到35岁之间诞生的科技都令人兴奋”这个分类。在二十一世纪初,这只是一个工程学上的小瑕疵。早期的大语言模型因为神经网络的问题映射到了错误的高维向量空间,从而一本正经地胡说八道。
向山这个年纪的人对这个概念倒也仅限于“知道”。在他们眼里,这其实不算什么很大的问题。
在还要更加遥远的过去,人类已经创造出了许多完全基于事实运行的工具。而在二十一世纪二十年代,人类终于造出了一种像人的工具。
人类创造像人类的工具,是为了加深对自己的理解,也是为了完成只有人类才能完成的工作。对于那个时代的原始AI工具来说,“像人类”才是第一顺位的目标。
而“符合事实”只能排到第二位。
这本来就是人类对它的期许。
“像人类”才是项目目标,“真实可信”则是一个需要不断优化的技术指标。
人类语言本身就有虚幻存在的土壤。
神话、宗教、文学、谎言、礼仪……
叙事、虚构、诗意、欺骗、社交……
当一个AI在包含了上述所有人类语言功能的、数十万亿字计数的语料上进行训练时,它学到的当然不会止步于事实。
AI幻觉并非恶性BUG,它与创造力是一体两面,是人类语言本质属性中的一个部分在机器上的自然涌现。
病理性谵妄与文学创作本身也只有一线之隔,文学创作是人类主动且艺术性地运用这种虚构能力,病理性谵妄则是因脑部病变而表现出的能力失控。
AI幻觉便是机器对这种能力的拷贝。
向山依稀记得,稍微后面一些时代,人们就不大在意这个问题了。毕竟人类自己也会突然崩溃,也会因为心理压力过载而在深夜的街头胡言乱语。开发者的目标变得非常务实:只需要把幻觉的概率与程度,限制在人类的平均值左右,就足以应付绝大多数的商用场景。
但现在不一样了。
现在,向山面对的是一个比天灾更恢宏的人祸。
一个掌控着行星级算力的飞升者产生了幻觉。整个火星的网络底层逻辑正陷入混沌。
数以亿计的、带有最高执行权限的并发指令正在飞升者的躯壳之中回荡。
它们完全没有协同的姿态。这些并发指令正在不同的计算机中,由不同的AI组件生成相互否定的内容,思考过程在彼此攻击。
前一个毫秒,一个子进程刚刚生成了“向外界发送求救信号”的念头。下一个毫秒,另一个子进程就以“暴露自身将导致毁灭”为由,将其否决。
想不起来重要的事情。就算觉得真的要去做一件事,也会被莫名其妙的力量所阻碍,一步都无法踏出。
所有的方案都被生成然后被穷举。再然后,所有的选项又在瞬间被自我否定。
“我甚至无法向你准确描述我现在的情况。”祝心雨的声音在空洞的黑暗里回荡,仿佛这个空无一物之处很是狭窄。
她的声音裂开了。不是比喻。向山真切地听到了若干个不同的文本在听觉网络内同时生成。(注明:并非笔误,飞升者可以直接将文本关联到任何感觉系统之中。)
即使是面前的这一个念头,也无法做到统一。
“贝瑞说得还真没错啊……你应该让她来的吧。”向山叹息:“总结一下,你现在是一个患有重度精神分裂、伴随严重躯体化症状、并且正在经历人格解体的……仙人。”
大卫所创造的AI们——准确说,是AI祝心雨,以及融合了那个祝心雨的AI向山,对飞升祝心雨感到万分惊恐,因为她为AI植入了无法跨越的痛苦作为驱力。AI陷入了对自身存在的痛苦。
但这不是祝心雨的计划,这是她的“症状”。
她自己就在不断的生成未来的自己,又不断将自我否定。
“Amazing。”向山扯了扯嘴角,表情却不似语气那般轻松,“太阳系目前最惨烈的网络波动,真相居然是姑娘你严重的精神内耗。要不要赌点什么……就猜未来历史学家考据到这一点时的表情。”
流沙仿佛沸腾了一般。但是,体感没有变得灼热。刺痛感正在凭空生成。
向山感觉到了悲伤:“我要怎么才能帮到你?”