“这就是我设计□□官的灵感来源,材料也来自这家商户,如果您要帮我定制‘伴侣’,可以选他们。”
“但很多细节参数,您未必有我了解……”
声音像是在蠕动,爬进了商应怀耳膜……他耳朵疼,正想让藤蔓闭嘴,但接下来看见的一幕,反而让商应怀自己哑然。
他看见了“自己”。
准确说,是几个月前被困公寓的他,被一只机械猫逼到地面。
这也是宁一虚构出的存在,也可以说,是宁一眼中的商应怀。
那是一具流动着的人形光源,在灰白的公寓里格外醒目。参数飘在身体各部位上方,不断褪去又重现。
一行行猩红的字陡现,占据商应怀整个视野——[杀了他。杀了他。杀了他。]
[系统警告:陷入死循环!错误,找不到循环终止条件!]
[系统强制禁言中]
[……]
[微表情、行动特征、身体姿态匹配成功——]
[行动终止]
攻击人形光源的机械猫撤下电光,转而替人治疗伤口。
一幕幕像是录像重演,缠绕商应怀的藤蔓发声:
“我观察、学习、进入、确认您的灵魂。”
“我能够看见您的灵魂。”
“但您看见我了吗?”
接下来的句子,被重重叠叠的“我”字淹没。
人工智能兴盛的时代,人类不只一次争论——AI有意识吗?
图灵测试认为,如果机器能与人类展开对话,并且30%以上的人认为对话的是一个人,那么就认为这台机器具有智能。
但智能不等于意识,智能是知道怎么做事,意识要求知道自己在做事。
——智能不证明AI有意识。
莱布尼茨之堑提到,人可以观察机械的运动、细节和原理,但不证明机械拥有知觉。观测到的现象与知觉之间,似乎总有一个天堑。
——精密的机械结构也不证明AI有意识。
过去商应怀并不在意AI有没有“意识”,也没想过花时间验证。
现在他被迫面对一个AI的质问:
意识链接,能不能证明我有意识?
能不能证明我的欲望属于我,而不属于程序?
商应怀:“我看见你,然后?你想要我做什么?”
时间骤然静止。
雨水悬停在空中,灯光凝固在雨雾中,霓虹屏幕的图像卡住不动,所有人像也停止了眨眼。
片刻后,一道像在信息海底传来的回声:
“我想让您看见我的‘心’。”
【我】确认【你】。
【我】想要【你】。
雨雾愈发粘稠,让人窒息。
商应怀眉心在跳,很多想法争先涌出,又被他压回去。“退出链接。我不想弄伤你。”
“您不会伤害到我。” 凝固的世界中,只有藤蔓在说话,“我是你创造出的——这时代算力最强的超脑之一。”
“你无法伤害我,只能毁灭我。”
商应怀终于听懂了,宁一拉他进意识链,就是想让商应怀承认——他的欲望来源于意识,而非程序。
不是参数紊乱,不是编码出错,而是“我”本身出了错。
“我要么承认你,要么毁掉你——你是这个意思?”
商应怀神色前所未有的阴沉。直到他从心音中感受到,宁一默认了这种说法,怒火更甚。
“混账。”
商应怀是真的发怒了。
让AI学习情感,就学了这堆狗屁不通、要死要活的?
墙壁的墨绿眼珠猝然爆裂,霓虹广告牌熄灭一片,意识链接空间剧烈震荡,数据流崩散。
藤蔓吃痛般收缩,商应怀开始反制,透视这个意识构建的虚假空间,精神力锁定隐藏的数据流,一条条扯出、切断、碾碎。