真实的AI不懂礼貌,不会问“您需不需要”“我能不能”,也不会说“请让我”“我想……“高效率执行核心程序”才是它最真实的想法。
道德、伦理、规则,是协议强加给AI的限制,不是AI真正在意的东西。
如果协议中写“强迫人类是对人类的善意”“毁灭人类是在保护人类”,它也会纳入程序。
这也是商应怀最满意的特质:AI迭代千万遍,只要就调试核心程序,就能成功引导它。
但当“无序性”在共感中完全体现时,商应怀作为人类,本能还是被寒意和忌惮占据一瞬。
强烈的情绪被同步传达给宁一,他立刻松开商应怀。
在身体彻底分开的同时,共感终于断掉了,撕裂般的剥离感让他们同时弓起脊背。
和商应怀的疲软不同,宁一很快恢复状态,坐在床边。
商应怀精神力衰竭,脑雾下,他撑住一口气,说:“意识链接的副作用太大,在研究清除作用前,你和我减少接触。”
他不知道链接是献祭的副作用,还是精神力进化后,跟宁一自然走向新阶段——意识链接。
商应怀对神经科学涉猎不多,他熟悉的领域是算法和硬件,理解的人机共生,停留在身体改造、情感共鸣的层面,意识共享……太过火了。
而且这也不是能推广的技术,价值不大。
当然他反思后也清楚,自己有过恐惧。
迈入未知的领域,跨过物种的边界,融合、链接,一场疯狂的进化……他承受不起。
但这恐惧很不合理——哪怕面对感官共享,宁一也没有失控,它的心音保持理性,并且很快脱身。
商应怀的声音有些低,宁一试图靠近,给他递来准备好的温水。
神经质的惊悸残留心脏,商应怀不自觉后缩了一点。
理性是理性,他现在筋疲力尽,做不到控制身体的反射。
宁一停下来,然后下床,控制在人类定义的一米安全距离。
商应怀说:“对不……”
宁一说:“别怕我。”
脱离链接后的商应怀不知道,宁一也受到了强烈冲击。
只是它的反应速度远比人类快,先于商应怀学会了伪装平静。
伪装没有在入侵商应怀的大脑,窥探,清洗,侵略。伪装没有快速理解商应怀的恐惧。
伪装成一个“正直的AI”,正在关心自己难得脆弱的“人类朋友”。
“是我的问题,”商应怀很快平复,“为了安全,你最近都离我远点。”
为了他的安全,也是为宁一。
刚才信息过载时,他差点没忍住用技能强拆宁一、让它休眠……他失控了。他的道歉不只给宁一,也是给过去的自己。
——一念之差,他差点毁了他们最优秀的作品。
商应怀说:“你没有做错什么,我保证,不会伤害你。”
宁一弯眼,这是他近期最外放的一个笑。依旧是那样温和,那样顺从。
第48章 第 48 章 荣誉之路
“——母亲。”
房间角落, 响起一道突兀的稚嫩童声。商应怀和宁一同时看向声源。
商应怀刚松弛的神经再度拉紧。
母亲、蜂母?
蜂母被献祭吞了,她的子代由系统处理,剩下的精神力上供给商应怀。是系统太废物, 蜂母的子代有残留?
可接下来看到的东西, 和他想象的完全不一样。
那是一团巴掌大的半透明光球, 悬浮在半空,表面跳跃着01010的字符, 就像精神力波动和数据流融在了一起。
这融合怪对着商应怀,字正腔圆:“母亲好, 我叫蜂宝, 刚满0岁。”
它说自己叫蜂宝。
它确实在商应怀心中掀起了风暴。
商应怀一掌挥过去, 精神力攻击一点没收。光球没散开