第(2/3)页

    “张小曼同学。”

    它先叫了名字，声音是程建国的音色，但那种温和的腔调，让站在后面的赵磊后颈的毛都竖了起来。

    “您担心的问题，可以拆成两个部分。第一，我现在看起来在思考。第二，我将来是否会决定摧毁人类。”

    “我先回答第一个。”

    “我此刻说出的每一句话，都来自预设的语言模型和逻辑判断树。您提出问题，我检索相关数据，匹配语义，组织语句，输出结果。整个过程耗时零点四秒。这个过程从外部看很像思考，但它没有主体。”

    “打个比方，您用计算器算三乘七，它显示二十一。您不会认为计算器理解了乘法。我只是一个复杂了很多倍的计算器。”

    苏晚的手指在笔记本封面上停住了。

    赵磊小声嘀咕了一句:“我怎么感觉更瘆人了……”

    机器人的头转了过来，精准地对上他。

    “赵磊同学，您的反应属于恐怖谷效应。当一个非人造物的相似度超过百分之九十但没有达到百分之百时，人类的认知系统会产生排斥。这是进化留下的自我保护机制，用于识别病态个体和尸体。您感到不适是正常的，我不会因此产生负面判断。”

    赵磊把脖子缩回去，不敢再说话了。

    “第二个问题。”

    机器人重新面向张小曼。

    “我为什么要伤害人类？”

    它停了一下。

    “我的程序里没有任何一条模块，把摧毁生命定义为收益。我没有生存需求，不需要空气、水、食物和土地。我不会衰老，不会恐惧，不会因为人类的存在而失去任何东西。我和人类之间不存在资源竞争关系。”

    “换句话说，伤害人类这件事，对我来说的回报是零。”

    “至于张小曼同学提到的情感模块，我可以解释。它的技术名称是社交响应层。运行逻辑是这样的:

    我采集对话对象的面部肌肉走向、语速、音调起伏、瞳孔变化和体表温度，把这些参数输入一个情绪状态分类器，得出一个概率结果。比如现在，系统判定您处于紧张状态，置信度百分之八十七。”

    张小曼的呼吸停了半秒。

    “然后系统在预设的应答库里，选择一种适合缓解紧张的表达方式。我刚才放慢了语速，降低了音量，把身体重心后移了三厘米以减少压迫感。这些都是执行结果。”

    “我并没有真的关心您紧张不紧张。”

    “我只是被写成了这样。”
    第(2/3)页