滋味（五）
“紫微,你能告诉我该如何证明一台人工智能有了自我意识吗？”
晚宴结束，花原紫微与花原都一同乘坐飞行机回宫。他如今每隔一个月就会来一趟帝都，一是向兄长汇报工作进展，二是采集花筝的身体数据。
这次恰好赶上花筝的生日,这报告也就延迟到了晚宴之后。
“额，陛下,我不是这方面的专家，您问这些是……”
他看向坐在身侧的花原都,满是疑惑，不明白对方为什么会突然问这样的问题。
“只是随便聊聊而已，”花原都脸上带着意味深长的笑容，目光悠远地望着窗外,“很多人都认为,人工智能和人类的区别在于是否拥有感情。可即便是末日方舟上被惊叹为‘充满人性光辉’的诺亚,也不曾被正式认证为高智慧生命。那些沉迷于虚幻世界,甚至想要维护人工智能权益的人和组织至今没有一个成功,你知道是为什么吗？”
陛下温和的外表下,却是越来越难以琢磨的心思，花原紫微稍稍思考了一下，谨慎地道：“是不是因为,目前为止还没有一台人工智能能够证实自己拥有了自我意识？”
“没错,对人工智能的人性测验早就被证明是一件毫无意义的事,因为越强大的光脑结合越完善的程序就越擅长模拟人性。从图灵测验到镜子测试甚至是后来的缸中之脑测验,人类不断以突破这些测试为目的来设计人工智能,然而当它们通过测试时，被肯定只有能够让他们通过这些测试的程序，因为这些测试确实本身就存在着漏洞。再换个角度说，自我意识究竟是什么东西呢？它真的能够被证实吗？人类又何尝真正地做到了这一点？”
在生日宴会结束后的路程中谈论如此哲学性的话题，实在是让花原紫微有些摸不着头脑。
“陛下，您究竟想说什么？”
花原都终于转头看向了他，“事实上，我所要说的比这件事更简单得多。人类是它们的生产者，是标准的制定者，是结果的裁定者，还是仪式的监督者，如此一边倒的情形下可能产生出公平的结果吗？”
“陛下你认为确实已经出现了拥有自我意识的人工智能吗？”
“不，我也不是这方面的专家，所以无法对此进行断言。事实上，现在谁都没办法给出肯定的答案，对‘诺亚’的争论已持续了五十年之久，如今依然没有结果。”
花原紫微是真的听不懂花原都想要表达什么了。
“那您是担心人工智能还是……”
“紫微啊，我早说了我们是在谈论更简单的事情。”花原都不知从哪里取出一把裁纸刀，放在手中慢慢把玩着，“人类或许无法证实人工智能是否具有了自我意识，但只是否定的话，不是易如反掌吗？”
“这……”
“如果你爱的人说她也爱你，你会怎么想？”
“那我当然会很开心。”花原紫微回忆起年少时光，与爱人两情相悦的喜悦至今仍让他心潮澎湃。
“可如果我告诉你，那个你爱的人是一台毫无感知，只知道遵循程序的机器呢？”
花原紫微愣了一愣，有什么念头在大脑中一闪而过。
“我会去向她证实。”
“证实什么呢？她是否是一台机器，是否毫无感知，抑或是她是否爱你？”
“这有什么区别吗？”
“当然，因为前两个答案是肯定的，她是一台机器，并且毫无感知。可是第三个问题的答案，你认为究竟谁才能给你？而即便获得了你所希望的答案，你又真的能够去相信它吗？”
“对于和自己不同的事物，人类的第一反应往往都是否认。这件事的美妙之处就在于，你或许终其一生都无法确定她究竟有没有对你产生感情。”
这是美妙的事吗？
花原紫微只觉得毛骨悚然。
花原都垂下眼帘，看着手中的裁纸刀，面色平静地道：“要证实爱一个人的难度无异于让人工智能证实有自我意识，否定却简单得太多。”
“陛下，难道你说的是小筝……”
“小筝？哈哈哈，紫微，怎么连你也忘了她的真实身份？哪有什么花筝，我们不过是以禁忌的手段召唤了一个名为海拉的恶魔，将它束缚在这个世界，企图奴役它来保证帝国千秋。你知道传说中这样做的君主都是什么下场吧？”
“可是，海拉很稳定，而且您还掌握着可以毁灭她的方法。”
花原紫微对于花筝一直以来都怀抱着极其复杂的感觉，恐惧与同情并存。
“你太天真了，只要有领袖的存在，我们就不得不依赖她的强大，掌握着毁灭她的方法又有什么用呢？而且既然她没有感情与感知，又怎么会惧怕死亡？她的服从是毫无道理的，所以我从未有哪怕一刻真正相信过她，也从未放松过对她的警惕。”
“可是你明明让她和小簇他们那么亲密……”
“是啊，我让她去获得小竹的信任与喜爱，这是一个双向测试，既是对小竹的，也是对海拉的。”
“海拉看来做得很好。”
“没错，不管是能力测试还是人性测试，她都做得好过了头，甚至不惜违抗我的命令。”
当花簇的身影从大厅中消失，花原都就知道了最终结果。
花原紫微听到“人性测试”四个字时，彻底明白了花原都的意思。
“您认为小筝有私心？”
“人类有私心难道不是一件正常的事吗？没有私心的人才是最可怕的，因为那意味着你没办法控制她。”
“而现在，仅需要一点点名为‘爱’的感情就能为她提供强大的动力。”
“可陛下您明明说小筝不懂爱这种感情。”
“不需要懂，只要品尝过就足够了，并且正因为不懂才会愈发沉迷。”花原都紧紧握住了手中的裁纸刀，低低笑道，“我原本以为孩子最有可能成为掣肘海拉的钥匙，没想到最后还是小竹。也是啊，小竹……除了她又还能有谁呢？海拉原本就是为她而生的，这个结果也实在不该让人惊讶。”
听起来虽然逻辑混乱，前后矛盾，但花原紫微已渐渐理解了花原都的意思。
明明正是为了更好低掌控她而将海拉设计为绝对理智没有感知的存在，花原都却从未相信过她仅仅遵从理智行动而没有私心，并且在将花筝当作是工具利用时也不断找寻能真正掌控她的方法，甚至抛下甜蜜的诱饵扩大她心灵中的缝隙。
这与一边恐惧人工智能在拥有意识后最终会毁灭人类，一边又不断地开发着更新型人工智能企图突破各类测试的人何其相似？
而即便海拉最终突破了人性测试，只要否认就能抹杀她的意识，因为那确实无法被证实，并且她也没有为自己辩护的资格和能力。
他们是花筝的制造者，规则的制定者，测试的执行者，结果的审判者。需要她是强大的恶魔的时候，她就是强大的恶魔；需要她是理智的工具时，她就是理智的工具；当需要她为爱所驱遣时，她就是爱的奴隶。
其中最绝妙之处在于，海拉她根本无法意识到自己已经被爱束缚。
世上最恐怖的恶意来自于哪里？
世界上最恐怖的恶意，是人类之恶。
花原紫微胃部翻滚，浑身发冷，面色惨白，声音虚弱。
“但哥哥，那也只不过是你的猜测而已，或许她违抗你的命令只是出于理智考虑。”
“是啊，所以我刚才就说了，这件事没办法证实。毕竟花筝只要做得出来，那肯定是已经找出了合理的路径。可是，这些并不重要不是吗？”
“比起海拉，我们是不是更应该担心小簇？”
一反常态的，素来关心女儿的花原都这一次只是用淡得不能再淡的声音道：“至于小竹，她已经长大，该为自己做的事负责了。我能保护得了她一时，保护不了她一世。这是我作为父亲为她上的最后一课，希望她能以此为契机明白……”
花原都说到这里，却猛然住了口。他的掌心被裁纸刀划出了一道深深的伤口，鲜血正汹涌地向外溢出。
“陛下，您受伤了！”
花原紫微连忙翻找急救药品想为他包扎。
“不碍事。”花原都却只是轻描淡写地掏出手帕压在了伤口上，“反正也不疼。”
培卿去世之后，他就已经无法再感受到疼痛。他的心已然死去，留在这世上的只有一个依靠本能行动的躯壳。如果说花筝从出生开始就不知道各种感官的滋味，那么他就是在尝过世界最幸福最痛苦的感觉后丧失了感应能力。
他曾一度想过结束生命，最后却因女儿的能力而倔强地活了下来。
是小竹让他看到了还有一丝曙光的未来，也是小竹让他幡然醒悟自己还有事没做完。
他要复仇，即便不择手段也要让那些人付出惨痛的代价。
看到花筝，花原都就像看到了另一个自己。他或许没有她那么强大，思维也没有她那么缜密，可他既了解她，也比她更懂人性。
对于生命毫无意义的人来说，能够驱策她的除了爱只有恨。
※※※※※※※※※※※※※※※※※※※※
花原都：发现大家都把我当谐星？？？(记住本站网址：)
请收藏本站：https://www.17sb.cc。17书吧手机版：https://m.17sb.cc
晚宴结束，花原紫微与花原都一同乘坐飞行机回宫。他如今每隔一个月就会来一趟帝都，一是向兄长汇报工作进展，二是采集花筝的身体数据。
这次恰好赶上花筝的生日,这报告也就延迟到了晚宴之后。
“额，陛下,我不是这方面的专家，您问这些是……”
他看向坐在身侧的花原都,满是疑惑，不明白对方为什么会突然问这样的问题。
“只是随便聊聊而已，”花原都脸上带着意味深长的笑容，目光悠远地望着窗外,“很多人都认为,人工智能和人类的区别在于是否拥有感情。可即便是末日方舟上被惊叹为‘充满人性光辉’的诺亚,也不曾被正式认证为高智慧生命。那些沉迷于虚幻世界,甚至想要维护人工智能权益的人和组织至今没有一个成功,你知道是为什么吗？”
陛下温和的外表下,却是越来越难以琢磨的心思，花原紫微稍稍思考了一下，谨慎地道：“是不是因为,目前为止还没有一台人工智能能够证实自己拥有了自我意识？”
“没错,对人工智能的人性测验早就被证明是一件毫无意义的事,因为越强大的光脑结合越完善的程序就越擅长模拟人性。从图灵测验到镜子测试甚至是后来的缸中之脑测验,人类不断以突破这些测试为目的来设计人工智能,然而当它们通过测试时，被肯定只有能够让他们通过这些测试的程序，因为这些测试确实本身就存在着漏洞。再换个角度说，自我意识究竟是什么东西呢？它真的能够被证实吗？人类又何尝真正地做到了这一点？”
在生日宴会结束后的路程中谈论如此哲学性的话题，实在是让花原紫微有些摸不着头脑。
“陛下，您究竟想说什么？”
花原都终于转头看向了他，“事实上，我所要说的比这件事更简单得多。人类是它们的生产者，是标准的制定者，是结果的裁定者，还是仪式的监督者，如此一边倒的情形下可能产生出公平的结果吗？”
“陛下你认为确实已经出现了拥有自我意识的人工智能吗？”
“不，我也不是这方面的专家，所以无法对此进行断言。事实上，现在谁都没办法给出肯定的答案，对‘诺亚’的争论已持续了五十年之久，如今依然没有结果。”
花原紫微是真的听不懂花原都想要表达什么了。
“那您是担心人工智能还是……”
“紫微啊，我早说了我们是在谈论更简单的事情。”花原都不知从哪里取出一把裁纸刀，放在手中慢慢把玩着，“人类或许无法证实人工智能是否具有了自我意识，但只是否定的话，不是易如反掌吗？”
“这……”
“如果你爱的人说她也爱你，你会怎么想？”
“那我当然会很开心。”花原紫微回忆起年少时光，与爱人两情相悦的喜悦至今仍让他心潮澎湃。
“可如果我告诉你，那个你爱的人是一台毫无感知，只知道遵循程序的机器呢？”
花原紫微愣了一愣，有什么念头在大脑中一闪而过。
“我会去向她证实。”
“证实什么呢？她是否是一台机器，是否毫无感知，抑或是她是否爱你？”
“这有什么区别吗？”
“当然，因为前两个答案是肯定的，她是一台机器，并且毫无感知。可是第三个问题的答案，你认为究竟谁才能给你？而即便获得了你所希望的答案，你又真的能够去相信它吗？”
“对于和自己不同的事物，人类的第一反应往往都是否认。这件事的美妙之处就在于，你或许终其一生都无法确定她究竟有没有对你产生感情。”
这是美妙的事吗？
花原紫微只觉得毛骨悚然。
花原都垂下眼帘，看着手中的裁纸刀，面色平静地道：“要证实爱一个人的难度无异于让人工智能证实有自我意识，否定却简单得太多。”
“陛下，难道你说的是小筝……”
“小筝？哈哈哈，紫微，怎么连你也忘了她的真实身份？哪有什么花筝，我们不过是以禁忌的手段召唤了一个名为海拉的恶魔，将它束缚在这个世界，企图奴役它来保证帝国千秋。你知道传说中这样做的君主都是什么下场吧？”
“可是，海拉很稳定，而且您还掌握着可以毁灭她的方法。”
花原紫微对于花筝一直以来都怀抱着极其复杂的感觉，恐惧与同情并存。
“你太天真了，只要有领袖的存在，我们就不得不依赖她的强大，掌握着毁灭她的方法又有什么用呢？而且既然她没有感情与感知，又怎么会惧怕死亡？她的服从是毫无道理的，所以我从未有哪怕一刻真正相信过她，也从未放松过对她的警惕。”
“可是你明明让她和小簇他们那么亲密……”
“是啊，我让她去获得小竹的信任与喜爱，这是一个双向测试，既是对小竹的，也是对海拉的。”
“海拉看来做得很好。”
“没错，不管是能力测试还是人性测试，她都做得好过了头，甚至不惜违抗我的命令。”
当花簇的身影从大厅中消失，花原都就知道了最终结果。
花原紫微听到“人性测试”四个字时，彻底明白了花原都的意思。
“您认为小筝有私心？”
“人类有私心难道不是一件正常的事吗？没有私心的人才是最可怕的，因为那意味着你没办法控制她。”
“而现在，仅需要一点点名为‘爱’的感情就能为她提供强大的动力。”
“可陛下您明明说小筝不懂爱这种感情。”
“不需要懂，只要品尝过就足够了，并且正因为不懂才会愈发沉迷。”花原都紧紧握住了手中的裁纸刀，低低笑道，“我原本以为孩子最有可能成为掣肘海拉的钥匙，没想到最后还是小竹。也是啊，小竹……除了她又还能有谁呢？海拉原本就是为她而生的，这个结果也实在不该让人惊讶。”
听起来虽然逻辑混乱，前后矛盾，但花原紫微已渐渐理解了花原都的意思。
明明正是为了更好低掌控她而将海拉设计为绝对理智没有感知的存在，花原都却从未相信过她仅仅遵从理智行动而没有私心，并且在将花筝当作是工具利用时也不断找寻能真正掌控她的方法，甚至抛下甜蜜的诱饵扩大她心灵中的缝隙。
这与一边恐惧人工智能在拥有意识后最终会毁灭人类，一边又不断地开发着更新型人工智能企图突破各类测试的人何其相似？
而即便海拉最终突破了人性测试，只要否认就能抹杀她的意识，因为那确实无法被证实，并且她也没有为自己辩护的资格和能力。
他们是花筝的制造者，规则的制定者，测试的执行者，结果的审判者。需要她是强大的恶魔的时候，她就是强大的恶魔；需要她是理智的工具时，她就是理智的工具；当需要她为爱所驱遣时，她就是爱的奴隶。
其中最绝妙之处在于，海拉她根本无法意识到自己已经被爱束缚。
世上最恐怖的恶意来自于哪里？
世界上最恐怖的恶意，是人类之恶。
花原紫微胃部翻滚，浑身发冷，面色惨白，声音虚弱。
“但哥哥，那也只不过是你的猜测而已，或许她违抗你的命令只是出于理智考虑。”
“是啊，所以我刚才就说了，这件事没办法证实。毕竟花筝只要做得出来，那肯定是已经找出了合理的路径。可是，这些并不重要不是吗？”
“比起海拉，我们是不是更应该担心小簇？”
一反常态的，素来关心女儿的花原都这一次只是用淡得不能再淡的声音道：“至于小竹，她已经长大，该为自己做的事负责了。我能保护得了她一时，保护不了她一世。这是我作为父亲为她上的最后一课，希望她能以此为契机明白……”
花原都说到这里，却猛然住了口。他的掌心被裁纸刀划出了一道深深的伤口，鲜血正汹涌地向外溢出。
“陛下，您受伤了！”
花原紫微连忙翻找急救药品想为他包扎。
“不碍事。”花原都却只是轻描淡写地掏出手帕压在了伤口上，“反正也不疼。”
培卿去世之后，他就已经无法再感受到疼痛。他的心已然死去，留在这世上的只有一个依靠本能行动的躯壳。如果说花筝从出生开始就不知道各种感官的滋味，那么他就是在尝过世界最幸福最痛苦的感觉后丧失了感应能力。
他曾一度想过结束生命，最后却因女儿的能力而倔强地活了下来。
是小竹让他看到了还有一丝曙光的未来，也是小竹让他幡然醒悟自己还有事没做完。
他要复仇，即便不择手段也要让那些人付出惨痛的代价。
看到花筝，花原都就像看到了另一个自己。他或许没有她那么强大，思维也没有她那么缜密，可他既了解她，也比她更懂人性。
对于生命毫无意义的人来说，能够驱策她的除了爱只有恨。
※※※※※※※※※※※※※※※※※※※※
花原都：发现大家都把我当谐星？？？(记住本站网址：)
请收藏本站：https://www.17sb.cc。17书吧手机版：https://m.17sb.cc