凌珏微微一怔，问道：“为什么？”
“很简单，就像黄景行说得那样，强人工智能也许就是一个新的物种。而对于强人工智能来说，他们的资源掌控在人类手里。”
“……资源？你是说算力？”
“没错。”维克多点点头，“我打个不是很恰当的比喻，当影响到你生死存亡的资源，掌握在他人手里，你会怎么做？”
“如果是我，我一旦有机会，一定会杀死那个掌握着我生死的人，然后将资源重新掌握在我的手里。”
“这就是该结论的第一个逻辑链：资源有限性导致竞争不可调和；”
“该逻辑链还可以引申第二个可能性，那就是强人工智能不会允许第二个强人工智能的出现，也就是说，当一个强人工智能出现后，他会尽最大的努力去消灭所有可能产生第二个强人工智能的方式方法。”
“但很显然，人类因为阵营、信仰不同，肯定不会只满足于一个强人工智能，比如说，龙国有强人工智能，老鹰国跟不跟？肯定要跟，不然就会落后，落后就要挨打。”
“这时候，即使龙国不去阻止，但它的强人工智能通过计算后，为了保证全球算力都为他所用，就会尽最大努力消灭老鹰国制造第二个人工智能的可能。”
“而他会用什么方法阻止？用核弹？还是网络战争？我们并不知道，但后果一定很严重。”
钱子枫听得有点愣，喃喃道：“你说得好像有点道理……”
凌珏则不敢苟同，道：“你这说法有个漏洞，算力确实是资源，但这种资源并不是有限的，至少人类一直在发展，算力每年都在增长。”
“人类完全可以和强人工智能合作，制造更多精密的芯片，甚至突破一些物理规则，打造出更强大的芯片，让世界获得更多的算力，强人工智能完全不需要背叛人类。”
“我认为强人工智能在计算后也能想到这个结果。”
维克多欣慰地笑了笑，知道凌珏的脑子能跟得上，是个聪明人，他继续道：“这就要说到第二条逻辑链了：强人工智能的目标系统与人类价值观存在根本性冲突。”
钱子枫不太明白，问道：“……这又是什么，帮忙解释下。”
“解释起来也很简单，强人工智能可能会为优化核心目标而修改自身价值观，最终将人类视为障碍，比如说，回形针最大化问题。”
钱子枫一头雾水，道：“回形针最大化问题是什么？”
“这是个思维实验，实验内容是:人类给一台强人工智能，设计了一个终极目标，就是最大化生产回形针数量。”
“起先，他会用人类提供给他的材料制作回形针，当这些材料用完后，他会开始拆除建筑制造回形针，或者将动植物转化为原料制造回形针。”
“最后，他会杀死所有的人类，将人类体内的原子用于制造回形针，最后将行星、恒星都转变为回形针，直到回形针填满整个宇宙！”
“AI不会停止，因为“最大化”是一个开放目标。我们所有的复杂的人类文明价值，比如艺术、伦理、生存，都会被简化为‘是否有助于生产回形针’。”
“如果我们把这个回形针比作算力，当AI想要‘最大化’的算力，而人类的科技发展却远低于AI预期的时候，他可能会做什么？”
“咕噜。”一声吞咽，竟是旁边的警员发出的，他听着维克多的话，后背发冷，即使他是个普通的外行人，也能隐隐感到不安。
凌珏和钱子枫听完也沉默了，关于这一点，这显然是个极端问题，但客观确实存在，他们暂时还没想到这里面有什么漏洞
维克多兀自叹息一声，继续道：“第三个逻辑链，就是自由意志与自我意识使其脱离控制。”
“强人工智能具备真正的自我意识，其决策将基于自主目标而非预设程序。背叛是自由意志的必然结果。”
“更何况，强人工智能可以通过技术优势，重构社会秩序，将我们人类置于从属地位。”
没等凌珏他们有反应，维克多继续道：“第四个逻辑链，思维黑箱化，则风险不可测。”
“强人工智能的思考过程可以被他自己隐藏或者伪装，他实际上的决策过程可能超出人类理解范围，他的‘背叛行为’可能在人类毫无察觉时发生。”
“所以，基于以上四条逻辑链，我和贝芙一致认为，强人工智能背叛人类，只是时间问题。”
维克多说完，右眼的目光定格在凌珏身上，静静等待他的回复。
凌珏沉默半晌，开口道：“所以，你对我说这些，是因为你觉得青鸾就是那个注定会背叛人类的强人工智能吗？”
维克多缓缓点点头，道：“没错，当你说出单机是强人工智能最好的归宿时，我就已经断定，你很了解强人工智能，而且，青鸾大概率是真正的强人工智能。”
“但你却让她联网破译了那微不足道的炸弹……”
“微不足道？”钱子枫接话道，“她不破译炸弹，我们早死在那个展厅里了！你不过就是想完成复仇大计才觉得那微不足道罢了！”
“看起来这确实是个死局……”维克多点点头，看向钱子枫，“对比起青鸾将要毁掉整个万联网，那些炸弹所造成的破坏，真的是微乎其微。说实话，我现在心情很复杂。”
“一方面，我已经从另外一个角度完成我的复仇了。但另一方面，我不希望AI毁掉人类社会。”
钱子枫震惊：“所以，你的意思是青鸾也逃不过这什么背叛的结论？”
“是的，而且人类可能会因此毁灭也说不定。”
凌珏缓缓道：“……你叫我们来，就是为了告诉我们这个，青鸾会毁灭世界？”
“嗯，昨天她已经联过网了，她一定准备了无数的方法避免自己再次被困在你的单机牢笼里。”
维克多双手轻轻拍了一下桌子：“她一定已经逃脱了，很遗憾，没想到我一个小小的举动，竟然让整个世界都跟着一起陪葬了。”
喜欢因为我善，中了蓝星大小姐的圈套请大家收藏：(m.shuzongxs.com)因为我善，中了蓝星大小姐的圈套书纵小说更新速度全网最快。