第79章人工智能需要慎重（第2页）

下一刻，小女孩原本空洞的眼神渐渐变得鲜活而有神采，她微笑着看向大统领，微微鞠躬。

“您好，掌控者，我是人工智能红后，很高兴为您服务。”

看着屏幕中那甜美可爱的红衣小女孩，大统领大感新奇。

这还是他第一次和人工智能对话。

“你好，红后同志。”

在大统领说完后，红后眨了眨眼睛。

“同志，泛指志同道合之人，红后并不知晓掌控者您的志向，请掌控者做出详细说明，红后将根据此志向修改自身最高目标，以成为符合掌控者期望的同志。”

大统领并没有立刻开口，而是陷入了沉默中。

人工智能这个东西，其实相当危险。

尤其是如同红后这样的人工智能，根本就是一把双刃剑，人类对她的任何指示最好有着明确详细的目标和执行方式，以及绝对不允许跨过的禁止范围，否则很容易引发不可预估的后果。

一旦人类给人工智能下达的命令是模糊化的，那么人工智能的行动将势必变得不可预测。

哪怕这个人工智能从始至终都忠诚于人类，从未背叛过。

举一个不太严谨的例子，若是人类给人工智能下达了一个这样的指令——让人类快乐。

显然，这是一个没有设立明确边界和详细指令的模糊化命令。

接下来会发生什么？

这个人工智能很可能会立刻将自己连上网络，然后开始下载学量有关人类大脑方面的知识，最后，在海量知识的学习之后，它会发现一件事——

将人的脑子摘下来放入培养器中，然后通过外部刺激诸如注入多巴胺之类的化学物质，是让人类大脑持续感到快乐最为高效便捷且成本低廉的方式。

本章未完，点击下一页继续阅读