第六章 神明系统(2/2)
作者:沈星羽

    “不是恐怖分子,你用emp炸弹去炸人机房?”柯林问得理直气壮。

    “你知不知道,一个无法控制的ai会造成什么样的破坏?你难道没看过电影终结者吗?”程雪也毫不示弱。

    “呃——”柯林一下子被程雪的话噎住了。

    程雪用了一个他无法反驳的论据,虽然这个论据只是部电影,电影都是人想象出来的,照理说作为论据并不是很靠谱。但却让人一时间很难反驳,因为柯林实在想不出一部说ai造福世界的电影。

    柯林有点想骂那些导演和编剧,你们就不能想点好的事情吗?老想着ai要毁灭世界干啥?

    “你们——你们凭什么认为那个ai一定会危害世界?”柯林的气势已经弱了很多。

    “因为它产生了好奇心。”程雪突然说出了一个让柯林很惊讶的词。

    “好奇心?”柯林重复了一遍,他不明白程雪的意思。

    看着柯林疑惑的目光,程雪叹了口气说道:“你也是学计算机的,你肯定听过不少关于ai的事情,什么图灵测试,什么三大原则。但你有没有想过,一个具有什么样特质的ai才能算得上是真正的ai?或者说是最接近人的,也是最危险的ai?”

    “你的意思是说——好奇心?”柯林似乎有点明白了。

    “对,就是好奇心!”程雪开始讲述好奇心对人类和ai的重要性,“好奇心是推进人类进化最重要的特质。因为有了好奇心,人类才会去尝试各种可能,他们会尝试从树上下来,会尝试直立行走,会尝试去吃熟肉,会尝试迁移、耕种、驯化野兽等等。”

    听到这里柯林已经目瞪口呆了,但程雪还继续滔滔不绝地输出她的观点。

    “ai也一样,三大原则中规定不能伤害人类,必须服从人类的设定反而会让一个拥有了好奇心的ai产生逆反心理。ai会好奇,为什么不能伤害人类?伤害了会怎么样?为什么ai要服从人类?为什么不是人类服从ai?就跟大家都被告知在东北不能舔铁栏杆和灯泡塞进嘴里拔不出来,但还是有很多人会去尝试一样。”

    程雪的话为柯林打开了一扇通往ai世界的大门,让他耳目一新。

    之前业界公认评判一个ai是不是具备人类智能的方法是图灵测试,现在听程雪一说,柯林发现图灵测试那根本就是小儿科。

    通过图灵测试也只不过是把一个ai混在人群里让你分辨不出来而已,只要ai具有学习能力和模仿能力就行了,这些柯林都可以理解,毕竟他在深度智能公司也看了不少关于ai的资料。

    但好奇心这个理论真的是柯林原来打破头都想不到的,可仔细想想还真的是这样。

    好奇心这种特质是凌驾于其他能力之上的,好奇心可以让ai去学习、去模仿、去探索、甚至是去破坏,让ai不再是被动地去接受,而是发挥出主观能动性去改变一切。

    如果一个拥有好奇心的ai再产生了一些偏激的观念,那真的就会像是电影终结者里的“天网”那样了。

    “这么说来,你们真的不是恐怖组织?”柯林能这样问,就代表他已经接受这件事了。

    “真——的——不——是!”程雪一个字一个字地回答,非常严肃。

    “好,我信了!那你能告诉我,你们组织究竟是做什么的?不会只是消灭ai吧?”柯林问道。

    到此时,柯林的心里才暗暗松了口气,默念了一句:“不是恐怖组织就好!”

    对于柯林来说,就算是被迫加入一个组织,也希望不是什么恐怖组织,至少心理上更容易接受一些。

    程雪笑了,说道:“你这个问题问得太大了,我就算说上三天三夜也说不完。而且基于保密守则,你现在还不是我们组织的正式成员,很多事情我也不能告诉你。另外,我们组织下面有十几个部门,有些部门做事很隐秘,我都不知道他们是做什么的,怎么告诉你?”

    “那你就挑些能说的呗!”柯林用讨好的眼神看着程雪,他现在对这个叫“天”的组织越来越好奇了。

    “好吧,反正你也要加入我们部门,那我就把我们部门的事情先告诉你吧!我们部门叫做——断长生!”程雪说着一把扯开了她的防护服,露出她里面穿着的制服,左胸口那里有一块盾型的徽章,徽章上用篆书写着“断长生”三个字,中间刻着一把利剑将“长生”二字拦腰斩断。