“德尔沃先生,我想你可能是有些误解。尽管我们纳克斯进步学会支持使用新技术,来改善社会的现状,但这绝对不意味着,我们希望用它来取代人类,自行做出决策,甚至支配世界的运行。” 麦克布朗摇了摇头:“暂且不提人工智能可能出现的失灵或被恶意操纵,从而毁灭这个世界的可能性,单单是这种无机物居于高位的事实,就让人毛骨悚然。它们并不是有血有肉的人类,根本无法体会到人类该有的喜怒哀乐,自然也就不会有着什么同理心。它无法真正理解人类的爱与希望,若是让它来指挥人类,那将是一场噩梦。”
“但是所谓的国家治理,已经越发被证明并非是那种玄而又玄的巫术,而是一种科学不是吗?生产调节也好,治安控制也好,福利分配也好,都是可以通过极为数学的方法,来取得最优解的。” 罗梅卢德尔沃耸了耸肩:“事实上,即便是教师或者心理咨询师这样传统意义上被认为极端‘人’的职业,都已经开始大量被ai取代。很多国家很早以前就用ai来指导政府工作,如今又进行了用ai来取代公务员和企业管理者的尝试,这些都获得了成功。既然如此,我们为什么不放下偏见,对这一发展方式抱有更多期待呢?”
“基于某一体系的而做出的管理,和引导人类的未来,这是截然不同的两件事。就像我们在这里的讨论与争执,这是基于对全人类的爱,ai是不可能从这里出发,来进行思考的。ai感受不到疼痛,感受不到寂寞,感受不到我们所能感受到的一切,它们根本无法设身处地的为人类考虑,不可能真的理解人类想要的是什么,更不可能理解我们发展社会到底是为了一个什么样的目的,自然也就无法创造一个充满爱的未来。” 麦克布朗叹了口气:“虽然很遗憾,但是我还是必须说,我们之间的意见有着不可调和的冲突。我们纳克斯进步学会所希望的是,能在科技进步的同时,守护我们一切宝贵的东西,包括我们的家庭,我们的国家,还有我们的社会结构与关系,一直以来带给我们幸福的秩序。非常抱歉,我不能支持你在我们的讨论会上公开宣讲。”
送走了来客后,麦克布朗有些惆怅的揉了揉脑袋,突然开口向秘书问到:
“刚才的…德尔夫先生,他是哪个大学的教授来着?”
罗梅卢德尔沃走出门外,深吸了一口气。望着辐光星,他眯起了眼睛,脑中一股电流闪过:
“我见到了麦克布朗,不过看样子,他似乎和人类保护学会并没有什么瓜葛。”
“不能只根据一时的观测得出结论,还需要更多的情报。还有,你其实没有必要亲自出马的。”女子的声音清脆而优雅:
“注意安全啊,调率先生。”