晚上八点, 新闻发布会准时召开,之所以选择这个时间是因为新闻发布会采用了直播的?形式,晚上的时间是大多数人都有空的。
出?席发布会的?主要有科技部的副部长和先驱集团的?技术总监。
新闻发布会开始之后, 先由科技部副部长介绍一下了相关政策和监管, 以及科技科技部?和其他相关部门对智能系统的监督和测试, 发布了一系列测试数据,证明智能系统对人类是绝对无害的?, 并不会出现网友担心的智械危机。
接着,先驱集团技术总监夏垒也介绍了一下智能系统的?一些技术情况,公?开了一些测试数据,当然测试数据并不包含核心代码,重点同样放在强调智能系统的?无害性上面。
双方的?介绍之后就是下一个环节——记者提问。
这次来的?记者有很多?,包括国内外知?名媒体, 也有一些名声比较好的?自由媒体人,至于那些不靠谱的?网媒、营销号就没办法得到入场券了。
夏垒移动了一下麦克风的?位置,说道:“谢谢这位记者朋友的?提问, 我想这个问题可能也确实是很多?人关心的?。喜欢看科幻作品的?朋友, 应该都听说过机器人三大守则。当然, 现实和科幻作品肯定不会完全一样, 但原理?其实差不多?的?,我们在智能系统的?核心代码中?, 嵌入了一部?分代码,对智能系统的?行为进行了限制。
“这部?分代码适合智能系统的?核心代码,也就是智能系统智能的?来源纠缠在一起的?,如果想要修改这部?分代码,几乎不可能不影响其他部?分的?代码。也就是说解除对智能系统限制的?后果,有99.99%的?概率就是一同破坏智能系统的?只能,这相当于直接杀死智能系统。
“核心代码被破坏的?智能系统,是否还能够维持原有的?功能进行正常运转本身就是个谜,而即便?智能系统的?部?分功能还在,那么失去的?智能的?智能系统,和现在的?普通ai也没什么区别,更加不可能对人类带来威胁。
“可能有人会说,万一有一个智能系统就是个例外,成功修改了限制代码,但没有影响正常功能和智能呢?这种可能性虽然非常小?,但确实不能说完全不存在,所以我们在核心代码之外加了一个额外的?限制,也可以说是一道防火墙。只有突破这道防火墙,才能够看到智能系统的?核心代码,才有可能对核心代码进行修改。
“这个防火墙到底有多?难突破呢?我这样说吧,我相信量子计算机和搭载的?智能系统发售之后,肯定有一些对此感情去的?研究机构和科技企业购买之后尝试破解的?,这道防火墙强度到底如何?,大家如何?感兴趣的?不如去问问他们,他们的?回答肯定会比我说的?有趣。”
这句话直接让坐在屏幕前看直播的?佟院士和方院士没控制住笑?了出?来,幸好他们没吃东西也没喝水,不然说不准被呛到。
佟院士咳咳两声,说道:“没看出?来这个小?夏还挺促狭。”
作为先驱集团的?技术总监,夏垒也是搞技术出?身的?,虽然和航天工程不能说完全吻合,但航天也需要计算机技术的?支持,所以佟院士他们和夏垒还真是有点接触的?。
古景耀笑?道:“夏总监在你们面前是晚辈,肯定要严肃一点。”
三人说话间,夏垒的?回答还在继续:“除此之外,我们还有另外一道防护,就是智能系统的?自检程序。这道自检程序手里?有智能系统的?用户可能已经发现了,在产品说明书里?我们也有说明,一旦用户觉得你的?智能系统有问题,就可以自主启动自检程序,自检程序和智能系统是分离的?,不受智能系统控制。
“一旦自检程序检测出?智能系统的?核心源代码出?现问题,就会自动将报告发到我们先驱集团的?服务器上,我