阅读提示：为防止内容获取不全，请勿使用浏览器阅读模式。
是一种灾难。”
林隅之的眼神多了几分认真，他安静地听唐念讲话，若有所思。
机房里不知什么时候只剩下他们两个。
唐念顿了顿，继续说，“毕竟，它是机器，可能会过度执着于某些逻辑或指令，而忽略了我们人类更为复杂和多元的情感与需求。”
如果人工智能过于执着于执行某项指令，而忽略了人类的实际安全或利益，那么这种保护就失去了意义。
比如，算出毁灭会到来，就提前以保护的名义，终结他们的生命。
"我可以理解你的担忧与不安，你的担忧是合理的，角度也完全正确。”
林隅之说话时带着很浅的气音，两人相隔不足一米的距离，足以是唐念看清他的眼睛。
很浅的褐色，像琥珀。
“很多科学技术诞生之初都会伴随着质疑和担忧，在我们看到未来到来之前，有很多事情都是有可能会发生的，这是一场很危险的博弈。”
他的声音有安抚的意味，大概是因为唐念的担忧实在是太过明显。
不过刚刚那一段长长的质疑这足以证明她真的思考过，林隅之起身给她倒了一杯温水，随后拉开椅子示意她坐下。
唐念问，“如果将它的数据上传到互联网，那么它会不会可能像病毒一样在任何一个联网的终端上复制、蔓延、扩散？”
从某种角度看，唐念接二连三的担忧冲刷掉了林隅之对她原有的刻板印象。她所表达的担忧深切，某种意义上证明了她拥有责任感，并非外界谣传中那种混吃等死、不学无术的酒囊饭袋。
他缓缓地补充，“我为它设定了严格的框架，它不能离开它的主控系统，一旦它离开了我设置的区域——比如说上传网络并复制备份——就会自动启用自毁程序。”
“你不觉得这样的风险太高了吗？一旦失控，后果将一发不可收拾。”
唐念又说，“而且，现在所有人的金钱都储存在数字世界里，如果031失控，那将会是一场金融灾难，甚至可能引发社会的动荡。”
她越说越觉得这样的前景令人担忧，与031的诞生注定会是一场……
然而，林教授却疑惑地出声，“031？”
唐念心里咯噔一下，“这个项目起名了？”
“目前还没有，只有项目编号和日期。”