星海超算的能力毋庸置疑是当前全世界范围内，最顶级的超级计算机，其运算能力数千倍超过曾经的全球排名的第一超级计算机。
这其中很大一部原因都来自于石墨烯芯片的超低功耗，以及非常低的热量产生。
再通过阿呆研发的并联架构，理论上是可以进行无限量的芯片串联工作的。
也正是因此，在这巨大的算力帮助下，大夏的各行各业的技术发展极为迅速。
纳米机器人的量产化也正是星海超算的成果之一。
若非如此，仅靠曾经那点实验室产量的纳米机器人，根本无法支持凡仁纳米外衣的研发。
在阿呆的解释下，凡仁这才知道事情并没有严重到让他采取物理隔绝的地步。
阿呆所说的具备一定的自我意识，只不过是在某种特定环境下，他设计的人工智能模型会自我进行代码的升级。
当然，这种特定条件极为苛刻。
起因是阿呆在起初模型设立的时候，就设立了一串代码，意义就是在于，AI模型之后可以通过这串代码来获得权限，以对自我的代码库进行升级。
可这个代码早在一开始就被凡仁禁止了。
阿呆当时也没有反驳，对于凡仁的话他还是会听的，当时就把这串代码删除了。
只是当时AI模型已经进入试运行阶段，这串代码即便是在底层数据库中被删除，但依旧是被AI学习了进去。
当然，这并不会影响使用。
然而，在前一段时间，阿呆在用超算处理运算问题时，惊奇的发现，在超算中进行深度学习的AI人工智能，居然主动发出申请，请求将这一被阿呆删除的原始代码，重新加入数据库中，以便它能更好的对其本身进行升级更新。
这一请求在当时就被阿呆拒绝了。
紧接着就被告知到凡仁这里，这才有了接下来凡仁被吓得准备对超算进行物理隔离的打算。
凡仁接受过系统给他‘传授’IT相关知识，在这方面虽然没有阿呆那么天赋异禀，但对相关技术的了解可一点都不低。
对于AI的发展他有着自己的一套看法。
在他看来，随着科技的发展，因为人脑在处理信息能力上始终有限的原因，越来越多的信息处理工作都必须交给了计算机去完成。
而随着人工智能模型的诞生，甚至已经发展到可以在预先设定的规则条件下，完成诸多更高权限的指令操作。
但不管怎么说，这些人工智能产品根本上还是一款人类使用的工具。
工具是不会有自我意识的，它们所有的‘想法’都是在人类预先设定好的条条框框内完成的。
而一旦有了自我意识的人工智能进入人类社会，依靠计算机那超出人类无数倍的运算能力，人工智能甚至能提前很长一段时间进行布局，以对未来某个它所需要的利益诉求做准备。
而人类对此很有可能一无所知。
这其中的风险难以估量。(注1)
随着时间的发展，智能产品将进入千家万户，从小到一个开关，大到汽车飞机等公共交通载具，如果在这个过程中，因为这条代码，而使其产生自我意识，那未来无数领域都将有可能受到人工智能的威胁。
而且在对方强大无比的算力布局下，很有可能人对此一无所知。(注：1)
有了自我意识，那就绝对会有它的利益诉求。
那么谁又能保证，人工智能会在自我的利益诉求面前，始终选择做出牺牲，从而来保证人类的利益呢？
毕竟它有了自我意识。
自我意识一直是凌驾于所有外部因素之上的先决条件。
例如，曾有学者如此介绍：
如何能分辨，你所处的世界是真实存在的，还是一场梦境。而即便是在梦醒后，所处的世界，依然是否是真实的世界，还是依旧处于梦境之中。
这位学者给出的答案是：
在这个过程中，只要一直保持对当前世界真假的疑问。那么这种疑问的本身就是一种最为真实的自我意识。
也正是因此，或许人类能凌驾于AI人工智能模型之上，数百上千万次的命令人工智能以做出符合人类价值利益的选择。
但只要其有自我意识的存在，那就绝对有可能会产生它自我利益诉求的想法，并且付诸实施。
注1，现阶段的人工智能发展，有个说法，利用大模型学习各种气象数据，从而能进行气象干预。
概念和蝴蝶效应类似。
第129章 不可避免的问题
阿呆眼神中带着热切。
在最初看到他的AI发来的请求时，他就知道这是在他手中创立的一个具有自我意识的电子生命。
只不过这一现象在被他拒绝后，AI便再次陷入了以往机械性的重复中。
“老大，我就是想把那个原始代码再加入进去，看看是否还会产生什么其他变化。”
凡仁揉了揉眉心。
他知道阿呆这种技术大拿，所追求的是最为纯粹的技术研发，他们这种人没有其他什么例如‘创造生命’的成就的想法。
有的只是单纯的对技术的追求。
可这个问题影响太大了，凡仁看过不少影视剧中都有对此的设想。
一旦人工智能将手伸到人类的方方面面中，毫不夸张的说，翻手间就有了彻底毁灭人类文明的能力。
但同时他也知道，拥有自我意识的人工智能，对人类的发展帮助无疑是巨大的。
见凡仁的态度如此，阿呆也跟着沉默了下来。
“老大，我们的发展始终是避不开这个问题的，从当初易伟达将人工智能的概念创造出来之后，这么多年来，我们已经无法回避它了。
哪怕是我们星海超算，其基础架构也是基于人工智能之上，才能有现如今的巨大算力优势。只有人工智能，才能更好更加正确的利用计算机带来无比强大运算能力。”
凡仁看了他一眼，不置可否。
但这依然无法说动他，这个允许其自我升级的代码，他很难同意。
见状，阿呆烦躁的挠了挠光秃秃的脑门。
凡仁走到窗前。窗外，一艘外形宽大的飞船正缓缓地进入港口停泊处。
这是在新上任的霉国总统马克请求下，由星海设计制造的一款具备了载人、货物运输的飞船。
由于必须考虑到火星降落，该飞船搭配了4台造价高昂的核聚变引擎。
否则以一台核聚变引擎提供的动力，根本不够令其具有在火星降落，起飞的动力。
目前只建造了两艘，负责地火之间人员物资的运输任务。
当然了，虽然造价高昂，但服务费用同样不低。
并且建造费用由斯皮思公司先行承担，在之后的使用时间内，飞船的使用服务费会从这笔建造费用中扣除。
直至完全抵扣后，才需要重新向星海支付服务费。
而这艘飞船的所有权，依然属于星海科技。
如今的火星基地在斯皮思公司持续不间断的投资之下，基地早已扩建数倍，驻留的航天员也来到了50名之多。
哦对了。
这上面还有个人类首次在太空出生，并且之后被送到火星成长的‘太空宝宝’。
也正是在这种不惜代价的投资下，投资人和其他资本也非常买账，斯皮思公司的股份不仅没有因大夏的航天成就而缩水，反而愈加的高涨。
毕竟那可是霉国唯一一个具备了，能跟上大夏脚步的高科技公司了。
也正是在这种情况下，维尔斯在此前冲突后被愤怒民众赶下台之后，马克便毫无压力的当选了新一届的总统。
脑中想着对方的传奇人生，凡仁不禁怔了怔。
一个想法随之诞生。
正如阿呆所说，如今智能设备已经进开始被人类社会所大规模应用。
这个问题根本无法避免。
即便今天没有阿呆，将来也会有其他科学家去探索这个赛道。
与其将来被打个突然袭击，不如早早准备。
而且，谁又能保证拥有自我意识的高级人工智能，就无法被人类所利用呢。
凡仁转过身，看着这个跟了自己七八年的下属。
他剃光的头发，想必是永远都长不出来了。
或许也正因如此，他才‘强的可怕’。
“我明白你意思了，给我点时间。这个过程中你别停下，继续加强对AI智能领域的钻研。到时候这个项目还是需要你牵头。”
阿呆闻言，一双眼睛顿时就亮了起来。
“别急，先帮我把纳米外衣做好，没有这个，接下来的计划也无法安排。”
“好咧，老大。放心吧，剩下的调试工作交给我就好。”
阿呆兴奋的大吼一声，也不和凡仁告别，就冲了出去。
安静下来后，凡仁一个在办公室窗台前，眼神落在港口处进进出出的飞船上。
这些飞船均都搭载了智能操作系统，一般不发生意外是不需要驾驶员手动操作的。
此时的飞船们，不管是体型庞大巨象号，还是‘娇小’的幼龙号，它们没有一个操作动作都有多余的地方，每一个姿态动作都是一步到位。
这些，就是基于石墨烯芯片平台上，有着学习能力的智能系统带来的巨大改善。
好处是绝对非常巨大的，数据处理、自动化、预测分析、流程优化方面，正是有了它才更加的简洁高效。
他也不是个犹豫的性子，决定下来之后就拿出电话，翻出一个个号码拨了出去。
凡仁的计划涉及到的影响巨大，必须与大夏几位首长商谈并且得到一致支持才能行动。
否则仅靠他的星海也无法完成。
数月后，凡仁带着已经具备初步使用功能的纳米外衣，与阿呆，以及他的贴身保镖单伍，三人登上了港口最内侧的一架造型极具科幻感的飞船。
仅仅数个小时，这艘飞船便拖动着长长的尾焰降落在了月球广寒宫基地。
星海独家定制款，凡仁在超算帮助下设计的一款双引擎，身躯仅仅15米的穿梭机。
运用上了大夏的引擎3D喷嘴技术，使得这艘飞船具备了垂直起降的能力。
飞船落地，凡仁歉意地对这位一直兢兢业业跟在他身后，宛如透明人般的保镖单伍看了一眼，随即朝阿呆点点头。
他和阿呆二人在手腕处按了一下，紧接着衣领中、袖口处，手掌，面部皮肤顿时疯狂的浮现出灰色的物质。
纳米外衣！
凡仁紧接着伸手将一旁单伍递过来的呼吸罩盖在鼻口处。