“但也仅仅只是理论上,这里边有一个巨大的问题,根据我的研究,它的增长不是线性的。
“我大约计算过,实际的增长曲线就不说了,很复杂,但大约可以简化为这个函数:y=clog(e)(X+1)。
“这里边y指的是性能,X你们就姑且理解为算力堆积的基本单位,大约趋势如下图。”
就算是对数学再不懂的人,看到这个公式也该看出来了,因为这个函数的曲线到最后,几乎就是一条平平的横线。
也就是说,当显卡堆积达到一定规模之后,就算再堆积硬件,性能虽然也会增加,但增加的也会十分有限,到最后甚至肉眼都不可见了。
这么说着,孙博还举例道:“以现在的GPT4为例,如果想要一个2倍GPT4参数的大模型,对算力的需求大约会是多少呢?
“我计算过,大约需要十几倍。而且公式计算的只是理论效果,而更大规模的集群,片间互联的损失肯定也会更大,实际效果只会更差。”
孙博很是热情,只要不涉及他自己工作的机密和核心,只要他在的时候,那几乎是有问必答的。
纪弘也正好翻看到这儿,他没有过多的惊讶,片间互联损失这一块儿本身就不好解决,要不然超大规模智算中心也不至于这么稀有了河州大学搞的那个还是纯国产第一例。
“按你这么说,微软这孤注一掷的效果,不一定会好啊!”有人这么回了一句。
“效果不好是一定的,花费两倍的价格,可能能得到1.5倍的性能,最多也就如此了,想要赶上耳语的能力,我觉得不大行。
“其实OpenAI自己肯定也清楚,GPT4乃至后续没有发布的4.5版本,之所以没这么堆规模,就是在卡能效比的两个节点。
“再堆规模下去,性价比会越来越低不高。但现在不是被耳语逼的没办法了吗?”
孙博本就是研究前沿理论的,现有模型的理论上限他清楚的很,哪个算力节点卡一下性价比最高他大约也都清楚。
到了一定程度,盲目的加规模肯定得不偿失。除非迫不得已,一般不会这么干的。
纪弘一边看着孙博的回复,一边分析这个人,越分析越是感兴趣了这是一个有真材实料的理论家。
“如果能挖来卷耳科技,将会是一个巨大的臂助。”
……
纪弘在念叨孙博的时候,孙博也在念叨他起因就是纪弘发的那个私信。
“最优化理论的一个分支,目的是为了解决大模型之间交流的问题,这人该不会是卷耳智能科技的创始人纪弘吧?”
孙博看了好一会儿,想到了纪弘在河州大学采访时说的一个两个三个多个模型串联得出更精准更切合先说你的结果,那些话。
“这是实现AGI通用人工智能的一个思路吗?”
孙博看的有些迷,是因为很多关键点纪弘都给他略去了,但大致的框架还在,他知道这东西在解决什么问题。
事实上,他本人也在研究这个。
“但是,大模型之间的交流是以数据和信息为载体的,通常来说,交流只是扩大了信息量。”
比如可以利用一个大模型的数据去快速的训练另一个大模型这一点大家都知道,千寻的文心一言用过GPT的数据。
后来,谷歌的大模型也被爆出过用了文心一言的训练数据,大家利用来利用去的,这都不是些稀罕事儿。
“但这还是要走训练过程的啊,只是少了数据清洗和标定过程以及相关的人力成本而已,两个模型的能力并不能直接相加,能利用的只是数据而已!”
“除非……”一个大胆的想法在孙博脑海里渐渐的浮现出来:“除非,有办法让智慧化的能力直接交流甚至融合。这……”
饶是只是一个想法,孙博也被自己吓了一跳:如果两个模型的智慧能力本身能够融合和共同利用,但这可能吗?相当于人之间的交流了啊这!
“类思考……”
刚还想着绝不可能呢,但类思考三个字一出来,孙博脑袋直接“嗡”的一声,这已经有先例了:“这人绝对是纪弘没跑,他这是对我有兴趣?”
求追读,尤其是明天后天的章节,关系到这本书能否冲出分类,能否PK上三江。
所以,恳请大家这两天一定要追读最新章节,万分感谢!
(本章完)
第58章 我们只看结果
“黄先生,对于英伟达,我们是钦佩的。”
黄仁勋来到河州科创园区,饶有兴致的在园区里转了好些圈,是见一个夸一个,见到什么夸什么,口中的啧啧称赞声就没停过。
见到张建的时候,更是给了他一个热情的拥抱,两个人还回忆起当初一起开拓英伟达中国市场的奋斗往事,仿佛两个老朋友一般。
最后才说道,英伟达为未来能够合作的期许:“GPU市场很大,而且在快速的发展和扩张,完全容得下两三家甚至更多的企业参与其中。
“你我兄弟专注不同的细分市场,完全可以不用剑拔弩张,共同发展完全可以双赢,而且我们会一如既往的给摩尔科技提供力所能及的支持。”
“黄先生,对于英伟达,我们是钦佩的。”没等张建回应,纪弘开口说道:“作为GPU的开创者,目前这个领域的领头羊,英伟达确实实至名归。
“但是黄总,你知道,卷耳智能科技真正想要的是什么吗?”
“嗯?”黄仁勋有些疑惑,他并不知道。
“你可能会以为,我选择摩尔科技,选择张总,而不是更加强大的英伟达,是因为摩尔科技是中国企业,是我的狭隘心思在作祟。”
纪弘接着说道:“其实不是的。我并不在意合作伙伴是不是外国企业,别说外国企业了,哪怕是外星企业都没关系,我并不在乎这个。”
“那,是为什么呢?”黄仁勋看纪弘说的真诚,但心下却是更疑惑了。
“我们想要的,是永久的安全和可控,而不是一个随时可能掉链子的合作伙伴,而你们完全给不了。这么说,您应该听得明白吧?”
“中国人都是心胸宽广的,从不敝帚自珍,也不刻薄寡恩,向来讲究与人为善、合作共赢。”
张建这个时候开始补充:“当然,摩尔科技也欢迎且不惧任何竞争,但首先,老大需要解决好自己那边的问题。”
黄仁勋算是明白了,这俩人说了这么多,其实就是在告诉自己,英伟达没戏,而且,这不是他们的问题。
怎么就不是你们的问题!
如果你们老老实实的做你们的世界工厂,不要老想着搞什么高科技,那不就安然无事了?怎么还会出这么多的幺蛾子!
黄仁勋心里偶尔冒出这样的想法不奇怪,别说他一个美籍华人,就算是土生土长从来没有出过国的大陆人,都不乏有类似想法的人:
他们把目前的经济形势归于和阿美瑞肯的科技竞争导致的经济限制,以前打打螺丝不是过的挺好吗,为什么还非要发展搞科技呢?搞得现在经济下行,挣不到钱。
不过,黄仁勋就算心里这么想,嘴上也不会这么说的,他说道:“我们也一直在尽我们最大的努力,为国内客户提供安全稳定可靠的服务。
“我也无数次的去游说商务机构,意图放松或者解除显卡的销售限制,英伟达一贯……”
纪弘摆了摆手,这儿就这仨人,也没媒体跟着,起这么高的调子有什么意义呢,他也是说道:“黄先生,光努力没有用的,我们只看事实和结果。”
……
黄仁勋的河州之行没有达到预期的效果,但他对纪弘这个人又有了新的认知他不狭隘,也并不排斥跟国外企业合作,要的是长久的安全和与牢不可破的保障。
他看的出来,纪弘说的很真挚,应该不是作假,而且,结果是注定的,在理由上作假完全没有意义。
“但这更难啊,我说了又不算!”关于这方面,黄仁勋不知道游说了多少次了,但并没有什么成效。
这个时候,他对阿美瑞肯商务机构那帮人是更加痛恨了好好的卖东西不行吗,非得限制来限制去的,如果AI领域最后是卷耳智能科技主导的话,英伟达就要被你们搞死了!
“希望OpenAI给点儿力,要迎头赶上!”黄仁勋酒店都没回,选择直接河州-首都-然后直飞华盛顿去见纳德拉了。
……
“张总,你这边跟游戏开发商显卡针对性优化的事情也要加快进度。”送走了黄仁勋,两个人也是说起下一步的规划:
“从最难的开始,腾讯网易盛大巨人米哈游,我给你提供两个利器,一个是我们的IDE,另一个是平行世界引擎。
“我觉得可以从腾讯入手,这家企业只想挣钱,并不在乎引擎是否自主,甚至不在乎什么控制权,只要能挣钱,他们啥都能干。
“而且更关键的是,他们代理的游戏营收不错,但自己研发的游戏出一个扑街一个,以平行世界引擎的超智慧能力,他们一定会感兴趣的。
“另外,可以给他们透漏消息:除了平行世界,卷耳智能科技也要成立【操作系统小组】了。”
“什么?”张建还有些懵,心道:耳语系统都火爆成这样了,你们还没有专业的操作系统小组?
“这有什么稀奇的?”纪弘笑道:“那就是我为了媳妇儿工作方便,魔改的Linux,加了一个插件和工具而已,后来只组建了一个UI设计组,你不是知道的吗?”
“那这次呢?”每次跟纪弘交流,张建都有一种自己需要准备速效救心丸的感觉,太刺激了。
“这次,要正式的开搞操作系统了啊,利用我们AI的优势。”
纪弘正色道:“第一款从硬件调度、驱动程序、I/O操作、开发工具、软件应用全部融合类思维AI能力的操作系统。”
从当初获得【AI融合操作系统架构灵感+1】的时候,纪弘就记录整理了相关架构,只不过操作系统的开发工作量实在太大,才选择改造Linux做的耳语。
之前做操作系统生态谋划的时候,纪弘还在思考,是继续基于Linux内核,还是一步到位,搞自己的架构和内核。
略微一盘算,卷耳智能科技现在已经有了组建大规模开发团队的资金和实力,趁着要打造原生应用生态,干脆一步到位,与其还在Linux上修修补补,不如直接搞自己的自主生态。
这样还可以实现从底层到应用,从调度到操作,全方位对接类思考模型的AI能力,最为合适不过了。
“基于AI的开发工具,可以省90%的开发工作量;
“平行世界引擎,游戏开发可以利用最强AI类思维模型;
“第一个全智能的AI操作系统;
“一批嗷嗷叫等着入手的狂热用户……”
张建掰着手指头细数着自己这边的优势,然后夸张的说道:
“这么大的优势,如果我还谈不下来游戏开发商的针对开发和优化,那我也甭混了!”
“放心吧,交给我!”这一刻,张建信心十足。
(本章完)
第59章 直接对标北上广深
“操作系统、游戏引擎、智算中心……”张建离开后,纪弘也是在盘算着公司目前的技术和业务。
“单单成立一个【平行世界游戏引擎】开发部吗?”
公司草创的时候只是简单的一个职责划分,技术部门商务部门人力部门等等,非常的简单粗暴。
虽然时间也并不长,但是公司发展太快,这种简单粗暴的的职责划分已经不能满足当前公司飞速发展的需要了。
“陈哥,喊一下人力和行政,我有点儿事儿。”纪弘交代陈继业,根据这些天的决定和人力行政一起草拟一个组织架构的大方案。
……
“纪总,这是方案,您再最后确认一下。”
因为所有的东西都是现成的,该成立哪些部门这些天纪弘也都交代过,陈继业也是个雷厉风行的,当天下午就拿来方案让纪弘确认了。
“嗯,可以。”纪弘仔细看了一下,确认道:
“各部门的权责是非常清晰的,这不用多说,但人员配置这一块儿,你和行政多配合,尽快确定。技术人员配备这一块儿有需要可以直接跟我沟通。”
“另外,公司所有岗位,优先内部提拔选任,包括各中心负责人,只要有人想试试,就可以给他竞聘的机会。
“各中心部门人员配备方案确认后,立即联系各大招聘平台、猎头机构进行人员的招聘。
“鉴于河州互联网与科技企业的现状,招聘可以考虑在全国同步开展,尤其是北上广深。
“之前,河州没有什么有体量互联网和科技企业,很多河阳人被迫漂泊在北上广深,告诉他们,现在有机会可以回家了。
“有人愿意留在大城市,但肯定也有人想要离家近一些。我们尽最大努力给予方便,你这边配合人力设计一个相关大城市的“返乡招聘”活动,甚至可以直接在北上广深设立临时办公区作为面试点,减少他们来往奔波的沉没成本。
“至于薪资,这一波组织架构调整后,将会确定技术人员的技术级别,薪资水平直接对照北上广深一线大厂,让人资给出一个有竞争力的方案来。
“对了,还有内推奖励也可以安排一下,发动我们现有员工的积极性,尽快把人才安排到位。”
纪弘一边看一边按照自己的思路对方案做一些补充,这些不是陈继业想不到,而是只能由纪弘来做决定,比如薪资标准、比如返乡招聘这些。