手机浏览器扫描二维码访问
穿过北疆科大的校门,越过两栋教学楼,实验室里,李泽和姜伊伊安安静静地坐在门口的位置。
虽然是周末,但吴晓忠的实验室却没有休息。
“老师,这次我只微调了150个参数,可这任务卡在99%已经两天了,咱们实验室的算力什么时候能增加一些?”
吴晓忠的学生王楠在一旁抱怨道。
他也不想周末泡在实验室,可手里的任务一直在延迟,倒不是他代码写的慢,而是实验室的算力实在是不够用。
吴晓忠主攻的就是AI大模型,之前接受李泽的投资,大模型研发有了长足的进展。
甚至已经有了很多成果落地。
可在继续迭代的过程又遇到了问题,数据工程、架构创新等基础都已经做到极致。
可问题就出现在调参训练上,实验室的硬件有限,每次跑任务都要等上几天。
写代码只要一小时,可等任务却超过了3天。
吴晓忠的大模型在这样的效率下,不仅没有掉出第一梯队,还能跟上世界先进水平,已经很不容易了。
要知道,现在的大模型动不动就上亿级别的参数,每次只优化几百个,这效率可想而知。
“困难总是有的,想办法克服就是了,等熬过这一段时间,一切都会好的。”
吴晓忠出言安慰道。
他也不是没做出改变,模型架构已经优化到极致,kv缓存压缩至十分之一,长上下文显存占用降低90%。
分布式、无辅助损失负载均衡、双向流水线,能想到的都想到了,可问题是底层的硬件底座不够给力。
用的显卡是几年前的旧款,数量和质量都不尽如意,也不是他不想更新。
实在是丑国封杀得严,高端显卡禁运,吴晓忠想买也买不到。
想订购国内最新款自研显卡,可是产能又不够,那些大公司都吃不饱,他一个小实验室想抢到训练用的显卡太难了。
无奈,只能用时间来换,争取每次调参的代码准确性高一些,避免出现返工的问题。
又查看了几个学生的任务,吴晓忠慢慢走到李泽的身前。
这是他第二次见李泽,上次还是在海浪汽车的厂里,测试自动驾驶模型的时候。
他对李泽的印象很深,是个聪明孩子,而且还是李尚海的儿子,大家都亲切地称呼李泽为小李总。
“小李总,今天怎么有空来这里玩,是不是想提前感受一下大学的氛围?”
“吴教授,我这次来是有点事想请教你的。”
“哦?”
吴晓忠饶有兴趣地盯着李泽,一个小学生有问题请教他一个大学教授,多少令人有点好奇。
“说说看,有什么是要请教的?”
吴晓忠随便拉了把椅子,坐在李泽的对面。
没有对错。正义,胜者才有资格书写!不会写大纲,想到啥写啥。就这样,憋出20个字简介我也不容易,就这样吧。...
...
木叶从日向开始谨慎是七玄羽精心创作的灵异,旧时光文学实时更新木叶从日向开始谨慎最新章节并且提供无弹窗阅读,书友所发表的木叶从日向开始谨慎评论,并不代表旧时光文学赞同或者支持木叶从日向开始谨慎读者的观点。...
作为一只重生奶萌娃,姜小宝这辈子最重要的任务是想方设法把亲娘送到亲爹身边,然后心安理得地为他爹分忧,顺理成章地给他爹尽孝。亲娘白眼你那是孝顺吗?你分明是馋他的银子!小宝表示银不银子的无所谓,主要想认个爹。溪水村带着个小拖油瓶的寡妇姜妙嫁给了权倾朝野的本朝第一大宦官肖彻。一个不会生,一个不用再生。亲爹骂她丢人现眼,亲妹为她拍案叫绝。后来,肖某人带兵造反登基为帝要立后,寡妇和小拖油瓶遭到百官诟病。肖某人慢条斯理,从背后将小拖油瓶拎出来,介绍一下,我儿子,亲生的。(本土男女主重生萌宝,一对一暖文。)...
一觉醒来,秦宇成了一名身负厄运命格的命师从此被强横厄运缠绕什么大能帝皇,遇到我你也得倒血霉妖魔鬼怪,喝凉水也塞牙仙神佛陀,皱眉摇头唯恐避之不及你说我命硬扫把星,我说你胆小怕事枉作创世元灵。这是一个让别人倒霉,自己受益的舒爽故事。各位书友要是觉得我的命格是怪物还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...
魂元大陆,一个以觉醒魂灯修炼魂力为尊为贵的大陆。在这个大陆上有一个关于九重天的传说,一代代人前赴后继的追寻着这个传说。乌家有女名千雪,世人皆言,命极好!父亲是魂元大陆长帝国第一魂力强者,母亲是魂元大陆圣山学院院长之女,除了父母的宠爱还有两个护妹如狂的天才哥哥。可是这样一位娇娇女,长帝国愣是没人见过。传言乌家女美如皎月。传言乌家女出生就觉醒了魂灯,天赋超绝。长帝国皇帝以中意其为儿媳妇想要见一面,都被护国候以女儿的夫君将来要她自己选为由给拒绝了。据说,本来兴致勃勃的太子殿下,立时黑了脸,命极好的乌千雪从此被命极贵的太子殿下姬长君给惦记上了。两人的命运从还没见过面就缠在一起,一起谱写出一首旷世奇缘...