笔下文学网

手机浏览器扫描二维码访问

基础算力,人工智能的底层支撑(第2页)

本小章还未完,请点击下一页继续阅读后面精彩内容!

举个直观的例子:同样大小的芯片,5nm芯片比14nm芯片能多装好几倍的晶体管,计算速度能提升30%以上,耗电却能减少50%。这对AI来说太重要了——AI需要长时间、高强度计算,芯片又快又省电,就能让AI服务器不用频繁断电散热,还能降低成本。

再说说“架构创新”。以前芯片多是“通用架构”,比如CPU的x86架构、ARM架构,能处理各种任务,但面对AI的“并行计算”需求(也就是同时处理大量数据),效率就不够高。所以现在专门为AI设计的“专用架构”越来越多,比如NPU(神经网络处理单元)。

NPU的设计思路很简单:AI最常用的是“神经网络计算”,就像人脑的神经元一样,需要大量“重复且相似”的计算。NPU就专门优化这种计算,去掉了通用架构里用不上的功能,把所有“力气”都用在神经网络计算上。比如手机里的NPU,能快速处理拍照时的图像优化、人脸识别,比用CPU处理快好几倍,还不耗电——这就是“专芯专用”的优势。

现在的芯片,就是“先进制程+专用架构”双轮驱动,既保证了计算速度,又提高了AI任务的处理效率,成了算力升级的“核心引擎”。

2. 服务器:算力的“运输车”,装得越多、跑得越稳

如果说芯片是“心脏”,那服务器就是算力的“运输车”——芯片产生的算力,要靠服务器整合、输出,才能供AI使用。现在的服务器,主要往“装得多”(高密度)和“不趴窝”(高可靠性)两个方向发展,尤其是AI服务器,更是如此。

先看“高密度”。AI需要的算力特别大,一台服务器里装的芯片越多,能提供的算力就越大。以前的普通服务器,最多装2-4块GPU,而现在的AI服务器,能装8-16块GPU——就像以前的卡车只能装2吨货,现在的卡车能装16吨货,运输效率直接翻了好几倍。

比如2023年的时候,全球AI服务器市场规模同比增长了80%以上,很多科技公司比如谷歌、百度、阿里,都在大量采购这种多GPU的AI服务器,就是为了满足大模型训练的需求。一台能装16块GPU的AI服务器,一次能处理的数据量,比普通服务器多十几倍,大大缩短了大模型的训练时间——以前可能要几个月才能练完的模型,现在几周就能搞定。

再看“高可靠性”。AI的计算任务往往不能中断,比如训练一个大模型,要是服务器中途坏了,之前的计算成果可能就白费了,得重新开始。所以现在的服务器都做了“冗余设计”——比如关键部件(电源、风扇、硬盘)都装两个,一个坏了另一个能立刻顶上;还有“故障预警系统”,能提前检测到服务器的问题,比如某个部件温度太高,会自动报警并调整,避免突然“趴窝”。这种高可靠性,保证了AI计算能连续不断地进行,不会因为硬件故障耽误事。

3. 数据中心:算力的“仓库+调度站”,又绿色又高效

数据中心就是存放服务器、存储数据、调度算力的地方,相当于算力的“仓库”和“调度站”。现在的数据中心,不只是“堆服务器”,而是往“绿色化”和“集约化”发展,既要提供足够的算力,又要减少能耗、提高效率。

先说说“绿色化”。数据中心里有大量服务器,这些服务器运行时会产生很多热量,需要空调散热,所以耗电特别大——以前的 data center,每提供1单位的算力,可能要消耗1.5单位以上的电(用PUE值衡量,PUE=总耗电量/算力耗电量,越接近1越省电)。现在为了减少能耗,都在用“液冷技术”——不是用空调吹,而是用特殊的冷却液直接接触服务器,散热效率比空调高好几倍,能把PUE降到1.1以下。

举个例子:阿里在张北建的数据中心,用了液冷技术后,PUE只有1.09,也就是说,每提供100度的算力用电,总共只消耗109度电,比传统数据中心省了40%以上的电。这对AI来说很重要,因为AI需要长期占用大量算力,省电就等于省成本,还能减少碳排放,符合绿色发展的要求。

再说说“集约化”。以前的数据中心大多建在大城市,但大城市的土地、电力成本高,而且数据传输距离远,会有延迟。现在都在搞“边缘数据中心”——把小型数据中心建在靠近用户或设备的地方,比如城市的基站旁边、工厂的车间里、高速公路的服务区里。

这样做的好处很明显:数据不用传到远处的大型数据中心,能在本地处理,减少传输延迟。比如在自动驾驶场景里,车辆需要实时处理路况数据(比如前面有没有车、红绿灯是不是红灯),如果数据要传到几十公里外的数据中心,再传回来,哪怕只有1秒的延迟,都可能引发事故。而边缘数据中心就在路边,数据处理的响应时间能控制在毫秒级(1毫秒=0.001秒),相当于“即时反应”,能保证自动驾驶的安全。

本小章还未完,请点击下一页继续阅读后面精彩内容!

现在的数据中心,就是通过“绿色化”降成本、减排放,通过“集约化”缩延迟、提响应,成了算力的“稳定后方”,让算力既能持续输出,又能高效到达需要的地方。

三、算力怎么用得好?边缘计算+调度平台,打破“算力孤岛”

有了算力,也有了硬件支撑,还得解决一个问题:算力不能“浪费”。现在很多地方都有算力,但有的地方算力不够用(比如东部大城市),有的地方算力用不完(比如西部偏远地区),就像有的地方水多泛滥,有的地方水少干旱,这就是“算力孤岛”。要解决这个问题,就得靠算力网络建设——核心是“边缘计算”和“算力调度平台”,一个让算力“靠近用户”,一个让算力“按需分配”。

1. 边缘计算:把算力“搬”到用户身边,减少延迟更安全

热门小说推荐
难驯

难驯

《双强+追妻火葬场+极限拉扯+虐恋情深》纪蕴暗恋霍北林四年,靠着当年荒唐一夜的恩情嫁给了他,结婚两年,他冷落她,刁难她,厌恶她,他们的婚烟如同囚笼。本以为他生来冷漠,坚持不懈总能捂热他冰冷的心。直到看见他对他的小青梅如珠似宝,为了她站在自己的对立面恶语相向。纪蕴幡然醒悟,女人就该站在名利巅峰,不该为情所困,于是,她及时止损,递给他一纸离婚协议书。霍北林冷眼一扫,“纪蕴,从结婚那天起,你就没资格对我说不!”“如果我一定要离呢?”“霍家只有丧偶,没有离婚!”“……”霍北林觉得她跟以往一样闹脾气,冷一冷就好,要不了多久她又会在家摇尾乞怜的等着他。直到纪蕴彻底消失在他生活中,霍北林疯了。后来纪蕴事业风声水起,追求者无数。远在千里之外的男人,横跨大半个地球,出现在她家门口。……大雪纷飞,纪蕴静静的站在门口,看着向来高高在上的霍北林戴着银白色项圈,一步一步跪到她面前。他小心翼翼的把绳索塞进她手中,眼尾泛红,苦苦哀求,“阿蕴,求你,别放弃我![在难驯的野狗,也能一寸一寸打碎他的脊梁,乖乖戴上项圈。]...

孤笑倚轻鸿

孤笑倚轻鸿

附:【本作品来自互联网,本人不做任何负责】内容版权归作者所有!孤笑倚轻鸿1.穿越夏苏苏,22岁,厦门大学农科院大四的高才生,相貌平凡,待人礼貌温和。她不爱说话,向来比较安静,最喜欢呆在寝室里看书。成绩好,又不会骄傲,总是谦虚淡漠的说没什么。各科老师都很喜欢她,可是她却拒绝了很多老师请她担任助手的好意。谁都知道,如果能当上某科老...

再少年

再少年

陆鱼一觉醒来,穿越到了十年后。 好消息,十年后的他事业有成,财富自由,娶到了梦寐以求的男神学长。 坏消息,男神正要跟他离婚。 陆鱼:你跟二十八岁的陆大鱼离婚,与我十八岁的陆小鱼有什么关系?你离你的婚,我追我的男神,咱俩互不相干。 要离婚的男神本尊:…… 明砚为了国外公司的问题,跟合伙人协议结婚,三年后公司稳定协议到期该离了,这合伙人突然坚称自己是穿越来的,死活不肯离这个婚。脑壳疼。 陆鱼(攻)X明砚(受)...

寻心

寻心

柏浔x应小澄 被偷进穷乡僻壤的真凤凰和没心没肺的小太阳 应小澄7岁的时候,隔壁无法生育的路家夫妇忽然多了一个粉雕玉琢的漂亮儿子,名字是路心。 路心就好像从石头里蹦出来的,特别不爱说话,应小澄一开始还以为他是哑巴,心里可怜,变着法对他好,可路心从不领情。 应小澄捂石头一样捂着路心,把他放在心尖上,却从未得过一个好脸。 三年后,路心真正的家人出现了,带走了路心。 临别前,冷冰冰的凡胎菩萨拉着应小澄的手,“我叫柏浔,如果你能走出大山,就来找我。” - 多年后,柏浔已经高不可攀。 幼年的约定似乎只有应小澄记在心上,拼尽全力想再见柏浔一面。 “别白费功夫了,他根本不想看见你。” 多次吃闭门羹的应小澄毫不气馁,拿着柏家给的钱买菜做饭,再给柏浔送去。 “他不想见我就不见吧,只是我答应过他了,不会丢下他不管。” “你答应谁?” “答应心心。” 久别重逢前十章童年...

巫夷人家

巫夷人家

阿苏南本是一个普通的夷家小孩,六岁那天一朝醒来灵智洞开,前尘往事滚滚而来,发现自己是来自异世的一缕游魂,这里,则是一个类似于传说中“苗疆”一般的地方,而他这个“异世游魂”,却深深地爱上了这方山水……温馨种田文,非升级流,伪养成,无生子。本文是“一半一半”文,一半种田,一半巫修,总之都很童话很温馨。 作者申明:本文不是废柴流,主角不是废柴,也不存在逆袭打脸,他一直都活的飞扬自在,但是,生活中免不了会有...

我在NBA偷戒指

我在NBA偷戒指

——无系统,猥琐流——詹姆斯抱怨道:“我从来没有在超级球队待过。”而陈极会说:“对的,我很幸运,我去的每一支球队都是超级球队,不夺冠就失败的那种。”顺便问詹姆斯哈登一句:“登哥要总冠军戒指吗?”......