文章主题:ChatGPT, 数据基础设施, AI技术应用
🔥ChatGPT引领热潮,AI再掀热议!🔍技术实力如何衡量?三大核心——数据、算力与算法,是关键指标。而这背后的基石,正是由高性能服务器、海量存储及高效网络构建的全面数据基础设施。🚀它支撑着创新,驱动未来,是你我探索智能世界的强大引擎。欲了解更多,一触即达!🌐
🌟🚀《存储新论:ChatGPT背后的AI热与数据价值》🔥🔍🚀由行业领军者至顶科技发起的深度访谈节目,再次聚焦存储技术与数据价值的深度探索!🎉西部数据携手伙伴,以ChatGPT为引擎,引领我们驶入人工智能浪潮的前沿。👩💼马竹茂总经理,宋磊高级总监,以及技术专家高飞总经理,三人智慧碰撞,共同揭示AI时代数据的新机遇与挑战。🔍ChatGPT的兴起,不仅引发了大众对AI技术的狂热讨论,也催生了海量数据的生成和处理需求。💡他们深入剖析,如何在这样的背景下,构建高效、稳定的数据基础设施以支持创新应用的发展。🚀节目中,他们将分享如何利用存储新技术应对AI时代的数据洪流,以及未来数据管理的战略布局。👩💻准备好,让我们一起跟随他们的脚步,探索数据新价值的无限可能!📝记得关注我们的系列访谈,获取更多关于存储技术与人工智能最新动态的深度解析!👇#ChatGPT #AI热 #数据价值 #存储新技术 #至顶科技
AI带来的数据新机遇
🌟了解AI驱动的关键要素:💡算法、🏃♂️算力与”data燃料”!就像一台超级智能机器,算法是它的动力源,强大的算力加速引擎运转,而数据则是让这股力量燃烧的必需品。西部数据中国区的技术专家宋磊深入解析了这三者如何协同工作,释放数据价值的无限可能。🚀让我们一起探索AI如何驱动未来的创新与变革吧!#人工智能 #数据价值 #算法引擎
💻🚀随着科技的飞速迭代,IT基础设施围绕数据、算力与算法的创新从未停歇。就像宝德服务器这二十载的稳健成长历程,见证了时代的变迁。起初,PC主导的局域网对服务器的单一依赖,如同黎明前的曙光,预示着变革的到来。到了2007年,乔布斯的iPhone开启移动互联网革命,犹如一道闪电划破夜空,云计算与数据中心由此勃兴,大数据洪流滚滚而至。那时,非结构化数据的涌现就像沙漠中的绿洲,对数据中心的存储能力提出了前所未有的挑战。服务器硬盘的容量也经历了从最初的双驱扩展到如今的48块甚至更大容量的巨变,犹如升级版的引擎,以惊人的速度满足了海量数据的存储需求。这种技术创新不仅提升了效率,更在无形中推动了行业的深远发展。
🌟预测未来:到2025年,AI内容生成将占数据总量的10%,这无疑为服务器和存储市场带来了显著增长的机遇!📊ChatGPT等创新应用的兴起,对计算能力提出了前所未有的挑战,这意味着大量的AI服务器需求即将爆发。📈随着国内顶尖大模型的广泛应用,服务器需求将持续攀升,这对于专注于此类技术的公司如宝德科技来说,无疑是巨大的福音和绝佳的发展契机。💼马竹茂总经理信心满满地表示,这将为宝德带来前所未有的业务增长潜力。🏆
面向AI,数据基础设施新挑战
在绿色能源转型的当下,’3060目标’为数据中心设立了严格的能效标准,比如’东数西算’工程就对PUE值提出了具体要求:西部数据中心需达到小于1.2的理想水平,其他地区也不得高于1.25,而示范项目更是要低至1.15的先进境界。随着每年数据量的爆炸式增长,远超以往任何时期,AI应用的井喷进一步推动了服务器设计与技术革新的紧迫性。
“简单来说,AI应用给服务器带来两大挑战:一个费电、一个费钱。” 马竹茂讲到。费钱指的是生产过程中的成本挑战,通用服务器以CPU为核心,人工智能服务器包括GPU、TCU、NPU、XPU、FPGA等加速卡,过去一台服务器几万人民币,现在添加一块加速卡有时候就几万人民币。
费电指的是使用过程中的功耗挑战,人工智能服务器里面除了CPU、几十块硬盘之外,还包括GPU等加速卡,每台服务器如果都进化到AI服务器,那么从CPU到GPU会增加上几百亿个晶体管,增加几百瓦的发热功耗,那么对上万台甚至数十万台服务器的数据中心的能耗就形成了很大挑战。” 马竹茂解释到。
而AI时代,不仅数据量爆炸式增长,而且对数据质量要求也越来越高。以ChatGPT 4.0来举例,它在训练时候使用到了45TB的数据,有近一万亿个数据量,数十亿行的源代码。大家都惊叹于ChatGPT流畅互动的界面,其背后是海量的知识量以及需要处理海量数据的算力。 “本质上讲数据的数量和质量决定了人工智能整体的落地水平。” 宋磊分享到。
要实现海量数据的存储和数据高质量的提取,不仅考验算力,也对硬盘的性能、容量、延迟等方面都提出更高的要求。“结合人工智能应用从数据角度来说,它的训练需要海量数据尤其是PB级的数据,需要更大的存储容量,同时在训练过程中这些数据写得少,读得多,还需要更高的吞吐量,以及对延迟、性能都有更高的要求。” 宋磊讲到。
面对AI新挑战,双方携手破局之道
一方面AI服务器面临的能耗挑战、成本挑战,另一方面在数据层面还面临对于大容量、高性能的存储需求,因此如何构建绿色高效、高速共享的AI服务器架构成为双方的应对之道。
“要打造智能化的计算平台,宝德发挥CPU+GPU异构设计优势,完成了人工智能训练和推理、高密度系列和大容量存储系列相关产品的扩展和升级,并且加大在自主研发、方案优化、专业服务和智能生产等方面的投入。”马竹茂表示。
针对功耗和成本,宝德AI加速服务器采用第四代英特尔至强可扩展处理器,来提供强大的计算能力,支持DDR5、PCIe 5.0和HBM,性能提升高达50%;同时可以支持24个2.5”SATA/SAS/NVMe和2个后置2.5 ”SATA/SAS热插拔硬盘,支持内置1个M.2(NVMe/SATA),保障了整机性能的强劲可靠;面向CPU+GPU异构设计,还具有智能散热系统,可以根据热关键器件的温度综合调节风扇转速;并支持液冷散热方案,可以有效减少数据中心客户的整体碳排放,显著降低客户TCO(总体拥有成本)。
面向AI应用,西部数据也用创新的思维重新审视存储的架构,根据数据的使用频率和场景,通过对数据进行分层存储,来实现成本、性能、能耗和扩展之间的平衡。
具体而言将数据分为极热数据、热数据、温数据、冷数据和极冷数据。极热存储适用于内存DRAM;热存储方面,用户希望快速访问高价值数据,进行业务的预测或决策等,适用于高性能SSD;温存储则代表了读取较频繁,有较高性能IOPS和带宽要求,主要以主流SSD或HDD为主;冷存储则是少量写入,多次读取,适用于高密度大容量的企业级硬盘,目前西部数据已推出22TB CMR HDD;极冷存储则用于大块写入,写入次数较少的数据保存,可以用SMR HDD来满足需求, 其最高容量能达到26TB。
以西部数据推出的HelioSeal氦气密封技术为例,西部数据Ultrastar系列企业级硬盘HDD 采用的第7代充氦气密封技术,实能够实现了更低功耗带来(W/TB) 更高功效。不仅如此,氦气填充硬盘还因为内部填充氦气,外部密封的独特优势,甚至能够在全浸没式液冷环境中稳定运行。实现了超大规模、云和企业级存储环境下,在提供高容量的同时,减少热排放,支持双碳减排;同时降低系统散热设计复杂性来实现运营成本的降低。
“通过数据分层存储,可以更好的和宝德这样的行业领先的解决方案提供商一起重新审视存储架构,一起为客户提供按需分配的创新的存储解决方案。” 宋磊讲道。
访谈最后,双方表示将继续在产品、技术、市场等方面进行持续合作。在产品上,西部数据会第一时间把最新的产品应用到宝德的服务器上;在技术上,双方联合实验室持续优化解决客户面临的存储问题。“硬盘很小,但是很复杂和精密,服务器上的风扇选的不对,风力都会影响到机械硬盘的稳定性、读写速度。” 马竹茂讲到。在市场上,双方将联合推进包括巡展、客户交流等市场活动。实现通过全面合作,来持续为用户提供领先的解决方案,加速企业数字化转型。
欢迎观看完整版视频,了解更全面的内容:
https://www.zhiding.cn/special/westerndigital_2022_PowerLeader
AI时代,掌握AI大模型第一手资讯!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
扫码右边公众号,驾驭AI生产力!