九游会·(j9)官方网站

九游会·(j9)官方网站 你的位置:九游会·(j9)官方网站 > 新闻资讯 >

九游会·(j9)官方网站以高性能、灵通性和天真性助力企业鼓动生成式AI改进-九游会·(j9)官方网站

发布日期:2024-05-14 07:11    点击次数:113

中关村在线音书,好意思国当地时候4月9日,英特尔举办了面向客户和合营伙伴的英特尔on产业改进大会,通知了英特尔至强6处理器的全新品牌,推出英特尔Gaudi3加速器,以高性能、灵通性和天真性助力企业鼓动生成式AI改进,并发布了涵盖全新灵通、可扩张系统,下一代家具和一系列政策合营的全栈惩办决策,以加速生成式AI落地。左证cnvrg.io的调研停止,2023年唯有10%的企业得胜将其生成式AI口头家具化。英特尔的最新惩办决策有望匡助企业应酬推论AI口头时所靠近的挑战。

英特尔公司首席履行官帕特·基辛格暗意:“改进本领正在夙昔所未有的速率发展,每家公司齐在加速成为AI公司,这一切齐需要半导体本领提供接济。从PC到数据中心再到旯旮,英特尔正在让AI走进千行百业。英特尔最新的Gaudi、至强和酷睿平台将提供天简直、可定制化的惩办决策,欢乐客户和合营伙伴不休变化的需求,把合手住翌日的巨大机遇。”

企业但愿将生成式AI从熟习阶段扩张到诈欺阶段。因此,他们需要基于诸如英特尔Gaudi3 AI加速器这么的高性能、经济实用、节能的处理器所打造的可快速部署的惩办决策。况且,Gaudi3还能欢乐复杂性、资本效益、碎屑化、数据可靠性和合规性等需求。

推出用于AI西席和推理的Gaudi 3

英特尔Gaudi 3 AI加速器将为AI系统提供能源,该AI系统可通过以太网的通用范例勾搭多达数万个加速器。与上一代家具比拟,英特尔Gaudi 3将带来4倍的BF16 AI算计能力提高,以及1.5倍的内存带宽提高。该加速器将为寻求大范围部署生成式AI的企业带来AI西席和推理方面的要紧飞跃。

英特尔Gaudi 3瞻望可大幅缩小70亿和130亿参数Llama2模子,以及1750亿参数GPT-3模子的西席时候。此外,在Llama 7B、70B和Falcon 180B大谈话模子(LLM)的推理糊涂量和能效方面也展现了出色性能。

英特尔Gaudi 3提供灵通的、基于社区的软件和行业范例以太网网罗,允许企业天真地从单个节点扩张到领少见千个节点的集群、超等集群和超大集群,接济大范围的推理、微调处西席。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货。

英特尔AI惩办决策为客户创造价值

英特尔概括了面向灵通的、可扩张的AI系统的政策,其中包括硬件、软件、框架和器用。英特尔让正常的AI灵通生态系统参与者,如建筑制造商、数据库提供商、系统集成商、软件和劳动提供商等,约略提供欢乐企业特定生成式AI需求的惩办决策。与此同期,亦让企业与他们已知、信任的生态系统合营伙伴伸开合营并弃取相应惩办决策。

生态系统合股创建灵通平台,助力企业AI改进发展

英特尔合股Anyscale、Articul8、DataStax、Domino、HuggingFace、KXSystems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同通知,将创建一个灵通平台助力企业推动AI改进。这一凝结全行业力量的有臆测打算旨在开拓灵通的、多供应商的生成式AI系统,通过RAG(检索增强生成)本领,提供一流的部署便利性、性能和价值。RAG可使企业在范例云基础要领上运行的无数现有稀奇数据源得到灵通大谈话模子(LLM)功能的增强,加速生成式AI在企业中的诈欺。

在该有臆测打算的开动阶段,基于安全的至强处理器和Gaudi惩办决策,英特尔将面向生成式AI程度(pipelines)推出参考竣事,发布本领主见框架,并络续增进英特尔Tiber开拓者云平台基础要领的功能,以便为RAG及翌日程度的生态系统开拓和阐述打下基础。英特尔饱读吹生态系统进一步参与到这一灵通平台的创建中来,以促进企业接收该平台,扩大惩办决策的诈欺范围,并取得业务后果。

英特尔扩张AI道路图和灵通生态系统法子

英特尔还共享了企业AI各细分领域的下一代家具和劳动的最新信息。

全新英特尔至强6处理器:英特尔至强处理器为运行刻下的生成式AI惩办决策提供了性能高效的惩办决策,包括使用稀奇数据生成特定业务停止的RAG。同期,英特尔还为面向数据中心、云和旯旮的下一代处理器进行了品牌焕新,即英特尔至强6。配备能效核(E-cores)的英特尔至强6处理器将于2024年第二季度推出,提供非凡的服从,配备性能核(P-cores)的英特尔至强6处理器将紧随自后推出,带来更高的AI性能。

配备能效核的英特尔至强6处理器(代号为Sierra Forest):

与第二代英特尔至强处理器比拟,每瓦性能提高2.4倍,机架密度提高2.7倍。

客户能以近3:1的比例替换旧系统,大幅降固执耗,匡助其竣事可连接发展主义。

配备性能核的英特尔至强6处理器(代号为Granite Rapids):

包含了对MXFP4数据阵势的软件接济,与使用FP16的第四代英特尔至强处理器比拟,可将下一个令牌(token)的蔓延时候最多缩小6.5倍,约略运行700亿参数的Llama-2模子。

客户端、旯旮和勾搭:英特尔共享了客户端家具的发展势头以及诸多旯旮和网罗互联家具的道路图更新,包括:

英特尔酷睿Ultra处理器为出产力、安全性和试验创作提供了全新能力,并为企业焕新其PC建筑提供了巨大能源。英特尔瞻望将于2024年出货4000万台AI PC,以及跳跃230种的瞎想,袒护飘零PC和游戏掌机建筑。

将于2024年推出的下一代英特尔酷睿Ultra客户端处理器家眷(代号Lunar Lake),将具备跳跃100 TOPS平台算力,以及在神经网罗处理单位(NPU)上带来跳跃46 TOPS的算力,从而为下一代AI PC提供强劲接济。

英特尔发布了涵盖英特尔酷睿Ultra、英特尔酷睿、英特尔凌动处理器和英特尔锐炫显卡系列家具在内的全新旯旮芯片,主要面向零卖、工业制造和医疗等重要领域。英特尔旯旮AI家具组合内的统统新品将于本季度上市,并将在本年年内获取英特尔Tiber旯旮平台的接济。

通过超以太网定约(UEC),英特尔正在驱动面向AI高速互联本领(AI Fabrics)的灵通式以太网网罗改进,并推出一系列针对AI优化的以太网惩办决策。这些改进旨在窜改可大范围纵向(scale-up)和横向(scale-out)扩张的AI高速互联本领,以接济AI模子的西席和推理,这些模子的范围日益庞大,每一代齐会增长一个数目级。英特尔的家具组合包括英特尔AI网罗勾搭卡(AI NIC)、集成到XPU的AI勾搭芯粒、基于Gaudi加速器的系统,以及一系列面向英特尔代工的AI互联软硬件参考瞎想。

英特尔Tiber业务惩办决策组合

英特尔发布了英特尔Tiber业务惩办决策组合,以简化企业软件和劳动的部署,包括生成式AI。

这一吞并的体验将使企业客户和开拓东谈主员约略更轻松地找到合适其需求的惩办决策,加速改进并开释价值,同期不烽火安全性、合规性或性能。客户即日起便可脱手探索英特尔Tiber家具组合,本年第三季度这一惩办决策将会全面推出。

英特尔耐久竭力于让AI更易于使用、更灵通、更安全,从而欢乐民众企业的不同需求。通过Intel Vision 2024大会上公布的全新合营和惩办决策,英特尔将在AI波浪中全力引颈改进,让AI为百行万企带来前所未有的价值。

  声明:新浪网独家稿件,未经授权拒绝转载。 -->