Интел је у званично представио свој Gaudi 3 процесор — намењен убрзању радних оптерећења генеративне вештачке интелигенције (genAI) у предузећима — на својој „Vision 2024“ конференцији и открио низ производа следеће генерације и стратешких сарадњи са циљем да се повећа адоптација genAI.
Стратегија чип-произвођача обухватила је стратегију за hardware и cloud услуге за све, од data центара до edge уређаја, укључујући AI PC-јеvе.
Међутим, битно је истаћи да је влада САД-а дала компанији Intel 8,5 милијарди долара директно и 11 милијарди долара кредита како би подигли производњу чипова у Аризони, Охају, Њу Мексику и Орегону. На тај начин Америка жели да очува своју привреду и економију и уведе протекционистичке мере
40 милиона АI процесора у 2024. години
Извршни директор Intel-a Patrick P. Gelsinger хвалио је еру AI, која укључује PC-јеvе који ће користити нову породицу „Intel Core Ultra“ процесора. Компанија очекује да ће испоручити 40 милиона AI PC процесора у 2024. години и 100 милиона следеће године.
У децембру, Интел је првобитно најавио надолазеће издање свог „Gaudi 3“ процесора за радна оптерећења AI у дата центрима, и представио је преглед својих 14. генерацијских Core Ultra „Meteor Lake“ процесора за дата центре и 5. генерацијских Xeon Scalable CPU-ova.
Нови „Xeon 6“ процесори
Нови „Xeon 6“ процесори ће укључивати софтверску подршку за MXFP4 формат података, што смањује латенцију за наредни токен до 6.5 пута у поређењу са Xeon процесорима 4. генерације који користе FP16, уз могућност покретања Llama-2 великих језичких модела са 70 милијарди параметара.
Intel је понудио и нове детаље о Gaudi 3 архитектури, перформансама и ОЕМ-овима који су се обавезали да ће је довести на тржиште, и истакао растући број корисника. Компанија је навела више од десетак „партнера“ који користе њене Gaudi 3 акцелераторе, укључујући NaverCorp., Bosch, NielsenIQ и Seekr.
Nvidia је предводила тржиште AI хардвера
Историјски гледано, компанија Nvidia је предводила тржиште АI хардвера са својим GPU-овима (графички процесорски уређаји) и TPU-овима (тенсор процесорски уређаји), креираним за напајање и обуку великих језичких модела и АI апликација. У складу с тим, Интел је Gaudi 3 позиционирао као директног конкурента Nvidia-inom Х100 GPU-u.
Gaudi 3 пружа у просеку 50% боље закључивање тренираних АI модела и 40% бољу енергетску ефикасност у поређењу са Nvidia-inim H100 – „за много мање новца“, рекао је Гелсингер.
Gaudi 3 je доста супериорнији од Nvidia H100 GPU
Према Intel-u, Gaudi 3 акцелератори могу пружити четири пута више АI рачунања за рачунарске меморијске системе користећи BF16 floating point format и 1.5 пута већу пропусност меморије у поређењу са Gaudi 2. Поред тога, такође нуди двоструко већу пропусност мреже у поређењу са својим претходником.
Intel је користио TSMC-ov процес од 5 nm за израду Gaudi 3 чипова, који су сада доступни оригиналним произвођачима опреме (ОЕМ-овима) укључујући Dell, XPE, Lenovo и Supermicro за тржиште АI дата центара. Чип је дизајниран да се повеже са хиљадама других унутар дата центара.
У 2023. години Nvidia je контролисала 83% тржишта чипова
Прошле године, Nvidia је контролисала око 83% тржишта чипова за дата центре, док је већим делом преосталих 17% доминирао Google-ovim прилагођеним тенсор процесорским јединицама (TPUs).
Током своје „Vision“ конференције, Интел је такође пружио нове информације о својим производима и услугама следеће генерације у свим сегментима пословне АI примене, укључујући и своје нове „Intel Xeon 6“ процесоре, који могу покретати RAG процесе.
