Gde vidite Intel-a za nekih 2 do 5 godina? :)

Koliko vidim, M2 trenira kao PCIe 5.0 - sto je dobra vest :-)

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Ok, prvi pokusaj benchmarka, bez ikakvih BIOS promena ili drajvera - i dalje samo sa jednim procesorom:

Sistemski drajv (1x, bez RAID-a i sl):



Definitivno nije PCIe 4.0, ali je i dalje prilicno daleko od max performansi. Videcemo sta ce biti ako moze nesto u BIOS-u da se optimizuje.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

DISKOVIMA TREBA AKTIVNO HLADJENJE!!!
(ne samo heatsink, nego heatsink sa ventilatorom)

Posle BIOS optimizacija je citanje preslo 10 GB/s, ali je disk otisao u throttlefest kod pisanja.

Sa ventilatorom i optimizacijama:



Bolje ;-)

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Sa jednim CPU-om Cinebench R23 je 64440, sto je slicno rezultatima dobijenim sa 2 Ice Lake SP (8375C) procesora sa ukupno 64 jezgra.

Sutra cu da stavim i drugi CPU pa cemo videti kako skalira ali se naslucuje da se moze izvuci 2x vise u odnosu na proslu generaciju..

Ono sto je zanimljivo je da single-socket rezultati nisu puno drugaciji od Workstation modela (W9-3495x) koji postize skor 67938 (https://overclock3d.net/review...w9_3495x_and_w9_3475x_review/8). Pretpostavljam da u full opterecenju stock W9-3495x obara radni takt i postaje slican serverskom modelu. Naravno, W9-3495x moze da se overclock-uje i onda Cinebench prelazi 100K, ali po cenu mnogo vece potrosnje. Plus, W9 je 1S model, dok serverski procesor moze da radi u multi-socket konfiguraciji.

HwInfo prijavljuje da potrosnja procesora nije prelazila 380W za vreme Cinebench testa.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Ok, sa 2 instalirana procesora, Cinebench R23 je ~92-93K u zavisnosti od testa do testa.

Procesori prijavljuju da trose do 380W po komadu. Temperatura jezgara ne prelazi 68C sa mojim loop-om (temperatura sobe: 24C) ali je unutrasnjost kucista a i okolina kao unutar zvezde.

Test rig:

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Temperature gore su bile sa 3 ventilatora i redukovanim obrtajima.

Sa 6 Phjanteks ventilatora i max obrtajima koje ploca daje (cenim da i dalje nije max. koliko ventilatori mogu) CPU temperatura ne prelazi 49C (delta u odnosu na sobu: 24C) - ovo je sasvim OK pod uslovom ako ta toplota ima gde da se sprovede :-)



Sa druge strane, potrosnja RAM memorije je znacajno niza nego u DDR4 vremena, sto dobro dodje ako imate dosta DIMM-ova.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Na temu "pod uslovom ako ta toplota ima gde da se sprovede :-)"

This Guy Heated Bath Water With Bitcoin Mining and It Worked Too Well

Steta baciti toplotu :)

Skroz OK ideja - mislim da imam kucu sa dvoristem, mozda bih i integrisao. Moras da racunas na veci pritisak i ocigledno koristis druge komponente za sprovodjenje tecnosti.

Verovatno se ne isplati za neki mali kucni projekat, ali kad krenemo da pricamo o vise kilovata, definitivno je steta tu toplotu baciti ili, jos gore, nabacivati je na pogresno mesto gde ce biti "resena" upotrebom AC sistema (dakle, sa jos energije).

@edit - ili mozes kao der8auer da toplotu izbacujes u gradsku kanalizaciju :-)



Nisam siguran da bi bilo dobro kada bi svi presli na ovo, ali pojedinac moze da se provuce :-)

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Hahahaha, ženo, večeras nema tople vode, čistim CPU od kamenca :) Dobar je :)

Valjda iskusni a u braku taj problem resavaju laganim navikavanjem - iskakanje osiguraca zbog overload-a, pune prostorije narucenih paketa sa hardverom, ostave kao ersatz serverske sobe, klima uredjaji koji ne hlade ljude nego opremu i tako to :-) Sta je malo nestajanja vode jos na to - nista :-)

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Maksimalna potrosnja memorije: ~5.5W po DIMM-u, dok je u prosloj generaciji DDR4 je potrosnja isla do ~20W po DIMM-u

Evo poredjenja:

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Stare PCIe x4 diskove sam spakovao u array - kao /tmp drajv :-)



Gigabyte je, u svojoj pameti, implementirao nekakav validator kad se uradi "Save BIOS settings" pa cak i ako 'otkrijete' sakrivena podesavanja za, npr., PCie bifurkaciju (za ovu karticu treba x4/x4/x4/x4) on ce to pametno vratiti na x16. Jedini nacin da se to spreci je da se ne koristi BIOS setup (save opcija) vec da se vrednosti direkt POKE-uju iz EFI shell skripte #@(*&#

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Poredjenja su odlicna, hvala i od publike.

Ovo je 30% vise struje za 80% vise core-ova, to se ipak isplati. Taj /tmp je bruka ;) A bios... cuj, realno, ko gasi komjuter? Ikad?

(Mada sa tom potrosnjom, kapiram da ipak gasis nocu? :) )

Imas li brojke, koliko ti sve to trosi struje kad je idle? Ne u sleep, nego ono, samo idle.

Potpis

Please do not feed the Trolls!

Blasphemy? How can I blaspheme? I'm a god!'

Javicu kad sutra liferujem celu skalameriju u serversku sobu, tamo imam Zigbee uticnice koje mere potrosnju :-)

Btw, Sleep ne radi (S3), samo Hibernate (S4) - zasto, pojma nemam, vidim da firmware ima S3 resume blob-ove i skripte... to je nesto skarabudzeno u BIOS kodu ciji sors nemam (sto znaci IDA + DCI kabl i System Studio sa laptopa i par noci... nisam trenutno motivisan za to :-)

Ima jos 'pameti' u BIOS-u - recimo, pravi se pametan i sam odlucuje da li platforma podrzava OC ili ne (na osnovu CPU SKU-a), ako ne - gasi XMP citanja i mogucnost overklokovanja memorije. Zanimljivo, ploca je stigla sa pre-produkcijskim BIOS-om sa debug verzijom platformskog referentnog koda (RC) koji nije imao ta ogranicenja, ali je pucao vec u MRC-u tokom treniranja memorije (nisam gubio vreme sa tim vec sam ga odmah pregazio sa najnovijom revizijom - moguce je da nije dizao napon na 1.25v, koliko treba memoriji da bi radila na 5600 bar po specifikaciji, mada je malo cudno da u MRC-u pukne, to je bas hard fail koji ne bih ocekivao sa tako sitnim OC-om, mozda jos nesto nije konfigurisao kako treba ko zna, tipa tajminge ili nesto deseto)



Vise zbog vrucine (kolicina toplote koja isijava nije zanemarljiva), pogotovu ako nema nista da radi.

Inace platforma je vidno brza u desktop radu (odziv i sl) u odnosu na Ice Lake SP - vidi se da je dosta radjeno na tome (Ice Lake SP je i ovako i onako bio kratkorocan proizvod), single-core boost je visi i efektivne latencije su manje, ne znam da li je apsolutno vreme izlaza iz C6 stanja krace ili je pcode optimizovaniji da ne ulazi u C6 cesto, ali je rezultat vidljiv cak i ako se radi o serverskim a ne workstation SKU-ovima.

Sto se performansi u full load-u tice, DigiCortex je trcao oko 0.12x real-time na 1M testu na Ice Lake SP platformi, dok sa Sapphire Rapids trci ~0.2x isti benchmark, sto je solidno ubrzanje.

Cinebench R23 isto - Ice Lake SP je bio ~65K, Sapphire Rapids ~94K

Ali glavni razlog zasto sam presao na Sapphire Rapids su AMX instrukcije i podrska za DDR5 - sa tim stvari postaju vrlo zanimljive, na nekim AI testovima platforma solidno razbija dual AMD 9654

https://www.phoronix.com/review/intel-xeon-amx/6



--

Sve u svemu, za nesto sto je pocelo razvoj 2019-te i trebalo da izadje pocetkom 2022, nije lose. Ali prava zabava pocinje sa Granite Rapids platformom, koja ce podrzavati MCR DIMM-ove i time podici memorijski bandwidth 2x bez ikakvih drugih promena.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Intel Advanced Performance Extensions (Intel APX)

https://www.intel.com/content/...erformance-extensions-apx.html

TL;DR:

* +16 registara, opciona posebna destinacija
* Dvobajtni REX2 prefiks
* PUSH2 / POP2 sa full forwardingom i eliminacijom nepotrebnog store-ovanja u memoriju
* Prosirena predikacija

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Je li ti radiš nešto direktno na tome, ili je van tvog domena? :)

Nope, to je core arch tim, org u kojem radim je samo korisnik njihovog IP-a :-) Nas tim pravi specijalizovane cipove za embedded / automotive / itd…

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

A evo i male AI/ML kutijice (WIP) - ali za nju moram da sacekam da dodje banderas i da mi vise struje :-)

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Radite baš čipove (layout) ili samo matematički model, koji se zatim verifikuje i ide dalje u proceduru, a layout i priprema maske za litografiju se rade na kraju?

Potpis

Blessed are those who can laugh at themselves, for they shall never cease to be amused.

Komplet. Cip pocinje zivot kao kombinacija funkcionalnih (Simics) i logickih simulacija i modela - gde su neke kljucne stvari vec bile u 'pathfinding' fazi razvija neko vreme. Glavna stvar u toj fazi je da imas potvrdjene kljucne parametre (projektovanu cenu, potrosnju, performanse). Ovo je kritican deo projekta gde se optimizuje povrsina/broj tranzistora i sl.

Na kraju "Pre-si" faze imas kompletan model cipa sa kojim se radi tzv. "Pre-Si" validacija i na kraju cega dobijas masku sa kojom ocekujes da ces dobiti cip koji radi :-)

Posle toga sledi prva fabrikacija i cuveni "power on" - posle cega sledi "post-si" validacija. Obicno od tog momenta do produkcije imas nekoliko revizija ("stepinga") gde ubijas hardverske bagove i eventualno poboljsavas performanse.

Ista grupa je zaduzena za end-to-end projekat, naravno u saradnji sa gomilom timova. Paralelno sa ovim teku i druge stvari - od razvoja fabrikacionih tehnologija pa sve do razonog softvera (pcode / mikrokod, firmware/BIOS, drajveri).

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey