Navigacija
Lista poslednjih: 16, 32, 64, 128 poruka.

SpikeFun - Artificial Nervous System Demo

[es] :: Veštačka inteligencija :: SpikeFun - Artificial Nervous System Demo
(TOP topic, by Gojko Vujovic)
Strane: << < .. 11 12 13 14 15 16 17 18 19 20 ... Dalje > >>

[ Pregleda: 109443 | Odgovora: 407 ] > FB > Twit

Postavi temu Odgovori

Autor

Pretraga teme: Traži
Markiranje Štampanje RSS

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
*.web.vodafone.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo11.11.2014. u 20:48 - pre 65 meseci
v1.10 is out:

http://www.digicortex.net/node/7

Citat:

------------------------------------------------------------------------
v1.10 - Released on November 10th 2014
------------------------------------------------------------------------

* Added support for Intel(R) Crystalwell architecture for performance
benchmarks / measusrement (-pmu command line switch)

* Added support for Intel(R) Haswell-EP/EX (Xeon E5-2600/4600 v3) CPUs
benchmarks / measusrement (-pmu command line switch)

* Rendering fixes for NVIDIA drivers 33x, removing OpenGL warnings


Dodata je performance-monitoring podrska za Haswell EP/EX procesore, kao i za Crystalwell procesore (sorry, ovo sam trebao ranije da odradim...).

SpikFun na dual Xeon E5 2697 v3 sistemu (28 jezgara):


DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
Prikačeni fajlovi
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
*.web.vodafone.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo03.12.2014. u 19:40 - pre 65 meseci
v1.11 is out:

http://www.digicortex.net/node/7

Citat:

------------------------------------------------------------------------
v1.11 - Released on December 3rd 2014
------------------------------------------------------------------------

* Initial support for Oculus Rift DK2 devices (-oculus command line)


Uspeo sam da se dokopam jednog Oculus DK2 prototipa, pa sam patch-ovao kod za podrsku tako da sada radi i sa DK2.

Na zalost, nisam jos stigao da integrisem najnoviji Oculus SDK (0.4.3), posto je dosta promenjena interna struktura i klase koje sam koristio iz 0.2.x verzije nisu vise iste pa cu morati malo vise vremena da utrosim kako bih adaptirao kod da radi sa 0.4.3 SDK-om. Do tada sam samo hardcode-ovao DK2 detekciju i parametre, mada koliko vidim i "zvanican" 0.4.x kod trenutno nije nista bolji, tako da ce biti potrebno ponovo patch-ovati kod kad izadje komercijalna verzija.

Trenutno sa DK2 radi samo render (koji je FHD sad). Kontroler jos nije podrzan, posto stari SDK ne detektuje DK2 kontroler :(
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
...kabel-badenwuerttemberg.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo17.12.2014. u 23:09 - pre 64 meseci
Novi hardver stize, za mali kucni superracunar...

Ovo je prvi batch: 8 komada Xeon Phi kartica, svaka ima 57 procesora, svaki procesor ima AVX512 engine sa kojim moze da procesira 16 float-ova odjednom.

Drugi batch ce isto biti 8 komada kartica, tako da ce konacan rezultat biti:

- 16 Xeon Phi kartica (bice ustekane u 4 blade-a servera gde svaki blade "puni" 4 kartice a izmedju blade-va ce biti 10gBE mreza za razmenu poadataka)
- Jacina: 57 procesora x 16 kartica = ~32 TFLOPS-a (za 32-bitne float operacije).

Jedini je zez ohladiti ovo... svaka kartica ima 270W TDP i napravljena je za pasivno hladjenje. Radim na custom soluciji koja ce da ih hladi.



DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
Prikačeni fajlovi
 
Odgovor na temu

plague
Software Developer
Auckland, NZ

Član broj: 46734
Poruke: 583
*.136.4.181.host.layer2.co.nz.



+362 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 00:24 - pre 64 meseci
Zar jos nisi dosao do trenutka gde je isplativije iznajmiti racunare da odrade posao?
Ne znam da li mozda ima veze sa konkretnim optimizacijama koje pises za hardware?
 
Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12619



+4601 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 00:48 - pre 64 meseci
Ali to onda nece biti mali kucni superracunar :)
 
Odgovor na temu

Tyler Durden
Tyler Durden
Beograd

Član broj: 4312
Poruke: 3379
*.dynamic.isp.telekom.rs.



+1365 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 10:52 - pre 64 meseci
^lol, bice da je to u pitanju.
koliko kosta to zadovoljstvo dimkovicu? i je l' ces koristiti samo za spikefun?
Beneath civilization's fragile crust, cold chaos churns...
 
Odgovor na temu

bogdan.kecman
Bogdan Kecman
"specialist"
Oracle
srbistan

Član broj: 201406
Poruke: 15206
*.dynamic.sbb.rs.

Sajt: mysql.rs


+2314 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 11:14 - pre 64 meseci
uh bre treba da ohladis 5kW a te kartice su sve pasivnjaci ... uzmes jednu 24000btu inverter klimu (800-1000eur ovde, ne znam koliko kostaju tu kod tebe) i resis problem .. to ti je taman to sto ti treba, samo napravis custom rack, napravi da mozes i da vrtis lokalni vazduh (rek da ti bude zatvoren sistem) i da mozes da upucavas kroz klimu sa jedne strane vazduh u rek a onda sa druge strane da ga pumpas napolje .. i jedna i druga varijanta mogu da budu korisne zavisno od konfiguracije reka i prostorije gde je rek ... ako se dobro secam te toplotne matematike 24000btu moze da ohladi oko 6kW

 
Odgovor na temu

the_tosic

Član broj: 37314
Poruke: 380
*.loc.akton.net.



+126 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 14:51 - pre 64 meseci
Citat:
Tyler Durden:
^lol, bice da je to u pitanju.
koliko kosta to zadovoljstvo dimkovicu? i je l' ces koristiti samo za spikefun?


E bile su skoro na popustu ove kartice ~200$ komad. Ako nadjem link okacicu :)
 
Odgovor na temu

ventura

Član broj: 32
Poruke: 7781
77.243.20.*



+6455 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 14:57 - pre 64 meseci
Dimkoviću tebi bi bilo bolje da se navučeš na kokain ko sav normalan svet, a i jeftinije je ;)
 
Odgovor na temu

brainbuger

Član broj: 9647
Poruke: 408
*.tor.primus.ca.



+48 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 17:08 - pre 64 meseci
Nice beast.

Nego, čudno je da si odlučio da ideš na multiple CPU varijantu, zar ne beše multiple GPU bolji za paralelizam (a valjda i ekonomičniji)?
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
*.web.vodafone.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo18.12.2014. u 20:44 - pre 64 meseci
Citat:
plague
Zar jos nisi dosao do trenutka gde je isplativije iznajmiti racunare da odrade posao?
Ne znam da li mozda ima veze sa konkretnim optimizacijama koje pises za hardware?


Nisam skoro pravio racunicu oko toga. Poslednji put kada sam gledao, to sto je moglo da se iznajmi mi nije odgovaralo.

Takodje, ove Intel kartice sam kupio po izuzetno niskoj ceni oko $110 po kartici :)

Citat:
Tyler Durden
^lol, bice da je to u pitanju.

koliko kosta to zadovoljstvo dimkovicu? i je l' ces koristiti samo za spikefun?


Imam par ideja koje hocu da provrtim, videcemo kako ce da rade.

Citat:
the_tosic
E bile su skoro na popustu ove kartice ~200$ komad. Ako nadjem link okacicu :)


16 Xeon Phi kartica ce me izaci negde oko $1800, sto je neverovatno dobra cena - pre samo par meseci je toliko kostala jedna.

Trenutno su na zescem popustu, Intel ih trenutno valja prakticno po proizvodnoj ceni.

Pretpostavljam da su ovo Xeon Phi kartice koje su Kinezi koristili u onom njihovom Tianhe-2 superracunaru tj. verovatno sada rade upgrade na Knights Landing. Kada su Kinezi pravili Tianhe-2 pre par godina, suskalo se da im je Intel valjao Xeon Phi kartice po proizvodnoj ceni.

Citat:
brainbuger
Nice beast.

Nego, čudno je da si odlučio da ideš na multiple CPU varijantu, zar ne beše multiple GPU bolji za paralelizam (a valjda i ekonomičniji)?


Xeon Phi arhitektura nije previse drugacija od GPGPU-ova sto se programiranja tice.

A uzeo sam ih zbog popusta, prakticno po ceni 2 TITAN kartice imam 16 Phi-jeva...

@bogdan.kecman,

Ha, dobra ideja - nisam uopste razmisljao o klimi, prva ideja mi je bila hrpa high-RPM ventilatora.

Inace, da, kartice su bitch za hladjenje... kako sam i ocekivao. Jedan mid-RPM ventilator po kartici nije dovoljan tj. radna temperatura brzo predje 100 C. Doduse, to je bio brzi budz-test, bez materijala koji bi vazduh usmeravao kako treba. Videcu da napravim mali proof-of-concept plasticni vod, pa bi sa jednim high-rpm 80mm ventilatorom mogao da hladim 2 Phi kartice.

@Ventura, dop je jos jeftiniji :-)
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

Space Beer
ISS

Član broj: 325788
Poruke: 84
*.adsl.eunet.rs.



+52 Profil

icon Re: SpikeFun - Artificial Nervous System Demo19.12.2014. u 17:56 - pre 64 meseci
Citat:
Ivan Dimkovic:
Xeon Phi arhitektura nije previse drugacija od GPGPU-ova sto se programiranja tice

Da, ali zar nisi ti koristio CUDA kada si počeo sa GPGPU-om? Da li to znači da prelaziš na OpenCL? Ili nešto drugo?
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
...kabel-badenwuerttemberg.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo19.12.2014. u 21:00 - pre 64 meseci
Nisam jos 100% siguran, OpenCL je na papiru fino resenje posto bar u teoriji znaci da bi kerneli mogli da rade i na NVIDIA, AMD i Intel hardveru ali nisam siguran da se tako dobija optimalan kod za Phi platformu, a za NVIDIA kartice je CUDA kod brzi.

Phi podrzava i druge nacine programiranja, od MPI-ja preko OPENMP-a, Intel-ovih biblioteka (TBB i sl.), Intel-ovih ekstenzija (Cilk) pa sve do low-level pthreads-a sa intrinsic-ima.

Trenutno se dvoumim izmedju OpenCL-a i low-level (pthreads) varijanti.

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

Shadowed
Vojvodina

Član broj: 649
Poruke: 12619



+4601 Profil

icon Re: SpikeFun - Artificial Nervous System Demo19.12.2014. u 22:35 - pre 64 meseci
Ima li toga u slobodnoj prodaji (po toj ceni?) ili to nabavljas preko svojih masonskih veza?
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
...kabel-badenwuerttemberg.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo19.12.2014. u 23:24 - pre 64 meseci
Ja sam kupio u potpuno slobodnoj prodaji, da sam jurio preko veze verovatno ne bih morao da ih platim ista :)
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

mr. ako

Član broj: 65959
Poruke: 2368



+2294 Profil

icon Re: SpikeFun - Artificial Nervous System Demo20.12.2014. u 04:54 - pre 64 meseci
Sto se tice hladjenja grafika, pogledaj po forumima gde se skuplja Bitcoin masa, oni su to doktorirali... :)


Npr: http://www.bitcoinbalkan.com/forum/hardver/3252-mining-box

- Il n'est pas important qui, importe c'est quoi!
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
...kabel-badenwuerttemberg.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo20.12.2014. u 16:36 - pre 64 meseci
Hehe, hvala @mr.ako, vidim da su definitivno doktorirali :-)

Za sada, dok testiram jednu karticu, privremeno radi posao jedan high-RPM 120mm ventilator koga sam se dokopao (Noctua NF-F12 IndustrialPPC) koji je nabijen "tik" do kartice na izlazu sa duct-tapeom. Radna temperatura je oko 100C sto je podnosljivo za testiranje.

Trenutno pisem mali OpenCL test kod da vidim kako izgledaju OpenCL performanse, ako su razumne mozda ostanem na OpenCL-u koji ima prednost da moze da trci na raznim platformama i sa par tweak-ova velicine work-itema i sl. koliko vidim u teoriji moze raditi "OK" na raznim platformama.

Phi ima sirok vektorski engine, koji moze odjednom da procesira 16 float-ova - sa OpenCL kodom prakticno paralelelnost mozes postici jednostavno (samo lansiras kernel sa gomilom podataka) ali je onda pitanje koliko je OpenCL drajver u stanju da to efikasno iskompajlira - koliko vidim, neki po forumima nisu bas preterano zadovoljni Phi performansama.

Ako su performanse lose, probacu native, dakle rucno lansiranje par stotina thread-ova (koristeci pthread) i rucno vektorizovani kod. Pretpostavljam da tu mogu da koristim vec postojeci x86 kod kao startnu poziciju, ali sumnjam da bez debelih optimizacija za Phi mogu da se postignu razumne performanse.

U slucaju da OpenCL zakaze a native opcija trazi previse posla, kartice idu na ebay :)
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
...kabel-badenwuerttemberg.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo21.12.2014. u 20:38 - pre 64 meseci
Danas sam konacno nasao vremena da malo eksperimentisem...

Portovao sam najtezi CUDA kernel iz DigiCortex-a (racunanje membranskog potencijala i procesiranje "opaljivanja") na OpenCL, i onda sam provrteo kernel sa "test" workload-om: 5 miliona elemenata (compartment-a) i 1000 vremenskih koraka (1 sekunda simulacije).

Ideja je da se izmere performanse "grubo" - bez ikakvih optimizacija osim onoga sto kompajler moze da uradi.

Evo rezultata, vreme izvrsavanja:

1. Dual Xeon 2697 v3 (28 CPU jezgara, 56 thread-ova): 14 sekunde (0.07x real-time)
2. Xeon Phi 31S1P (57 CPU jezgara, 228 thread-ova): 4.4 sekunde (0.22 real-time)
3. NVIDIA GTX TITAN (2688 CUDA jezgara, 8 MP-ova, varijabilni broj threadova): 2.2 sekunde (0.45x real-time)

Dakle, na test kodu, bez ikakvih optimizacija, jedan Xeon Phi je oko 3 puta brzi od 28 Haswell jezgara - sto se verovatno moze zahvaliti brzini memorije, posto je test kernel limitiran brzinom memorije. Xeon Phi ima GDDR5 memoriju brzine 320 GB/s.

Sa druge strane, Xeon Phi je 2x sporiji od TITAN-a.

Treba imati u vidu da se NVIDIA ne trudi nesto oko OpenCL podrske pa bi cist CUDA kod verovatno bio jos par desetina % brzi sigurno. Ali, isto tako, sigurno se mogu izvuci dodatne performanse optimizacijom kernela za Xeon Phi.

Doduse, sa trenutnom cenom tj. dok jos ima zaliha, tesko da nesto moze da ubije Phi od $100-$200 (koliko uspete da se pogodite) sto se performansi po dolaru tice :)

Na osnovu ovih rezultata mislim da mogu da ekstrapoliram da jedan Phi moze da simulira 200-300 hiljada neurona u realnom vremenu.



DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

ventura

Član broj: 32
Poruke: 7781
*.dynamic.sbb.rs.



+6455 Profil

icon Re: SpikeFun - Artificial Nervous System Demo21.12.2014. u 21:09 - pre 64 meseci
Citat:
Ivan Dimkovic:
Na osnovu ovih rezultata mislim da mogu da ekstrapoliram da jedan Phi moze da simulira 200-300 hiljada neurona u realnom vremenu.

Znači fali ti još samo 399,984 Phi kartica :)
 
Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 15931
...kabel-badenwuerttemberg.de.



+6457 Profil

icon Re: SpikeFun - Artificial Nervous System Demo21.12.2014. u 21:14 - pre 64 meseci
Ili da zamolim Kineze da poteraju exe :-)
DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1
Demo Videos: http://www.digicortex.net/node/17
Gallery: http://www.digicortex.net/node/25
 
Odgovor na temu

[es] :: Veštačka inteligencija :: SpikeFun - Artificial Nervous System Demo
(TOP topic, by Gojko Vujovic)
Strane: << < .. 11 12 13 14 15 16 17 18 19 20 ... Dalje > >>

[ Pregleda: 109443 | Odgovora: 407 ] > FB > Twit

Postavi temu Odgovori

Navigacija
Lista poslednjih: 16, 32, 64, 128 poruka.