Srodne teme

14.04.2024. Re: Gde je Kejt? (samo pogrešni odgovori)
22.06.2002. slushanje mreze?
11.10.2003. Cime se sve bavi VI
12.09.2002. Novi sajt
27.01.2003. Crv ;)
22.02.2009. Pozivanje australije sa nase mreze 063
10.06.2003. Programiranje neuronske mreže - iskustva?
13.03.2004. Izlaz dvije mreze preko jedne iznajmljene linije
27.04.2004. 2 mreze, 1 ruter

Navigacija

Brisanje liste

Lista poslednjih: 16, 32, 64, 128 poruka.

Neuronske mreze

[es] :: Veštačka inteligencija :: Neuronske mreze

[ Pregleda: 7154 | Odgovora: 15 ] > FB > Twit

Autor

cedomir
Čedomir Rosić
Sys. Ing.
xObrenovac, Karaburma

Član broj: 4570
Poruke: 193
*.beg.sezampro.yu

Jabber: cedomir@elitesecurity.org
ICQ: 59161631

+1 Profil

Neuronske mreze

^{12.07.2002. u 23:26 - pre 264 meseci}

Zna li neko za primer koriscenja ove tehnologije kod nas ?

Ja znam da se time bave neki ljudi iz instituta Mihajlo Pupin i pomalo neki sa FONa ali nisam primetio neki profesionalan sajt koji to iole pominje. Slicno je i na hrvatskoj sceni ali slovenci imaju neku firmicu koja se bavi tim stvarima pa cak i nudi program za trening mreza na svom sajtu ali vise ne mogu da ga nadjem...

Na sajtu http://www.nd.com je jedan od najboljih softwera za simulaciju vestackih mreza. Ja sam ga skinuo (4.0) i zezam se njim vec neko vreme, dobar je. Ali ima ih jos dosta....

Koristi li mozda neko od nasih ljudi ovakve stvari ili ja preterjem sa entuzijazmom :-)

http://www.beoblues.com
blues in belgrade - bluz u beogradu
belgrade in blues - beograd u bluzu

Odgovor na temu

weB_KiLeR

Član broj: 238
Poruke: 1317
*.InfoSky.Net

Profil

Re: Neuronske mreze

^{13.07.2002. u 01:29 - pre 264 meseci}

Hmm ja znam jednog coveka licno koji se bavi time vise o njemu http://www.mateja.8m.com/

Odgovor na temu

samilen
Saša Milenković
Beograd

Član broj: 11606
Poruke: 106
*.fon.bg.ac.yu

Profil

Re: Neuronske mreze

^{02.09.2003. u 23:49 - pre 251 meseci}

Ja znam jednog lika koji je u C++ radio program koji pomoću neuronske mreže prepoznaje glas (na Srpskom).

Odgovor na temu

filmil
Filip Miletić
Oce Technologies B.V., inženjer
hardvera
Arcen, NL

Član broj: 243
Poruke: 2114
*.adsl.zonnet.nl

Jabber: filmil@jabber.org
ICQ: 36601391

+3 Profil

Re: Neuronske mreze

^{03.09.2003. u 07:38 - pre 251 meseci}

Citat:

cedomir:
Koristi li mozda neko od nasih ljudi ovakve stvari ili ja preterjem sa entuzijazmom :-)

Mislim da preteruješ sa entuzijazmom, ali ne u vezi sa korišćenjem NM kod nas, već u vezi sa korišćenjem NM uopšte. NM pristup je ovih godina potisnut u kraj u korist efikasnijih metoda. Odličan primer je upravo prepoznavanje govora. Ukratko, kako danas stvari stoje, dobri paketi za prepoznavanje govora koriste probabilistički pristup (Markovljeve procese) jer daju višestruko bolje rezultate. NM polako ali sigurno idu u muzeje -- bar dok se neko ne dohvati nekog drastičnog poboljšanja, a šanse za to su sve manje jer se hype definitivno smanjio.

f

Odgovor na temu

salec

Član broj: 6527
Poruke: 1738
*.rcub.bg.ac.yu

+25 Profil

Re: Neuronske mreze

^{03.09.2003. u 10:11 - pre 251 meseci}

Citat:

NM polako ali sigurno idu u muzeje -- bar dok se neko ne dohvati nekog drastičnog poboljšanja, a šanse za to su sve manje jer se hype definitivno smanjio.

He, nase licne rodjene neuronske mreze su "izmislile" druge metode (logiku), upravo zbog preciznosti i izolovanja problema koje resavaju, tako da to i nije neko iznenadjenje. Interesantno je da trenirane neuromreze postizu u najboljem slucaju podjednake ljudskim rezultate u prepoznavanju uzoraka (na primer, postavljanje dijagnoze na osnovu rendgenskog snimka od strane radiologa i od strane neuromreze), sto ipak nije dovoljno dobro za moderne ljude, naviknute na cuda. To moze da obeshrabri i u drugom smeru: ljudske sposobnosti mozda ipak nisu slabo (to se cesto spominje, te koristimo samo pola mozga, te svega 10% ili 30%...), nego maksimalno iskoriscene i nema velike nade da se unaprede.

Ipak ne bi trebalo tek tako otpisati neuromreze, bar one netrenirane, imam osecaj da bi one mogle da budu vazne za ekstrakciju pravila iz uzoraka o kojima nemamo prethodna saznanja. U tom slucaju bi nam trebao neki metod, nesto kao "inverzna neuro mreza" koja bi nam "objasnila" kakvu pravilnost je "zapazila".

Odgovor na temu

filmil
Filip Miletić
Oce Technologies B.V., inženjer
hardvera
Arcen, NL

Član broj: 243
Poruke: 2114
*.et.tudelft.nl

Jabber: filmil@jabber.org
ICQ: 36601391

+3 Profil

Re: Neuronske mreze

^{03.09.2003. u 10:19 - pre 251 meseci}

Ovaj, pa baš to što opisuješ je ono što neuronske mreže ne mogu da ponude: prvo sličnost između živih neurona i NM je samo romantizirano poređenje. U stvarnosti se razlikuju ko nebo i zemlja. Drugo, ti možeš napraviti NM kakvu god hoćeš, ali ne možeš reći skoro ništa o metodama za treniranje (osim u izuzetno retkim slučajevima) a o postojanju nekog inverza neuronske mreže koji nešto može i da objasni a ne samo da ispljune brojeve -- ni govora nema!

Što se tiče modernih primena NM, ljudi su se tu prilično otreznili, tako da je moja preporuka nekome ko bi da se hvata u to kolo: najbolje nemoj. Teško se dobijaju pare za bilo kakvo ozbiljnije istraživanje a mainstream se definitivno polako odriče NM. Zato pažljivo i, naročito, bez preteranih očekivanja molim.

f

Odgovor na temu

Dark Icarus
Goran Lalić
Beograd

Član broj: 19775
Poruke: 428
*.med.bg.ac.yu

+2 Profil

Re: Neuronske mreze

^{26.02.2004. u 11:09 - pre 245 meseci}

Citat:

filmil:
Ovaj, pa baš to što opisuješ je ono što neuronske mreže ne mogu da ponude: prvo sličnost između živih neurona i NM je samo romantizirano poređenje. U stvarnosti se razlikuju ko nebo i zemlja. Drugo, ti možeš napraviti NM kakvu god hoćeš, ali ne možeš reći skoro ništa o metodama za treniranje (osim u izuzetno retkim slučajevima) a o postojanju nekog inverza neuronske mreže koji nešto može i da objasni a ne samo da ispljune brojeve -- ni govora nema!

Poprilicno logicki nelogican pristup za AI forum. NM se razlikuju od ljudskih neurona po mnogo toga, to je istina, ali osnovni koncept iza njih je isti. Ukoliko bi imao procesor koji moze da obradi 15x10^9 vestackih neurona i sve njihove sinapse kao u mozgu, ti bi imao poprilicno verodostojan ekvivalent bioloskom sistemu. Mada NM moze samo da "ispljune brojeve", u krajnjoj liniji to radi i mozak. Output bioloskog neurona, facilitatornih i inhibitornih sinapsi se moze vrlo precizno izraziti nekom obicnom single varijablom*. Ali slazem se da ceo koncept NM treba revolucionarizovati. Za pocetak, ako mislimo da priblizimo NM covekovim mogucnostima, treba prvo ubaciti sve sto o mozgu vec sada znamo a nije u modelu neuralnih mreza, kao sto su regionalni neurotransmiteri, poluzivot neurotransmitera, genske, strukturne i privremene promene pomocnih sinapsi, itd. itd.

A tek onda treba istraziti i ubaciti i sve ono sto o mozgu ne znamo.

btw, mozak, kao i svi ostali organi naseg tela, koristi pristup "use it or lose it", tako da se svi neaktivni neuroni eliminisu u prvoj godini zivota. Toliko o gluposti da koristimo samo 10% mozga.

* ovo moze da ne bude tacno zbog teorije haosa, ali ja ipak mislim da mozak ima regulatorne mehanizme koji sprecavaju da mikropromene na jednom kraju uzrokuju makropromene na drugom.

_{In a game of chess you must never let your opponent see your pieces - Zap

Brannigan}

Odgovor na temu

salec

Član broj: 6527
Poruke: 1738
*.rcub.bg.ac.yu

+25 Profil

Re: Neuronske mreze

^{26.02.2004. u 12:28 - pre 245 meseci}

Citat:

Dark Icarus:
koliko bi imao procesor koji moze da obradi 15x10^9 vestackih neurona

Kad smo već kod toga, da li je neko saznao nešto više o upotrebi video kartica za number crunching? Navodno novi grafički akceleratori imaju FP performanse kao ekvivalent P IV na 10GHz. Mana koju im nalaze je da je AGP bus spor u povratnom smeru - ka sistemu, ali to neuromrežu ne bi trebalo mnogo da uspori, ionako je to preslikavanje m na n , gde je m mnogo veće od n.

Odgovor na temu

ivladica
vladica ignjatovic
.................
srbija

Član broj: 16096
Poruke: 22
*.ptt.yu

Sajt: www.ptt.yu/korisnici/i/v/..

Profil

Re: Neuronske mreze

^{26.02.2004. u 23:09 - pre 245 meseci}

javi se. mislim da se interesuejmo za slicne stvari. FONovac sam. i da popricamo na tu temu. interesuje me bas.
pozdrav
Vlada
([email protected])

Odgovor na temu

salec

Član broj: 6527
Poruke: 1738
*.rcub.bg.ac.yu

+25 Profil

Re: Neuronske mreze

^{27.02.2004. u 09:53 - pre 245 meseci}

Citat:

ivladica:
javi se. mislim da se interesuejmo za slicne stvari. FONovac sam. i da popricamo na tu temu. interesuje me bas.
pozdrav
Vlada
([email protected])

NM ili grafička-kao-FP superkomp?

Da bih izbegao da previše lupam o stvarima koje ne znam dublje od površno, molio bih ljude koji su na tu temu nešto pravili da nas malo upute u NM, pa makar one bile i "iscrpljeno nalazište".

Pre svega, zašto veštačke NM "rade"? Jasno je da one tek pomalo liče na stvarne NM, pa pretpostavljam da mora da postoji teoretski dokaz da su u stanju da prepoznaju ili klasifikuju uzorke.

Drugo, ograničenja zbog kojih se danas napuštaju, da li su u području treniranja NM ili u području njihove efikasnosti, ili možda rezolucije, bez obzira na količinu treniranja?

Ponovo, da li postoji fundamentalni razlog tog ograničenja? Da li je to problem prebrzog povećavanja broja potrebnih neurona sa povećanjem složenosti zadatka (nepraktičnost) ili je jednostavno nemoguće "probiti barijeru" (teorijski limiti)?

Da li je oseka NM deo oseke cele ideje masivnog simetričnog paralelizma? Sećam se da su su kompjuteri sa masivnim paralelizmom ("kompjuterski sistemi četvrte i pete generacije") bili rešenje u potrazi za dobrim problemom, a neuro mreže su trebale da budu taj problem, neka vrsta "paralelizatora" bilo kakvog zadatka, čak i takvih koji zahtevaju iterativne algoritme rešavanja. Da li je danas dokazano da je takva nada bila uzaludna?

A za VGA supercomp, to sam našao na http://developers.slashdot.org...3/12/21/169200&mode=thread

Tamo je i link ka projektu C kompajlera za grafičke kartice.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
*.dip.t-dialin.net

+7173 Profil

Re: Neuronske mreze

^{27.02.2004. u 11:12 - pre 245 meseci}

salec,

Da li si siguran da GPU ne koristi trikove i aproksimacije za sto efikasniju 3D algerbru? Pretpostavljam da ne rade u IEEE.754 FPU formatu i da za svako korenovanje, kvadriranje, trigonometriju i sl.. koriste neke aproksimacije, lookup tabele i sl, ili mozda gresim?

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Odgovor na temu

salec

Član broj: 6527
Poruke: 1738
*.rcub.bg.ac.yu

+25 Profil

Re: Neuronske mreze

^{27.02.2004. u 12:23 - pre 245 meseci}

Maločas sam malo prelistavao raspravu na /. povodom toga ( morao sam da pronađem link :) ). Neko je tamo rekao da ATi koristi "trikove" a nVidia ne (što donekle objašnjava ATijeve bolje performanse u igrama :) ). Ako te ne mrzi, pogledaj.

Odgovor na temu

nsivacki
Nikola Sivački
Beograd

Član broj: 20950
Poruke: 6
*.dial.InfoSky.Net

Sajt: galeb.etf.bg.ac.yu/~nicks

Profil

Re: Neuronske mreze

^{01.04.2004. u 15:02 - pre 243 meseci}

> Pre svega, zašto veštačke NM "rade"? Jasno je da one tek pomalo liče na stvarne > NM, pa pretpostavljam da mora da postoji teoretski dokaz da su u stanju da
> prepoznaju ili klasifikuju uzorke.
> Drugo, ograničenja zbog kojih se danas napuštaju, da li su u području treniranja > NM ili u području njihove efikasnosti, ili možda rezolucije, bez obzira na količinu
> treniranja?

Prednost n. mreza je zapravo istovremeno i njihova mana - tesko je
objasniti na konkretnom primeru zasto se mreza ponasa tako kako se ponasa, i ako ce mreza napraviti greski u , recimo, 0.1% slucaja ti ne mozes da matematickim formulama pokazes nekom investitoru kada ce se ti slucajevi desiti. Za neke probleme bi mozda vec danas bilo lakse koristiti n. mreze, ali nemogucnost
da izvedes formulu po kojoj se ponasa cini ih nepopularnim, pa na mars salju
robote koji koriste ekspertske sisteme, a ne n. mreze, naprimer.

> Ponovo, da li postoji fundamentalni razlog tog ograničenja? Da li je to problem
> prebrzog povećavanja broja potrebnih neurona sa povećanjem složenosti zadatka > (nepraktičnost) ili je jednostavno nemoguće "probiti barijeru" (teorijski limiti)?

pa po meni je ovo prvo, jer kako procesorska snaga raste exponencijalno, snaga n. mreze raste linearno - n. mreze napreduju nekako stihijski, u pozadini :-)
Danas se domet njihove primene relativno mali, ali je takodje cinjenica da se taj domet povecava kako vreme prolazi.

Posebno su mi zanimljive 'kreativne' neuralne mreze koje razvija Stephen Thaler,
(www.imaginationengines.com - obavezno proverite) . Tamo su razvili sistem dve neuralne mreze koji _generise_ nova resenja koja su slicna datom uzorku. Koristili su je u industrijskom dizaju (generisanje novih oblika cetkica za zube - ludo!:-)), kao i u otkrivanju novih supercvrstih materijala i u nekim vojnim projektima...Oni danas po meni rade teorijski (i tehnoloski) high-end u ovoj oblasti.

> Da li je oseka NM deo oseke cele ideje masivnog simetričnog paralelizma? Sećam > se da su su kompjuteri sa masivnim paralelizmom ("kompjuterski sistemi četvrte i > pete generacije") bili rešenje u potrazi za dobrim problemom, a neuro mreže su
> trebale da budu taj problem, neka vrsta "paralelizatora" bilo kakvog zadatka, čak > i takvih koji zahtevaju iterativne algoritme rešavanja. Da li je danas dokazano da > je takva nada bila uzaludna?

mislim da je to kvantitavno pitanje -> racunari su jos uvek jako spori za ozbiljnije
primene n. mreza. primer : prepoznavanje kontinualnog govora - idealno bi bilo
imati rekurentnu mrezu koja koristi evolucioni algoritam, ali za ucenje takve
mreze nema dovoljno brzog racunara, pa sva sadasnja resenja su neka vrsta
'snalazenja' u nedostatku racunarske snage da se to resi onako kako se desava
u nasim glavama. :-) Pitanje je, u stvari, da li mozemo da 'ekstrakujemo' bas
sve formule i metode kod tih problema ili ce nam uvek ostati neke skrivene koje
ce nam onemoguciti da ikad nadjemo savrsena resenja. (umesto dovoljno dobrih)

Uzimajuci u obzir Murov zakon, cini se da ce to vreme doci :-)

pozdrav,
NS

pozdrav,
ns

Odgovor na temu

salec

Član broj: 6527
Poruke: 1738
*.rcub.bg.ac.yu

+25 Profil

Re: Neuronske mreze

^{02.04.2004. u 10:49 - pre 243 meseci}

Citat:

nsivacki:
mislim da je to kvantitavno pitanje -> racunari su jos uvek jako spori za ozbiljnije
primene n. mreza.

Pojedinačno, da. Moja aluzija i jeste bila da je za praktičnu primenu NM na većim problemima potrebno imati masivni paralelizam, a sa druge strane, masivni paralelizam ne vredi ništa bez problema koji se daju paralelizovati. NM su bile potencijalno rešenje koje je trebalo da sve probleme konvertuje u zadatke za velike paralelne procesore, tako da su te dve grane kompjuterske nauke manje-više "računale" (bez namere da napravim šalu) jedna na drugu. Trenutno je nekakvo zatišje u oba tabora, paralelizam je napušten kao arhitektura kompjutera, ali je opstao u vidu "mrežnog računanja", verovatno zbog toga što monoprocesori evoluiraju toliko brzo, da se ne isplati projektovati paralelni multiprocesor koji će u trenutku kad bude gotov već biti prevaziđen.
Druga velika primena paralelnih sistema osim NM, obrada slike, je već u praktičnom dohvatu integrisanih SIMD, tj. nama poznatijih kao "Multimedija" i "Grafičkih" multiprocesora, tako da je pritisak na razvoj multiprocesora sada nevelik.

Odgovor na temu

-zombie-
Tomica Jovanovic
freelance programmer
ni.ac.yu

Član broj: 4128
Poruke: 3448
*.beotel.net

Sajt: localhost

+5 Profil

Re: Neuronske mreze

^{02.04.2004. u 14:36 - pre 243 meseci}

"no pun intended".. :-P

nisam siguran da sam razumeo poslednjih par rečenica. paralelizam je više nego primenjen trenutno u recimo grafičkim karticama (ili si na to mislio kada si rekao multimedija).

po meni, problem sa paralelizmom je to što osim posebne (paralelne ;) grane u razvoju procesora koji si ti pomenu, zahteva i posebne tehnike programiranja do kojih ne postoji "lak prelazak", već vrlo nagli skok..

dalje, čini mi se da se paralelizam nije pokazao najbolje u rešavanju "opštih" ili general-purpose zadataka. ili možda i jeste, ali verovatno to nije baš cost-effective.

zato će se paralelizam još neko vreme koristiti samo za rešavanje usko specijalizovanih rešenja, koji su vrlo pogodni za ovakav pristup (grafika -- iseckaš sve na sitne delove), a da za tim pritom postoji velika potražnja na tržištu..

jer bez velike potražnje, nema velike prodaje, nema velikog obrta, nema velikih ulaganja u R&D (istraživanje i razvoj).

iskreno, nisam siguran u uspešnost tvoje ideje da se NM izvršavaju na grafičkim procesorima. ako su one baš tako specijalizovane (ne poznajem tematiku), i ako je veći deo "programa" implementiran u hardveru, onda će možda biti jako teško iskoristiti tu snagu za nešto drugo osim originalne namene..

blogče :: unescaped beta^{^» ^{go-paste extenzija} ^» ^{reč dana: backup} ^» ^{bočne koalicije}}

Odgovor na temu

salec

Član broj: 6527
Poruke: 1738
*.rcub.bg.ac.yu

+25 Profil

Re: Neuronske mreze

^{02.04.2004. u 21:58 - pre 243 meseci}

Pa, ovako: Problem je sto ako neki algoritam ne moze da se 100% paralelizuje, onda se na izvrsavanje nekog malog dela tog algoritma gde postoji zavisnost koraka od elemenata podataka koji jos nisu izracunati utrosi skoro svo vreme i to tada ide brzinom kao na jednoprocesorskoj masini (a svi oni silni ostali procesori ne rade nista osim sto trose struju).

Graficke kartice imaju neke funkcije ugradjene u hardver, ali za svaki piksel imas mogucnost nekih prostih operacija tipa dodavanje vrednosti parametra operacije na sve ili mnozenje svih sa vrednoscu parametra.

Odgovor na temu

[es] :: Veštačka inteligencija :: Neuronske mreze

[ Pregleda: 7154 | Odgovora: 15 ] > FB > Twit

Srodne teme

14.04.2024. Re: Gde je Kejt? (samo pogrešni odgovori)
22.06.2002. slushanje mreze?
11.10.2003. Cime se sve bavi VI
12.09.2002. Novi sajt
27.01.2003. Crv ;)
22.02.2009. Pozivanje australije sa nase mreze 063
10.06.2003. Programiranje neuronske mreže - iskustva?
13.03.2004. Izlaz dvije mreze preko jedne iznajmljene linije
27.04.2004. 2 mreze, 1 ruter

Navigacija

Lista poslednjih: 16, 32, 64, 128 poruka.