[es] - Da li biti programer? Buducnost profesije

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16560
..2-12.dynamicip.rima-tde.net.

+7131 Profil

Re: Da li biti programer? Buducnost profesije

^{11.07.2023. u 17:11 - pre 2 meseca}

New idea? Vrlo matora - u teoriji efikasnije, u praksi nemoguce za smisleno treniranje.

LSM, Spiking, Liquid NN i sl. su ekspanzija u vremenaki domen gde je stanje neurona opissno nizom diferencijalnih jednacina. Ukombinovano sa specijalizovanim analognim kolima, u teoriji drasticno manje zahtevno po pitanju potrosnje.

Na zalost, ne postoji poznat ekvivalent backpropagaciji, bilo sta uradjeno po pitanju ucenja je pateticno u odnosu na uspehe sa CNN/RNN/LLM modelina baziranim na jednostavnijem modelu.

Dok se to ne resi, te stvari su kuriozitet - a nije da je ponestajalo pokusaja.

Jedini izuzetak je konverzija vec natreniranih mreza gde se dobija na ustedi u racunanju ali slaba je to uteha.

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Odgovor na temu

dr0id

Član broj: 326795
Poruke: 409

+123 Profil

Re: Da li biti programer? Buducnost profesije

^{11.07.2023. u 20:05 - pre 2 meseca}

Ne znam, deluje manje zahtevno i svesnije/smislenije (pa i upotrebljivije) od onog 'nabadam pa sta ubodem pa sta mi kazu da im se svidja to prihvatim i nastavim'

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16560
*.web.vodafone.de.

+7131 Profil

Re: Da li biti programer? Buducnost profesije

^{11.07.2023. u 20:19 - pre 2 meseca}

To je opasna zabluda. Samo zato sto nesto “deluje” bilo kako, samo po sebi ne znaci nista.

Priznaje se samo ono sto radi. Za sada to nisu “tecni” neuroni.

Kolicina znanja u vezi sa ucenjem koje je sakupljeno na “deep” mrezama je sada eonima ispred primitivnih (“Hebb-ijskih”) mera koje apliciraju na spiking / liquid mreze.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16560
..:92c4:80:3d82:3b63:2fd5:cbe7

+7131 Profil

Re: Da li biti programer? Buducnost profesije

^{27.09.2023. u 20:10 - pre 7 dana i 7h}

https://blog.roboflow.com/gpt-4-vision/

Ludilo...

Odgovor na temu

mjanjic
Šikagou

Član broj: 187539
Poruke: 2619

+680 Profil

Re: Da li biti programer? Buducnost profesije

^{30.09.2023. u 09:44 - pre 4 dana i 18h}

Kad su već pomenute te Liquid NN, ne znam da li je bilo ovde na prethodnim stranicama, mehaničke neuronske mreže:

Blessed are those who can laugh at themselves, for they shall never cease to be amused.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16560
2a02:a212:92c4:80:80fc:8a6c:..

+7131 Profil

Re: Da li biti programer? Buducnost profesije

^{30.09.2023. u 17:34 - pre 4 dana i 10h}

Imas jos jednostavnije - stvarno "liquid", kofa vode:

https://link.springer.com/chapter/10.1007/978-3-540-39432-7_63
https://autobencoder.com/2021-04-05-bucket/

Citat:

This paper demonstrates that the waves produced on the surface of water can be used as the medium for a “Liquid State Machine” that pre-processes inputs so allowing a simple perceptron to solve the XOR problem and undertake speech recognition. Interference between waves allows non-linear parallel computation upon simultaneous sensory inputs. Temporal patterns of stimulation are converted to spatial patterns of water waves upon which a linear discrimination can be made. Whereas Wolfgang Maass’ Liquid State Machine requires fine tuning of the spiking neural network parameters, water has inherent self-organising properties such as strong local interactions, time-dependent spread of activation to distant areas, inherent stability to a wide variety of inputs, and high complexity. Water achieves this “for free”, and does so without the time-consuming computation required by realistic neural models. An analogy is made between water molecules and neurons in a recurrent neural network.

Svakako impresivno, ali glavni problem je kontrola ucenja svih tih arhitektura.

Odgovor na temu