[es] - Da li biti programer? Buducnost profesije

brainbuger

Član broj: 9647
Poruke: 440
*.beanfield.net.

+52 Profil

Re: Da li biti programer? Buducnost profesije

^{20.02.2023. u 18:28 - pre 14 meseci}

Wow, ovo je sjajna gomila ušteda na hardveru. Baš ću da probam ovih dana, da vidimo da li će CUDA da mi pukne ko bas ili ne.

Eh, sad još samo i NVDA da smanji klepanje na karticama, polako, valjda ćemo i do toga doći jednog dana ;)

Odgovor na temu

brainbuger

Član broj: 9647
Poruke: 440
*.beanfield.net.

+52 Profil

Re: Da li biti programer? Buducnost profesije

^{22.02.2023. u 19:41 - pre 13 meseci}

@Dimkovic, Poigrao sam se danas, evo nekih rezultata i par pitanja ako neko ima ideju.

Dakle, podignem AI kontejner na V100 sa 16 GB i onda dodatno instaliram ChatGPT na njemu.
https://github.com/hpcaitech/C...tree/main/applications/ChatGPT

Nakon toga pokrenem treniranje i sasvim fino odradi, drži GPU na 90% ali ne puca.
python train_dummy.py --strategy naive

Imaju i treniranje svojim promtovima iz csv ako zatreba, i to radi ok:
python train_prompts.py prompts.csv --strategy naive

Medjutim, ne vidim kako mogu da dobijem bilo kakav interfejs za interakciju sa modelom (curl ili slično)? Jesam li ja nešto pobrljavio ovde izgleda ili prosto Colossal nije ni uključio taj API sloj jer su se pre svega fokusirali na optimizaciju treniranja. Možda za neki drugi model ali kod njihovog ChatGPT nisam uspeo da pronadjem ništa.

Ovo je recimo njihova implementacija Fejsbukovog OPT modela, koliko vidim on isto može da roka do 175B. Vidim da ima nekih par primer skripti kako bi se dobio API interfejs sa Fastapi. Možda probam neki od ovih dana da nabudžim skripte za njega https://github.com/hpcaitech/C...l/opt/inference/opt_fastapi.py

Eto, rekoh čisto da podelim da vidim idem li u dobrom smeru.

_{[Ovu poruku je menjao brainbuger dana 22.02.2023. u 21:06 GMT+1]}

Odgovor na temu

brainbuger

Član broj: 9647
Poruke: 440
*.beanfield.net.

+52 Profil

Re: Da li biti programer? Buducnost profesije

^{22.02.2023. u 20:10 - pre 13 meseci}

ps. Ako smaram ovde temu oko dizanja AI modela itd, slobodno pomeraj ili reci gde da je bolje mesto.

Odgovor na temu

S A J A
Beograd

Član broj: 226539
Poruke: 1904
*.static.sbb.rs.

+421 Profil

Re: Da li biti programer? Buducnost profesije

^{23.02.2023. u 12:31 - pre 13 meseci}

Čini mi se da je to offtopic. Ovo je vodič za posao, više generalna rasprava o poslovima i uticajima (AI) na iste. Za te tehničke stvari je možda bolji forum Programiranje / Veštačka inteligencija.

Odgovor na temu

lega99

Član broj: 82119
Poruke: 1087

+16 Profil

Re: Da li biti programer? Buducnost profesije

^{08.03.2023. u 12:47 - pre 13 meseci}

Da li je chatGPT AI bas toliko svemoguc program. Citam vesti chatGpt AI vozi f-16. Onda ja uzmem par python programa i serviram to chatgpt koji odmah se hvali kako moze da optimizuje te programe. Svi programi koji su mu dati su ispravni i rade, posle njegove optimizacije i ubrzanja ne rade, prvo sto izostavlja module na pocetku programa, izgubi ih negde, ne zatvara petlje. Kako se programu servira greska njegova sledeca ispravka pravi jos vise gresaka i tako u nedogled. Moj skor je uspesno optimizovana 3: haos preko 100 Kkao uopste on sastavlja neki program ili optimizuje, ako mu se da ispravan program sa definisanim parametrima i fajloviaonda je logicno da te fajlove upotrebi ili da predlozi procedure za pretvaranje postojecih fajlova u nove kojji trebaju za e optimizovane varijanta, nazalost nista od toga. Da li chatGPT ima brdo pokpljeih primera sa neta i onda nekom nazovi njegovom logikom uzima ceo program ili deo i tako satavla novi optimizovan koji nema nikave veze sa prvobitnim programom i uopste ne radi.

Odgovor na temu

mjanjic
Šikagou

Član broj: 187539
Poruke: 2699

+698 Profil

Re: Da li biti programer? Buducnost profesije

^{12.03.2023. u 19:16 - pre 13 meseci}

Već rečeno, možda i više puta, ChatGPT će možda da pomogne da ne juriš na Stackoverflow u drugim mestima neke osnovne primere, izgeneriše ti 50 linija koda, ti baciš pogled, testiraš, i onda ideš dalje, ne zamajavaš se trivijalnim stvarima.

Da li je to dobro za juniore, odnosno da li je pametno da preskoče to "mučenje", može da bude neka posebna tema. Mogu zamisliti sutra kakav će šef, direktor ili samo vođa projekta biti neko ko je preskočio osnove i avanzovao jer je bio dobar u korišćenju ChatGPT-a za svaki mogući problemčić.

Blessed are those who can laugh at themselves, for they shall never cease to be amused.

Odgovor na temu

B3R1
Berislav Todorovic
NL

Član broj: 224915
Poruke: 802

+634 Profil

Re: Da li biti programer? Buducnost profesije

^{14.03.2023. u 09:55 - pre 13 meseci}

Citat:

mjanjic: Da li je to dobro za juniore, odnosno da li je pametno da preskoče to "mučenje", može da bude neka posebna tema. Mogu zamisliti sutra kakav će šef, direktor ili samo vođa projekta biti neko ko je preskočio osnove i avanzovao jer je bio dobar u korišćenju ChatGPT-a za svaki mogući problemčić.

Hm, pa to preskakanje "mucenja" imas vec i sada. Ljudi kucaju kod / komande / instrukcije ... sta god ... totalno napamet, ne shvatajuci ni okvirne koncepte toga sto rade, kamoli sustinu. Gomila IT poslova je totalno salbonskog tipa i to je naraslo do te mere da imas ljude koji godinama rade jednu te istu stvar, a da nikada ne nauce sta zapravo rade. Pitaj ih da ti u 30 sekundi objasne cime se tacno bave i videces. Nece znati ni da beknu. Ko god je prisustvovao obuci koju je drzao developer zna tacno o cemu govorim. Posle 15 minuta vise ne mozes da pohvatas konce toga sto on prica, a prica ga zbrda-zdola ... :-))) jer ne shvata celinu sistema na kome radi.

A sto se tice menadzera - Piterov princip je fenomen otkriven jos negde u godini mog rodjenja, sto ce reci pre vise od pola veka ... i od vremena kada je doticni Piter ziveo i radio do danas nista se nije promenilo po tom pitanju. Sto je najgore, korporacije favorizuju mediokritete, jer su lako zamenljivi. Jedan ode, drugi dodje. Ako jedan ne ume da uradi posao, naci ce se N drugih koji ce moci i to je to.

AI ce tu stvari napraviti jos gorim. Ali to je taj vrli, novi svet u koji idemo i mi tu ne mozemo previse da uradimo.

Odgovor na temu

mjanjic
Šikagou

Član broj: 187539
Poruke: 2699

+698 Profil

Re: Da li biti programer? Buducnost profesije

^{14.03.2023. u 22:57 - pre 13 meseci}

https://media.licdn.com/dms/im...FfgezGE2pp43QsxHwTN4_qIINhvajo

Blessed are those who can laugh at themselves, for they shall never cease to be amused.

Odgovor na temu

S A J A
Beograd

Član broj: 226539
Poruke: 1904
*.static.sbb.rs.

+421 Profil

Re: Da li biti programer? Buducnost profesije

^{15.03.2023. u 15:41 - pre 13 meseci}

GPT4 iskustva

https://youtu.be/N4sDzidCudQ

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:a212:92bb:7e80:5016:b1f..

+7173 Profil

Re: Da li biti programer? Buducnost profesije

^{15.03.2023. u 18:27 - pre 13 meseci}

Sto je najludje, po rezultatima OpenAI-ja - u programiranju je GPT-4 jos i najgore prosao.

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Odgovor na temu

dejanet
Beograd

Član broj: 19240
Poruke: 1181

+836 Profil

Re: Da li biti programer? Buducnost profesije

^{15.03.2023. u 18:44 - pre 13 meseci}

^ Da iz nekog razloga kod mene na iste upite, gpt-4 je dao losije(trivijalnije) odgovore nego 3.5.

Slicno je proslo i sa generisanjem implementacionog doc-a, 3.5 je dao sokantno detaljan i precizan doc, dok je na isti upit 4 dao za klasu-dve manje.

Videcemo, mozda je guzva sada...

Mislim na implementaciju neke app..

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
..2bb:7e80:5d33:1349:228b:e57d

+7173 Profil

Re: Da li biti programer? Buducnost profesije

^{21.03.2023. u 19:34 - pre 13 meseci}

Okacicu samo ovo...

Prikačeni fajlovi

gpt4_gm.jpg - 1001.17k

gpt4_5.jpg - 112.72k

Odgovor na temu

dejanet
Beograd

Član broj: 19240
Poruke: 1181

+836 Profil

Re: Da li biti programer? Buducnost profesije

^{21.03.2023. u 19:54 - pre 13 meseci}

^ J*e kevu.

Dao sam mu da uradi refaktoring dve moje klase (oko 150 i 200 linija u c#). U pitanju je gpt-4.

Rezultat za jednu je bio fantastican: de-duplikacija, nove komande i sintaksa poslednje verzija c# i frejmorak, concurrent queue umesto klasicnog, sredjivanje konstruktora, i jos dve tri stvari, bolje od mene i vecine... Copy/paste i kod radi iz prve.

Rezultat za drugu klasu je bio skromniji jer nije enkapsulirana, vec deli logiku sa drugim klasama, koje nisam naveo, tako da je broj promena koje je predlozio bo ogranicen.
E sad, probao sam da mu paste sve depedant klase, ali nije hteo da radi jer ima puno podataka.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
..2bb:7e80:5d33:1349:228b:e57d

+7173 Profil

Re: Da li biti programer? Buducnost profesije

^{21.03.2023. u 20:06 - pre 13 meseci}

Ovo je magija, kao da imas tim junior dev-ova koji rade 24/7 za tebe :-)

Prikačeni fajlovi

gpt6.jpg - 371.58k

gpt7.jpg - 335.16k

gpt8.,jpg.jpg - 134.04k

gpt9.jpg - 125.49k

Odgovor na temu

dejanet
Beograd

Član broj: 19240
Poruke: 1181

+836 Profil

Re: Da li biti programer? Buducnost profesije

^{21.03.2023. u 21:29 - pre 13 meseci}

Kod mene je optimizovao moj task scheduler za long running procese za DESETKU. Takodje je implementirao koristeci moderan pristup i nove mogucnosti frejmorka i sve to optimizovano za ui multiplatform app - neverovatno. Plus cela klasa, objekti i metode koriste genericke tipove, tako da je siroko primenjivo. Da ne kazem da je skapirao broj paralelnih taskova treba da bude konfigurabilan i jos mnogo takvih detalja. Takodje je napravio razdvojio metode za cpu i IO intenzivne operacije - super neverovatno.

Ono sto me buni, sto ovakav nivo, tips & tricks, novi api i pristup ne mogu da se nadju na internet-u, bar ja nisam mogao da nadjem.

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:a212:92bb:7e80:847f:99b..

+7173 Profil

Re: Da li biti programer? Buducnost profesije

^{21.03.2023. u 21:35 - pre 13 meseci}

Nece ni trebati vise, kako stvari stoje.

Sa ovim, svako ce imati pristuj tutoru ubici :)

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:a212:92bb:7e80:847f:99b..

+7173 Profil

Re: Da li biti programer? Buducnost profesije

^{22.03.2023. u 07:57 - pre 13 meseci}

Evo jos malo na temu.

Zanimljivo, sto je i dejanet primetio - ponekad GPT-3.5 daje bolje odgovore nego GPT-4.

Medjutim treba imati u vidu da ni GPT-3.5 a ni GPT-4 nisu nista specijalno optimizovani za bilo koju konkretnu struku. Siguran sam da se vec debelo radi na varijanti natereniranoj sa svom mogucom literaturom iz npr. programiranja i softverskog inzenjeringa, matematike i sl. sa striktnim reinforcement-learningom za eliminaciju losih odgovora. Ovo sto vidimo danas ce biti na nivou obdanista.

Prikačeni fajlovi

gpt8.jpg - 559.08k

Odgovor na temu

Ivan Dimkovic

Administrator
Član broj: 13
Poruke: 16687
2a02:a212:92bb:7e80:847f:99b..

+7173 Profil

Re: Da li biti programer? Buducnost profesije

^{22.03.2023. u 08:08 - pre 13 meseci}

Optimalan scenario: uzajamni 'boost' - AI pomaze ekspertu, ekspert pomaze AI-ju koji uci iz novostvorenih rezultata.

Rezultat je, nazovimo ga "konstruktvna interferencija": gde sama interakcija eksperta i AI sistema pravi vece skokove u znanju. Sve sto se resi odmah postaje 'boilerplate' koji AI moze da servira uvek, sto pomaze u novim ciklusima resavanja problema.

Steve Jobs-ov 'bicikl za mozak' je dobio afterburner-e.

Odgovor na temu

scoolptor

Član broj: 305514
Poruke: 1629

+590 Profil

Re: Da li biti programer? Buducnost profesije

^{22.03.2023. u 08:10 - pre 13 meseci}

Cujem da mnogi programeri kupuju alat za keramicare i molere.

Budi dobar

Odgovor na temu

lega99

Član broj: 82119
Poruke: 1087

+16 Profil

Re: Da li biti programer? Buducnost profesije

^{22.03.2023. u 08:48 - pre 13 meseci}

GPT 3.5 dal sam ja baksuz? Dam mu da mi mail napisan duzine 7 redova sa osisanom latitinicom sredi na pravu latinicu i da ispravi gramatiku ako ima gresaka. Sve lepo krene i onda zaglavi, zakopa. Pokusao sam da kucam continue negde sam procitao da pomaze ali nista. Isto tako ako mu dam da nesto prevede uvek prevede deo, mnogo manje od google translate.

Odgovor na temu