Da li biti programer? Buducnost profesije

Kineska soba je besmislen argument, zato sto uopste nije poznato da li inteligentno ponasanje i svesnost moraju ici jedno sa drugim.

Takodje, osim sopstvene svesnosti nikad ne mozes biti skroz siguran u bilo ciju drugu PLUS niko ti ne garantuje da je to cega si ti svestan posledica nekakvih procesa koje tvoja cula mogu da registruju.

Tako da, te price samo filozofe mogu da drze zainteresovanim. AGI je mozda moguc, mozda ne ali u ovom momentu niko ne moze sa 100% pouzdanoscu da tvrdi jedno ili drugo.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

AGI mora imati svijest, "sentience" i consciousness. I cijeli paket. , ne samo inteligenciju.
Još se naziva strong AI ili full AI.

Ne, prolazak turingovog testa neće pomoći u određivanju dali mašine misle, nije isto ako drugi misle da mašina misli. i ako stvarno mašina misli.

Potpis

NO FATE

Ne. AGI "samo" treba biti u stanju da razume i resi zadatke koje covek moze (gde pod 'razume' mislim na bihevioralnu manifestaciju a ne neki 'woo' kao sinonim za razmisljanje)

Pitanje svesti je potpuno ortogonalno i, zapravo, van nauke. Cak i kod entiteta za koje imamo dobre razloge da ih uzimamo kao svesne naucno se samo bavimo korelatima svesti (neuralnim npr.) zato sto je to epistemoloski najnizi nivo saznanja koji nam je trenutno dostupan za bilo sta osim sopstvenog postojanja (a to saznanje je privatno za svakog i dostupno samo tom entitetu).

To o cemu pricas je "tezak problem svesti" (kao da je ovaj laksi lak u bilo kom smislu, ali ajde) koji se ne zahteva od AGI-ja. Iako je i laki problem khm... dovoljno tezak, tezak problem je sasvim deseto.

Zapravo, 'laki' problem svesti i nije problem svesti vec pitanje razumevanja inteligentnog ponasanja - za koje, kao sto rekoh, nije utvrdjeno da li je nuzno neophodna svest ili ne.



Potpuno irelevantno za AGI. AGI je dovoljno samo da... bude AGI, bez obzira sta se desava u njenim srafovima, neuronima, bitovima - cemu god.

Insistirati na nekakvom "misljenju" nema nikakvog smisla zato sto ne postoji razumevanje sta je 'misljenje'.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

@Impaler
https://huggingface.co/datasets/fka/awesome-chatgpt-prompts
chatGPT ne halucinira nego moze da delimicno glumi uloge, evo spisak sa githuba sta sve moze da bude, znaci sve zavisi sta mu se zada i koliko ce taj dodatak biti razvijan od strane ljudi sa githuba ili od ekipe AI

E s time se ne slažem,. Mislim da to nije ispravno. Netko/nešto se može ponašati kao da razumije, riješiti zadatak. a zapravo ne razumije.




Ovo mi zvuči pogrešno.
Ako samo prividno razumije, to je onda nedostatak tog programa, koji se ne može nazvati AGI.

Potpis

NO FATE

If it looks like a duck and sounds like duck it is a duck. Ako mislite na to, da tacno je.





Da ali ako se u 100% slucajeva ponasa kao AGI i resava probleme kao AGI.... onda to jeste AGI.

Kako mozes da sudis o necemu sto ti sam ne znas sta je? Samo zato sto smo necemu dali ime ("razumeti") ne znaci da imamo najmanjeg pojma o tome sta je, ili da to postoji uopste (mozda je samo privid a pravi razlog je nesto sasvim drugo).

Ako malo bolje razmislis, na dnu svega toga su samo reci - prazne reci koje na kraju opisuju samo sopstveno senzorno iskustvo.

To je mac sa dve ostrice: bas kao sto ne mozes nista sustinski da kazes o svesti (osim da je sam posedujes), ne mozes nista da kazes ni o odsustvu iste.

Ali nema nikakvog razloga uopste ulaziti u taj problem za sad (to je taj 'tezak problem') zato sato ne postoji nikakav dokaz da inteligentno ponasanje zahteva postojanje svesti. Cak i da zahteva, kako ne znas odakle ta svest dolazi i da li postoji ogranicenje sta je moze posedovati cak ni tada to ne bi bio razlog da se odbaci mogucnost da AI moze posedovati istu. Zato se tim problemom ne bavi niko produktivno, a i neproduktivno se time bavi samo sacica filozofa.

Zato je savrseno prihvatljivo da AGI u ponasanju radi isto sto i covek. Na kraju krajeva, to je isti prag koji koristis i u radu sa drugim ljudima i smatras ih inteligentnim. "Kinesku sobu" mozes primeniti i na, sta znam, neurone / sinapse / molekule drugog coveka, pa ipak to ne radis nego uzimas zdravo za gotovo da "razume" kineski, samo zato sto izgleda kao ti u ogledalu. Osim toga nemas nista drugo sto bi to potvrdilo - ili opovrgnulo.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

složimo se da se ne slažemo.

iz iskustva znamo da ponašanje kao da razumiješ ne mora biti isto što i razumjevanje.

Tako sam neke ispite položio.

Potpis

NO FATE

Ja ne vidim u cemu se mi ne slazemo. Ti koristis sopstveno iskustvo kao dokaz da nesto drugo poseduje isto ili ne na osnovu proizvoljnog kriterijuma - "lici na tebe u ogledalu".

Sustinski, ti o tome iskustvu (ne ti licno, nego bilo ko - svi mi) ne mozes da kazes nista drugo osim da ga posedujes. Ne mozes da ga vidis kod drugih, vec samo mozes da pretpostavis da ga imaju.

To ne znaci da nisi u pravu - ne znaci ni da jesi, vec samo da si napravio nekoliko skokova na osnovu nicega drugog nego uverenja. Iza toga nema saznanja ili neke nove informacije koja bi omogucila da se cela stvar razume.



Ova recenica je najbolji primer problema ljudskog jezika - moze se napisati jako puno reci, ali sustinski se nismo makli od pocetka.

Ti sve vreme pricas o licnom senzornom iskustvu - koje je privatno za tebe. Neko drugi ko tebe posmatra vidi hrpu neurona tj. "kinesku sobu". Dzentlmenski dogovor je da se uzima da i druga osoba poseduje istu svest, ali za to nema nikakvog drugog dokaza.

I to ti je dovoljno, ali za AGI masinu ti ne bi bilo dovoljno, zasto? Opet, nikakav sustinski razlog osim licnog hira. Sta ako AGI masina potpuno lici na tebe? Onda se ide u beskonacnu filozofsku rekurziju sa zombijima.

Nema potrebe za tim uopste, sve dok rad na "laksem" problemu daje rezultate. Zbog toga se nauka ne bavi time vec korelatima svesti u slucaju neuronauka ili inteligentim ponasanjem u slucaju AI-ja.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Slažem se da nema potrebe. Zašto bi netko uopće radio na tome da "daje mašini svijest". Po meni glupost. Glupo je misliti da neka sekvenca instrukcija daje svijest a druga ne.

Ja opravdano vjerujem da drugi ljudi imaju svijest. I neke životinje npr slon, delfin, hobotnica itd, vjerojatno imaju svijest.

Te koji imaju svijest npr. ne ubijam za hranu ili iz sporta, Nije etično.

Potpis

NO FATE

Nista od stvari koje se na temi diskutuju nije rad na "davanju svesti masinama" (ta izjava zapravo nema smisla) vec se radi na pravljenju inteligentnih masina koje menjaju coveka u manjem ili vecem kapacitetu.



Podjednako glupo kao i misliti bilo sta drugo o necemu sto nije dokucivo trenutno raspolozivim metodama. Ako ne znas sta je svest, nemas ni osnova da procenjujes sta jeste a sta nije svest, zar ne?



To je OK, ali tvoje opravdanje - kakvo god ono bilo, ne daje nikakvu novu informaciju.

Svaki razlog koji bi imao za to bi pao na istom testu koji zahtevas od AGI-ja.



Problem je sto niko ne zna sta je neophodno za istu, sve sto imamo je "lici dovoljno na nas u ogledalu".

Ne mislim samo na ogledalo, vec i na bilo sta dostupno spoznaji - ima neurone kao mi, proteine kao mi, celije kao mi, od istih atoma je kao mi... stagod.

Ali, ako si iskren sa samim sobom, ne mozes a da ne primetis da je to prazna prica - argument "kineske sobe" bi mogao da primenis na bilo sta od toga sto vidis u drugima: neuron nije naucio kineski, ni atom. Ali si odlucio da ne primenis "kinesku sobu" na hrpu atoma ispred sebe zato sto "opravdano verujes" da je svesna. Sta je opravdanje a da to opravdanje ne bi apliciralo i na nesto drugo poput AGI?

Nije problem u tome sto verujes da jeste, nego sto nesto drugo ne uzimas za svesno na osnovu istog kriterijuma. Nije konzistentno.



Da ali nije ni informativno u ovom, kontekstu, na zalost.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

AGI ne postoji.
Kada bi AGI postojao, morao bi imati svijest.

Za ostale programe ili kompjutere znam , opravdano vjerujem da nemaju svijest , um ni ništa takvo.. Jer mašina izvršava neke instrukcije i ne može više od toga.

Dok čovjek može. Čovjek može obavljati zadane radnje, ali i više od toga.
Mašina može obavljati zadane instrukcije i samo te instrukcije.

U tome je razlika.

Potpis

NO FATE

Tvoje mišljenje implicira da je svest nešto što nije posledica fizičkih procesa u mozgu.
Zalaziš u metafiziku, a nema nikakvih dokaza da je svest nešto drugo, nego posledica izvršavanja "niza instrukcija".

Zaista? Naravno. Radije ne bih, ali ima zainteresiranih koji repliciraju.

Pitao je Dimke zašto mislim da AGI ne bi radila štetu ljudima. (i tako je sve počelo)
Pa AGI kada bi postojao bi imao superiorni Um od čovjeka i sve što u to spada . A šteta ljudima spada po meni u glupe i ne etične radnje. To onda nije AGI ako radi štetu ljudima.

Potpis

NO FATE

Tacno, to nije sporno.

Radi se na AGI-ju.



Zasto?



Sta tacno opravdava to verovanje?



Sta je um? I sta je "nista takvo" - kakvo tacno? Deluje kao da znas o cemu pricas, podeli detalje sa ostalima.



A sta izvrsava um i gde se to desava, da li mozes da pojasnis malo - ako kazes da postoji razlika, pojasni sta je tacno razlicito?



Koji covek i sta moze? Kako znas - kojim postupkom si to utvrdio?



Sta ako masina moze da menja instrukcije?



U cemu? Mislim da si preskocio par detalja.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Ali kako znamo da ne postoji ?

Univerzum je ogroman i star 14 milijardi godina.

Da li je moguce da nema ni jedne civilizacije koja je vec stvorila AGI ili jeste AGI ?

Sve što sam rekao je u načelu common sense. Ne vidim zašto bi dalje nastavio.



Osvrnuti ću se samo na ovo jer bi moglo dovesti do tehničke rasprave:


Da može, ali zašto? Zato jer joj ja kao programer to programiram. A ne zato što je mašina izašla iz programa.
Može i slučajnošću, nešto se pokvari. ili dobije random input. I to isto nema veze s voljom mašine.

Potpis

NO FATE

Nije nemoguce, ali nije ni poznato.

Zvuci kao prilicno za*ban problem, daleko tezi od pitanja kojima se AGI istrazivnja bave. Kako nije savladano ni to, navodno "lako" pitanje, zvuci prilcino ambiciozno baviti se pitanjem koje cak nema ni razloga da nuzno bude objasnjivo.

Za pocetak, hajde da vidimo do koje mere AI moze oponasati inteligentno ljudsko ponasanje. Dok se ne udari zid nema ni smisla pricati o ogranicenjima (mada, cak i kad se udari... sve dok neko ne bi izasao sa matematickim dokazom ili slicnom potvrdom ljudi bi se i dalje bavili time, verovatno cak i posle toga bas kao sto se i dan danas bave pokusajima nalazenja "rupa" u kvantoj fizici npr.).

Situacija je takva da vec godinama u nazad mogucnosti AI-ja merljivo skacu - cak i ako plafon postoji, ni ne vidi se u najavi.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Zato sto sustinski nisi nista rekao?

Sve sto si napisao se moze zameniti sa "meni se cini zato sto mi se cini" - sto je sasvim u redu, ali nije nikakav dokaz za bilo sta.



Ne znas nista ni o volji (kao ni ja ili bilo ko). Ne mozes biti siguran ni da li je posedujes, a ako prihvatas da je posedujes onda sledi da je poseduje i... elektron.

https://en.wikipedia.org/wiki/Free_will_theorem

Mozda je to sto zoves "slucajnost" nesto drugo. Kvantno ponasanje, na primer, nije slucajno vec neodredjeno - znanje nije >dostupno< tebi, ali ocigledno nije kompletno slucjano inace nista ne bi postojalo. Da li je to slobodna volja ili nesto deseto?

Opet se vracamo na "cini mi se". To je to, i zbog toga to nije naucni problem vec nesto cime se bavi samo izolovana gurpa filozofa - bez ikakvog progresa duze vreme.

Prakticno, osim nekog insistiranja na nasoj posebnosti ne postoji ni jedan drugi razlog. Na kraju, mozda jesi poseban ali kako stvari stoje, nemas nikakav nacin da to dokazes.,

Neproduktivno i prilicno nepotrebno za sada - klada plafon ni izbliza nije dostignut.

Potpis

DigiCortex (ex. SpikeFun) - Cortical Neural Network Simulator:
http://www.digicortex.net/node/1 Videos: http://www.digicortex.net/node/17 Gallery: http://www.digicortex.net/node/25
PowerMonkey - Redyce CPU Power Waste and gain performance! - https://github.com/psyq321/PowerMonkey

Nigdje ne tvrdim da je metafizika produktivna za tvoje potrebe .Ako si mislio da češ doći do saznanja KAKO? napraviti AGI, nečeš
logika ti kaže istinu. a ne kako nešto napravit.

Potpis

NO FATE