Citat:
Ivan Dimkovic:
Daleko bitnija stvar je ono sto se desava u isto vreme: AI modeli polako preuzimaju ogromne domene ljudskog naucnog rada (kao npr. rad na teoriji jezika, ili razumevanju nekih biofizickih procesa kao npr. savijanje proteina) i, ako se to nastavi, nesvesno postajemo zavisni od necega sto je crna kutija.
Rekao bih da se to preuzimanje domena naučnog rada sasvim fino odvija. Stim što ga ja ne bih vezivao za "crnu kutiju" jer nekima šalje negativnu konotaciju koju jedva čekaju ;) I pored svega, čini mi se da su prednosti i mogućnosti daleko brojnije i veće.
Konkretno, kad su rizici u pitanju, tu je nužna šira slika. Ovaj profa sa Oxforda je ne tako davno formirao malu ekipicu koja je sela i formirala listu najvećih rizika po čovečanstvo
https://nickbostrom.com/ malo ozbiljniji rad nego što su gomile tekstova koje kruže o toj temi. Koliko se sećam, ima nekih sličnih dilema. Ali banalni suma sumarum te analize dodje da AI nije ni blizu vrha te lestvice rizika. Jer mi u ovom trenutku, osim gomile prirodnih rizika, zemljotresa, eksplozija na Suncu, magnetnih poremećaja, klimatskih promene, pandemija, meteora i šta ti ja znam čega sve ne, imamo i naše ratno budalesanje gde jedni ka drugima držimo uperene atomke i prst na okidaču. Ne znam ima li smilsla uopšte porediti rizik od AI modela i ovu kategoriju? Verovatno bi trebalo pa onda osvežiti probablity svakog rizika.
U suštini, ako AI modeli mogu da ubrzaju naš razvoj nauke i povećaju stepen saznanja o prirodnim zakonima - zašto da ne. Ako mogu da pomognu u edukaciji ljudi, onda da. Možda nam pomognu da pobedimo u trci sa vremenom. Možda nam je to nova alatka koja nam je potrebna? Ili koja nam je još preostala?
Ako ništa, možda barem kao Karl Segan-ova ideja sa Vojadžerom, stim što bi ovde bio mnogo napredniji AI model koji bi lutao svemirom - pa ako ikad naleti na neko svesno biće - umeo da mu prenese svo naučno i tehničko znanje do kojeg smo mi došli. Ako bi to uspeli i takve sonde ostanu da tumaraju svemirom opet je bolje milion puta nego da posle nas ostane samo mrak i mrtva tišina :) Ako mene pitaš, meni je i to dosta.
Citat:
Ivan Dimkovic:
Mozda je to neminovan proces - vrlo verovatno niko ne bi pristao da zaustavimo razvoj tih AI algoritama kako bi nama dali "foru" da "stignemo" AI (a vreme za to nije poznato, niti je uspeh garantovan). Automatski prevodioci su postali deo svakodnevice, modeli savijanja proteina i drugih procesa ce postati sastavni deo razvoja lekova npr. sa enormnim kratkorocnim dobitkom za ljudsku civilizaciju. Kontrola a, kasnije, i vodjenje kompleksnih sistema kao sto su elektroenergetski sistemi, berze, avio saobracaj (kontrola leta za pocetak) neminovno slede zato sto ce AI modeli u tim ulogama biti nemerljivo efikasniji i pouzdaniji od ljudi.
Jedno je sigurno - imaćemo anti-ai ekipu isto kao i anti-vaksere, anti-gmo, anti-ovo ..ono.. taj deo nije sporan.
Ali realno, čak i da postoji potpuni konsenzus u UN oko toga i padne odluka da se stvar zamrzava na nekoliko vekova. Jel ceniš da bi išta od toga zaustavilo dalji razvoj modela i masovna treniranja? Šta znam. Možda bi malo usporilo, ali sprovodjenje takve odluke podiglo bi gomilu novih pravnih i zakonskih problema + nove etičke dileme. U ovako podeljenom svetu ne verujem da bi tako nešto uopšte zaživelo. Što je najludje, čak i da imamo mnogo rizičniji AI (nego što su napredni jezički modeli) i da stvarno treba neka hitna i radikalna mera, mi verovatno ni tada ne bi bili u stanju da globalno sprovedemo takve odluke efikasno i u potpunosti.
Sa druge strane, pitanje je i naučne oblasti sa kojom je čovek u dodiru. Recimo tebi je bliži softver, neuronauke ili nešto od toga. Meni je možda nešto treće. Tebi kao softverašu je AI model bliži i trigeruje crveno svetlo na skali rizika. Ali isto tako se sećam drugara koji je odličan biohemičar, neka pitanja koja je on postavljao o sintetičkoj biologiji izgledala su nama laicima oko njega kao cool SF. A onda kad je krenula upotreba veštačkih enzima pa upotreba mutacija i selekcije u njihovom procesu proizvodnje, onda vidiš da je možda imalo smisla šta čovek priča. Čovek je ranije skapirao jer je to njegova branša. Naravno, GPT je trenutno globalni hype, ali kad je u pitanju struka, verovatno ljudi iz susednih nauka imaju svoje odvojene trigere i njih ova priča ne trigeruje puno. Što svakako opet nije dobro, samo dodatno otežava sprovodjenje tako globalne odluke u naučnim krugovima.
Citat:
Ivan Dimkovic:
Ali sta je sa dugorocnim dobitkom? Jedan ekstrem bi bila totalna zavisnost od crnih kutija gde nase znanje o procesima od kojih zavise sami zivoti postaje sve manji i manji. U nekom momentu je sasvim za ocekivati da takvi AI modeli bivaju unapredjivani i kreirani od strane predhodnih AI modela (kao sto se desilo sa AlphaGo) sto bi predstavljalo konacnu tacku ili zid koji nase znanje ne bi moglo da preskoci.
Koliko se meni čini, mi smo tu granicu već prešli u nekim oblastima. Recimo ImageNET, koji se koristi za softversko prepoznavanje oblika, iako zvanično spada u ljudski kreiran softver, zapravo je produkt AI-GA ( AI-generated algorithms ) to jest kreiran od strane algoritama višeg nivoa. Ti algoritmi višeg nivoa su pronašli niže algoritme za optimizaciju koje ljudski arhitekta ne bi mogao. To jest, mogao bi ali verovatno uz dodatni par očiju i ko zna koliko vremena.
https://arxiv.org/abs/1802.01548
Kad pogledaš, to mu dodje kao optimizacija i evolucija source code-a, ali malo poboljšana. Verovatno će na ta mala vrata stvar stizati i u ostale softverske proizvode. Videćemo. Biće zanimljivo pratiti.
Re: OpenAI ChatGBT = Skynet
21. Philippines (1950s-1970s) 22. Cuba (1961) 23. Laos (1950s-60s) 24. Cambodia (early 1970s) 25. Greece (1967) 26. Turkey (1960, 1971 & 1980) 27. Egypt (1950s & 2013) 28. Haiti (1991 & 2004) 29. Yemen (2015) 30. Afghanistan (1979-1989) 31. Angola (1975-1980s) The list is not exhaustive, and there may be other examples of US involvement in overthrowing or attempting to overthrow foreign governments.
