Anthropic je u ponedeljak objavio izmenjeni S-1/A, dokument od 614 strana, a pored finansijskih brojki pažnju je privukao deo o faktorima rizika. Kompanija tu navodi da sve veća upotreba AI-ja u sopstvenom istraživanju i razvoju može da ubrza napredak modela brže nego što uspe da razvije i uvede odgovarajuće mere bezbednosti, poravnanja i zaštite. Priznaje i da u prošlosti nije prepoznala značajno ubrzanje dok se ono nije već desilo.
Prema internim procenama i očekivanjima za buduće modele, Anthropic kaže da bi uskoro mogao da ispuni definiciju „dramatično ubrzanog napretka koji se pripisuje AI-ju“ iz svoje Responsible Scaling Policy, odnosno da se približava onome što se zove rekurzivno samopoboljšavanje (RSI). Nijedan trenutni model nije označen kao da prelazi taj prag, a podaci se i dalje procenjuju. Kompanija ne očekuje da će moći bezbedno da koristi Claude za potpuno autonoman dizajn narednih generacija frontier modela bez smislenog ljudskog nadzora i razmatra izmene RSP-a da ljudi ostanu u kontroli.
Skeptici ističu da je S-1 i objava i marketing, pa tvrdnja o modelu koji gradi sam sebe može spadati u ovo drugo. Novinari koji su analizirali dokument ističu i obaveze za compute od oko 800 milijardi dolara u narednih dvadesetak godina, kao i to što su neki najveći kupci ujedno konkurenti.
Prema internim procenama i očekivanjima za buduće modele, Anthropic kaže da bi uskoro mogao da ispuni definiciju „dramatično ubrzanog napretka koji se pripisuje AI-ju“ iz svoje Responsible Scaling Policy, odnosno da se približava onome što se zove rekurzivno samopoboljšavanje (RSI). Nijedan trenutni model nije označen kao da prelazi taj prag, a podaci se i dalje procenjuju. Kompanija ne očekuje da će moći bezbedno da koristi Claude za potpuno autonoman dizajn narednih generacija frontier modela bez smislenog ljudskog nadzora i razmatra izmene RSP-a da ljudi ostanu u kontroli.
Skeptici ističu da je S-1 i objava i marketing, pa tvrdnja o modelu koji gradi sam sebe može spadati u ovo drugo. Novinari koji su analizirali dokument ističu i obaveze za compute od oko 800 milijardi dolara u narednih dvadesetak godina, kao i to što su neki najveći kupci ujedno konkurenti.