• 11 odgovora
  • 4.082 pregleda
kako staviti 3.000.000 fajlova u file system 15.06.2004. u 15:40 · pre 272 meseci #1
Evo trebao bih da imam oko 3 milona thumbnail slikica koje treba da stavim u file system slike ce imati imena nesto ovako:

234567890234567890.jpg dakle 20 cifara i naravno sad nisam vichan sa linuxom ali recimo da je redhat po default instaliran...

Sad ima ideju da to malo podjelim po folderima na primjer za gornju sliku npr ./234/567/890/234567890.jpg

Sad ne znam ima li to smisla tako raditi uopste?

[Ovu poruku je menjao NetworkAdmin dana 16.06.2004. u 19:47 GMT]
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 16:21 · pre 272 meseci #2
Ima smisla - obavezno, obavezno podeli (po nekakvom sistemu) fajlove u poddirektorijume. Npr, ls nad jednim direktorijumom sa tolikim brojem fajlova bi ti gotovo sigurno vratio "argument list too long" (iz iskustva znam :))..

Takav veliki folder sa tolikim brojem fajlova bi sigurno bio usko grlo..
Potpis
Alex: My favorite site is http://localhost/
R.J. Oppenheimer: "I am become death, destroyer of worlds" (1945 AD)
tweet.13x ||
linkedin.13x
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 16:29 · pre 272 meseci #3
Izdeli sto vise. Mozes cak i na svake 3 cifre. Tako ces imati uvek do 1000 fajlova (direktorijuma), sto nece biti problem.
Potpis
JaFreelancer.com
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 16:33 · pre 272 meseci #4
da, definitivno.. i mada bi ti dva nivoa verovatno završila posao (po hiljadu fajlova/direktorijuma u jednom nivou), možda je bolje da ideš sa tri nivoa.

i druga preporuka, ako je taj 20tocifreni ID/broj ima nekog smisla (tj ne dodeljuje se totalno random, nego sa nekim smislom), može ti se desiti da imaš dosta sličica koje počinju istim ciframa, tako da ti razdvajanje po početnim ciframa neće mnogo pomoći.

onda se može koristiti obrnut princip, da razdvajaš po poslednjih par cifara.. znači, ako ti se sličica zove 1234567890.jpg predlažem da je sačuvaš kao ./90/78/1234567890.jpg (pametno je da fajl sačuva svoje originalno ime da ne bi morao da ga spajaš svaki put)..
Potpis
blogče :: unescaped beta
  »
go-paste extenzija
  »
reč dana: backup
  »
bočne koalicije
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 16:45 · pre 272 meseci #5
U svakom slucaju moraces da proveris broj index nodova koje imas za taj fajlsistem, inace moze da ti se desi da neces imati gde da snimas fajlove iako ima prostora na disku...
Potpis
What I hear, I forget. What I see, I remember. What I do, I understand. What I screw up, I
master.
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 21:20 · pre 272 meseci #6
Citat:
neetzach:...broj index nodova koje imas za taj fajlsistem...


Gde postoji takva informacija?
Ili ako neko zna za ntfs, ext2 i ex3.

Ako bi se u istom direktorijumu nalazila velika kolicina fajlova (fotografija) i ako bi im se prilazilo direktno programski po imenu (imena fajlova su u bazi) da li bi postojala bilo kakva razlika ako bi fajlovi bili razvrstani po direktorijumima?

zahvaljujem



Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 21:48 · pre 272 meseci #7
Citat:
-zombie-:onda se može koristiti obrnut princip, da razdvajaš po poslednjih par cifara.. znači, ako ti se sličica zove 1234567890.jpg predlažem da je sačuvaš kao ./90/78/1234567890.jpg (pametno je da fajl sačuva svoje originalno ime da ne bi morao da ga spajaš svaki put)..


Potvrdiću da je navedeni način efikasan. Koristim razdvajanje po prvih par cifara (12/34/1234567890.jpg) na 1.5M datoteka i radi odlično.
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 21:53 · pre 272 meseci #8
uposlite google, ja sam tražio nešto za reiser pa naleteh na:

Specifications for ReiserFS: (in according to NIST standard)
3.5 3.6
max number of files 232 - 3 => 4 Gi - 3 232 - 3 => 4 Gi - 3

max number files a dir can have 518701895,
but in practice this value is limited by hash function. r5 hash allows about 1 200 000 file

names without collisions 232 - 4 => 4 Gi - 4
but in practice this value is limited by hash function. r5 hash allows about 1 200 000 file names without collisions

max file size 231 - 1 => 2 Gi - 1 260 - bytes => 1 Ei,
but page cache limits this to 8 Ti
on architectures with 32 bit int

max number links to a file 216 => 64 Ki 232 => 4 Gi

max filesystem size 232 (4K) blocks => 16 Ti 232 (4K) blocks => 16 Ti


ostalo na: http://www.namesys.com/faq.html
Potpis
GnuPG public key:
tixo.asc


Try and be nice to people, avoid eating fat, read a good book every now and
then, get some walking in, and try and live together in peace and harmony with
people of all creeds and nations.
Re: kako staviti 3.000.000 fajlova u file system 15.06.2004. u 22:58 · pre 272 meseci #9
Citat:
bOkIcA:Gde postoji takva informacija?
Ili ako neko zna za ntfs, ext2 i ex3.


Mozes pogledati kako trenutno stoji stanje na sistemu sa: df -i

Gustina (tj. broj) inodova se regulise prilikom pravljenja fajlsistema. Sto znaci da ako ih treba vise, onda se mora reformatirati fs na kojem ce stajati fajlovi.


Potpis
What I hear, I forget. What I see, I remember. What I do, I understand. What I screw up, I
master.
Re: kako staviti 3.000.000 fajlova u file system 16.06.2004. u 17:37 · pre 272 meseci #10
trenutno stanje kod mene je:
Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/sda3 8699904 205782 8494122 3% /
dakle 3 miliona fajlova plus svi ti direktoriji na dva nivoa sa max 1000^2 sto je jos jedan milion znaci dalke moze stati da iskoristim nekih 45%
Re: kako staviti 3.000.000 fajlova u file system 16.06.2004. u 20:36 · pre 272 meseci #11
ReiserFS je i nastao sa namjerom da opslužuje masivne serverske instalacije na pouzdaniji način nego što je to bilo do njegovog pojavljivanja. Od tada je i on značajno unaprijeđen a više detalja o tome ima i na
http://www.namesys.com/
Potpis
Howdy & Stay tuned to ...ES.. :))
Prijavite se da biste odgovorili u ovoj temi.PrijavaRegistracija

Premeštanje teme