[ sheff @ 26.12.2007. 17:14 ] @
Da li ima ikakav nacin da sadasnju Win2003Server mrezu sa XP klijentima zamijenim sa Linux varijantom - dakle da imam neki Active Directory ekvivalent na Linuxu (Fedora ili Ubuntu) koji biimao neki Domen kontroler (dodatno bih koristio i freeRADIUS za par remote klijenata) gdje bih mogao setovati group policy-e i sve ostalo sto nudi AD na Windowsu? Ako je ovo moguce - gdje, sta, kako? Inace mreza ima 100tinjak racunara plus par servera. Do sad je sve bilo na Winsowsu, ali bih primjenom Linuxa isao clean install bez ikakve migracije postojecih user accounta, osim sto ce biti uradjena migracija nekoliko gigabajta iz SQL Servera u MySQL (ili preporucujete PostgreSQL??).

Usput, slicno gornjem, ima li neki alat koji bi mi omogucio da setujem group policye na stand alone Linux radnoj stanici (Fedora ili Ubuntu)?
[ nkrgovic @ 27.12.2007. 12:35 ] @
Ne bas, tj. ne ako hoces da zadrzis Windows klijente. Imas Samba-u koja moze da nudi usluge NT4 PDC-a (domain login, profili...) ali ne i punu zamenu AD-a. Nova Samba bi to trebala da moze, ali to jos uvek nije production ready. Kad bude, trebalo bi da nusi usluge ekvivalentne Win 2000 AD-u.

Ako hoces da organizujes te podatke na slican nacin, i da ih koristis za Samba-u, Linux klijente, RADIUS ili sta god vec, onda slobodno koristi OpenLDAP za tako malu mrezu. Ako planiras neki veci rast, razmisli o Sun-ovom LDAP-u (bivsi Netscape / iPlanet), i mozda i Solaris-u, isto je besplatno. Takodje, Linux klijentima mozes dati LDAP za resolvovanje dosta toga, ali naravno onoga sto je njima potrebno i sto oni umeju da prime - Linux klijent nema registry i ne mozes ocekivati da postavljas registry vrednosti na njima iz LDAP servera :).Login privilegije, parapmetri mreze, servisi, DNS i takve stvari - to da. Plus, ako ces zeleti da emuliras AD preko nove Samba-e LDAP ti je neophodan i za to.

Konacno, prebaciti par GB podataka iz baze u bazu nije problem, ali stored procedure, trigeri i sl. jeste. To ti jednostavno nece raditi. Znaci, ako imas vec neku aplikaciju, ne mozes jednostavno staviti neku bazu na Linux i promeniti par parametara, moraces da redizajniras aplikaciju. Ako to radis, onda razmisli o tome da je redizajniras tako da imas klijent u Java-i, ili pristup preko web-a, ili da jednostavno zahtevas da taj novi klijent bude razvijen za vise platformi. Custom aplikacije su to sto jesu, ne postoji magicno resenje da predjes na Linux i ne platis preskupe MS licence, CAL-ove i sl.
[ sheff @ 27.12.2007. 19:49 ] @
prvo RDBMS: SQL server sluzi samo za storage a koristi se vise aplikacija a sve su Java Apache Tomcat bazirane i podrzavaju obje platforme, te jos ORACLE. Ono sto nisam tacno naveo je kolicina - radi se o nekoliko stotina GB, tacnije 692 GB te ce u buducnosti da raste, po procjeni oko 170GB godisnje. zbog ovog bih volio preporuku - MySQL ili PostgreSQL?

Sto se pak tice mreze - cilj je sve prebaciti na Open Source/Linux, dakle nema vise Windowsa niti Officea niti ista komercijalno. Treba da ima AD/LDAP server+Mail+Web+Appserver s MySQLom i Apachom. Bice tu jos i rezervnih servera za kriticne servise, plus jos firewall + asterisk + backup server + NAS. Ukupno 14 servera. Klijenata je sad 100injak, ali ce za nekoliko mjeseci biti ukljuceno jos 70 racunara plus jos za pola godine ostatak od oko 500tinjak racunara. Sto se tice OpenLDAPa, sa njim nemam nikakvog iskustva te me zanima da li nudi ikakav GUI te razne razine administracije za razlicite administratore? Sa SUNom nemam takodje nikakvog iskustva. Ono sto zelim da posebno potcrtam jest da su mi interesantne mogucnosti koje mi LDAP pruza u pogledu restrikcija GUI-a na Linuxu, posto useri niti znaju niti ih zanima shell, sto je i razumljivo jer se ne radi o informaticarima. Kakva je sad situacija?
Nisam razumio sta mislis pod "Login privilegije".
[ nkrgovic @ 29.12.2007. 13:44 ] @
Citat:
sheff: prvo RDBMS: SQL server sluzi samo za storage a koristi se vise aplikacija a sve su Java Apache Tomcat bazirane i podrzavaju obje platforme, te jos ORACLE. Ono sto nisam tacno naveo je kolicina - radi se o nekoliko stotina GB, tacnije 692 GB te ce u buducnosti da raste, po procjeni oko 170GB godisnje. zbog ovog bih volio preporuku - MySQL ili PostgreSQL?


Pre Postgre, bar za tu kolicinu podataka. Meni se MySQL propisno gusi sa svakom tabelom vecom od par GB, tako da mislim da je bolje ici na Postgre. Takodje, dobrano razmisli o bekapu toga, bice ti to nocna mora ako budes morao da to odradis naknadno. Bekap tolike baze je jako nezgodan, posebno ako je web aplikacija i mora da bude online non-stop.

Citat:
Sto se pak tice mreze - cilj je sve prebaciti na Open Source/Linux, dakle nema vise Windowsa niti Officea niti ista komercijalno. Treba da ima AD/LDAP server+Mail+Web+Appserver s MySQLom i Apachom. Bice tu jos i rezervnih servera za kriticne servise, plus jos firewall + asterisk + backup server + NAS. Ukupno 14 servera. Klijenata je sad 100injak, ali ce za nekoliko mjeseci biti ukljuceno jos 70 racunara plus jos za pola godine ostatak od oko 500tinjak racunara. Sto se tice OpenLDAPa, sa njim nemam nikakvog iskustva te me zanima da li nudi ikakav GUI te razne razine administracije za razlicite administratore? Sa SUNom nemam takodje nikakvog iskustva. Ono sto zelim da posebno potcrtam jest da su mi interesantne mogucnosti koje mi LDAP pruza u pogledu restrikcija GUI-a na Linuxu, posto useri niti znaju niti ih zanima shell, sto je i razumljivo jer se ne radi o informaticarima. Kakva je sad situacija?
Nisam razumio sta mislis pod "Login privilegije".

OpenLDAP ne nudi, koliko ja znam, nikakav GUI. Sun nudi. Za oba mozes uzeti neki 3rd party program za pristup i odrzavanje baze, to zavisi sta ti zelsi.... Sad, sto se tice vise nivoa pristupa. - korisnici se autentifikuju na LDAP, znaci ti mozes u LDAP-u dati privilegije korisnicima sta mogu da diraju, ali to ce ti biti dosta nezgodan i naporan posao da se sve odredi kako treba. Nije nemoguce, ali imaces lep posao pred sobom. Da ne spominjem da je, koliko citam, asterisk ldap integracija tek u ranoj fazi, na primer (ne znam koliko ti je bitno da se to integrise, ali bilo bi lepo.... ideja je da sve drzis u LDAP-u, ako ga koristis za konfiguraciju). Konacno, za mrezu od 1000 racunara ces verovatno imati par stotina hiljada rekorda u LDAP bazi, tako da bi ti toplo preporucio da se odmah orijentises na Sun-ovo resenje. Ako ti ne treba podrska mozes ga koristiti besplatno, a sa tom kolicinom podataka sam cuo da je mnogo brzi od OpenLDAP-a.

Sto se tice restrikcija GUI-ja, nisam siguran na sta mislis.... Ako zelis da im ogranicis sta mogu da pokrecu od programa to se moze odraditi preko privilegija, koje se mogu opet vuci iz LDAP-a, zajedno sa mreznim login informacijama (ono - username/pass). Ako to zelis, to bi trebalo da moze, mada nisam nikad imao potrebe da probam... ali imam idejica kako bi to islo.
[ Jbyn4e @ 29.12.2007. 14:31 ] @
Mozda je za tebe resenje Novell Open Enterprise Server 2

koliko mi se cini da je u njemu i e-directory (zamena za M$ AD), kao i gomila drugih stvari. Nisam siguran sta se placa (da li samo podrska ili sta li vec), ali mozes da skines besplatno evaluation verziju koja veorvatno ima ogranicenje da ne mozes da update-ujes preko weba, kao i da nemas nikakvu podrsku. Sam OS mislim da ti nikad nece "isteci" ali je pitanje legalnosti ako ga ne kupis - to vec moras da vidis. E-directory ima web based management svih tih policies-a o kojima pricas (to je u stvari jedan ldap server sa jos gomilom dodataka... ako se dobro secam).

Vise informacija:
http://www.novell.com/products/openenterpriseserver/
http://www.novell.com/products/edirectory/

To SUN-ovo resenje je cini mi se nesto vrlo slicno sa e-directory-jem.

Sto se tice baze, znam da je postgres imao nekih problema sa nekim vakuum-om koji bi trebao nesto da "cisti" bazu ili sta vec, pa se baza uspori toliko da ne bude upotrebljiva. Da li je to sredjeno (vo je bilo nesto pre 2 godine) - ne znam, ali verovatno jeste. Ali za toliku kolicinu bitnih podataka, ja se ne bih zezao i zadrzao bih ipak oracle, prvenstveno zbog lakse migracije podataka i aplikacija. Za mysql bi verovatno morao mnogo toga da menjas, a nemam pojma kako bi se ponasao sa toliko podataka.

[ Silencer @ 29.12.2007. 18:19 ] @
Moraces da sacekas Samba 4 da izadje da bi kreno na klasicnom linuxu aka Ubuntu da koristim nesto slicno Windows AD :)
[ nkrgovic @ 30.12.2007. 08:48 ] @
Citat:
Silencer: Moraces da sacekas Samba 4 da izadje da bi kreno na klasicnom linuxu aka Ubuntu da koristim nesto slicno Windows AD :)

Zapravo ne. Samba 4 mu treba ako zeli da glumi AD server za Windows klijente, za Linux klijente mu AD ne treba. Tome sluzi LDAP.

A sto se tice Novell-a, mislim da se to placa, i to ne malo.... To je, bar nekad, imalo isto cenu po klijentu, tj. CAL-ove.... Obavezno proveriti.
[ korvin @ 30.12.2007. 09:09 ] @



Mislim da je Solaris/JES jako dobro resenje osim sto je najnovija verzija malo bagovita i zahteva patch-eve za koje treba platiti podrsku.

Sto se tice baze ja sam za MySQL, cak i innodb radi ok po performansama ubija oracle (radio sam query nad bazom od 263 miliona redova uporedno na istoj masini).

Izgleda da nema enterprise resenja za Linux desktope koje je besplatno (ko je rekao NIS :) Voleo bih da me neko demantuje.
[ Jbyn4e @ 30.12.2007. 09:38 ] @
263 miliona redova nije isto sto i 600 GB - tih 263 miliona zauzme oko 20Gb, ne vise... u svakom slucaju mora masina da bude viseprocesorska, sa mnooogooo rama i brzim storage-om za sve to.. ili neki klaster pod oracle-om.
[ nkrgovic @ 30.12.2007. 12:58 ] @
Citat:
korvin: Mislim da je Solaris/JES jako dobro resenje osim sto je najnovija verzija malo bagovita i zahteva patch-eve za koje treba platiti podrsku.

Sto se tice baze ja sam za MySQL, cak i innodb radi ok po performansama ubija oracle (radio sam query nad bazom od 263 miliona redova uporedno na istoj masini).

Izgleda da nema enterprise resenja za Linux desktope koje je besplatno (ko je rekao NIS :) Voleo bih da me neko demantuje.

Sine Oberonov :),

MySQL nije baza za transakcioni rad. Kada je koristis za jedan upit ona radi OK, ali kada pokusavas da kroz MySQL pokrenes mnogo paralelnih upita, nad istim tabelama, ta baza jednostavno ne rai kako treba. Oracle jeste dobro resenje, ako covek hoce da ga plati, kao i Sybase ASE, koj je jako slican tome sto on vec koristi (MS SQL-u). U nedostatku sredstava za licenciranje POstgreSQL je jedino razumno resenje, naravno podrzano dobrim hardverom.

A sto se tice NIS+ , imas ga besplatno uz Solaris, koji je takodje besplatan. Mislim da ga, cak, mozes koristiti sa LDAP backendom, mada ne vidim poentu toga, ako vec imas LDAP. Stavis PAM-LDAP i vozis. Ubuntu mi se bez problema autentifikovao na Sun JES LDAP server, bez mnogo truda, i to Live CD verzija, bez instalacije na hard disk, samo apt-getovano, par paketa. A i osnovna podrska za Solaris je stvarno jevtina.... :). Sve u svemu, po meni je isto Solaris mnogo bolje resenje, samo sto treba pazljivo odabrati hardver da moze d izdrzi rad sa tom kolicinom podatak.... Dosta diskova, dobar RAID, mozda ZFS, i gomila rama su osnova (ko je rekao Thumper :) ).
[ korvin @ 30.12.2007. 19:04 ] @
Citat:
nkrgovic: Sine Oberonov :),

MySQL nije baza za transakcioni rad. Kada je koristis za jedan upit ona radi OK, ali kada pokusavas da kroz MySQL pokrenes mnogo paralelnih upita, nad istim tabelama, ta baza jednostavno ne rai kako treba. Oracle jeste dobro resenje, ako covek hoce da ga plati, kao i Sybase ASE, koj je jako slican tome sto on vec koristi (MS SQL-u). U nedostatku sredstava za licenciranje POstgreSQL je jedino razumno resenje, naravno podrzano dobrim hardverom.

A sto se tice NIS+ , imas ga besplatno uz Solaris, koji je takodje besplatan. Mislim da ga, cak, mozes koristiti sa LDAP backendom, mada ne vidim poentu toga, ako vec imas LDAP. Stavis PAM-LDAP i vozis. Ubuntu mi se bez problema autentifikovao na Sun JES LDAP server, bez mnogo truda, i to Live CD verzija, bez instalacije na hard disk, samo apt-getovano, par paketa. A i osnovna podrska za Solaris je stvarno jevtina.... :). Sve u svemu, po meni je isto Solaris mnogo bolje resenje, samo sto treba pazljivo odabrati hardver da moze d izdrzi rad sa tom kolicinom podatak.... Dosta diskova, dobar RAID, mozda ZFS, i gomila rama su osnova (ko je rekao Thumper :) ).


Sta cu kada volim Zelaznija, drzim se ovog usera ima tome skoro dvadeset godina valjda sam konzervativan sta li :)

MySQL koristim ima tome skoro dekada i radi ok sa paralelnim upitima, ja sam uporedjivao MySQL 5.x sa Oracle 10.2.0.2 na identicnim masinama oba maksimalno optimizovana i to ne za neki lab test. Ja se nadam da hiljade internet servera koji rade na LAMP-u ili varijacijama i koriste MySQL znaju za taj problem sa paralelnim upitima :) Mora da je internet zato toliko spor :)

Problem sa najnovijim JES-om ako ga koristis kao production sistem je da ima gomilu bagova vecina vezanih za Messenger deo ali ima par gadnih koji se doticu Sun Directory servera i Access Managera (authentication jako dobar za SSO). Ja bih jako zeleo da mi neko dokaze da tih bagova nema jer bih onda vrlo brzo i lako zatvorio par support requestova musterija (a i sun support bi bio srecan verujem :)

U svakom slucaju Solaris sa Directory serverom i Authentication Managerom i eto ga domen sa velikim mogucnostima koji kako nkrgovic rece moze lepo da podrzava korisnike na linuksu sa punom funkcionalnoscu AD-a i mnogo manje para (cak i ako se plati support).

Da ne ispadne da sam iskljuciv, Linux je jako jako dobar ali za enterprise mora da se plati a onda je bolje ici sa necim velikim a razlika u ceni i nije nesto. Uz rizik da izazovem flame war reci cu da IBM malo kaska po pitanju tehnologije a i veoma je skup. HP-UX ne bih ni da razmatram. Linux kao desktop se pokazao kao jako dobar pod uslovom da se change management uradi kako treba (tj. ljudi prihvate promenu).

@Jbyn4e - Da bi odredio velicinu baze covek mora da zna osim kolicine redova i sta je u njima :) U ovom slucaju 55 GB.

[ Jbyn4e @ 30.12.2007. 20:45 ] @
Potpuno si u pravu, ja sam to ono odokativno za velicinu baze... naravno da zavisi od toga kakva je struktura baze (sheme kako to zovu oracle-ovci), koliko ima tabela, koliko koja ima redova i polja... ali opet, stoji mi konstatacija, 55 gb nije isto sto i 600 ili vise - verujem da i ta velicina dosta zavisi.

I jos nesto, ako se dobro secam, mysql odmah radi commit, i nema rollback segmente? Ili je to drugacije sad?

Offtopic: Da li su tabele innodb ili su myisam? Da li si poredio brzinu na myisam i innodb i kako su se pokazale na tolikoj bazi?


[ sheff @ 30.12.2007. 21:01 ] @
Vise je aplikacija koje ce koristiti tu bazu i server. I da, moraju biti 99,999% uptimea. Iskalkulisali smo na osnovu dosadasnjih iskustava, da bi maximalno opeterecenje moglo ici i do 30.000 transakcija/upita u sekundi, sto sa neta sto lokalno. Naravno live backup mora ici, bez gasenja sistema. Sta predlazete kao backup rjesenje?

sto se tice restrikcija - pa zelio bih postaviti grupne police npr. da mogu koristiti samo OO Writer i Gimp ali da ne mogu xmms isl. Ili da im mogu uraditi forsirani remote restart mashine isl.
Spominjes PostgreSQl i dobar hardver - na sto konkretno mislis? Iace vidim da ne simpatises bas mnogo MySQl, ali nije mi jasno onda zasto je bas on najpopularnija open source baza, zasto to nije PostgreSQL? Slazem se sa korvinom jer je nelogicno.

eDirectory na kraju kad se izracuna ispane malo jeftiniji od MS-a ali opet kad se izracuna komplet TCO za par godina ispane to prilicno love, mada istina jos uvijek manje od MS-a. Ipak cilj je da sve bude for free.

Samba mi uopste ne treba bar ne u ovoj fazi projekta jer ce se ici na clean promjeanu platforme a ne postepenu migraciju. Dakle sve Win NT i 2k/xp ce biti zamijenjeni sa Linux+OO+Mozilla preko jednog vikenda jer se useri vec obucavaju ima mjesec dana za selidbu na OSS. Samba ce mi trebati za nekih 50 racunara koji ce pricekati jos koju godinu za selidbu, jer su im licence za Vistu vec placene. Takodje FreeRADIUS ide jos za 150ak remote klijenata posto nece biti u mojoj administraciji.

sto se tice servera, ima svasta udrobljeno dakle i IBM i HP i DELL. Takodje zadnja faza ukljucuje formiranje jos jedne nove velike baze za koju ce biti koristen poseban Dell SAN sa projiciranim kapacitetom za sljedecih 5 godina od oko 115 TB, te me u vezi sa istim zanima preporuka: uzet 200 SATA hot plug diskova od 500GB ili ici na SAS hot plug (2x vise diskova i zelenih suskavih), odnosno da li uopce ici na hotplug SAN ili sloziti kakav ordinary home made Cluster od nekolko desetaka PCeva sa obicnim SATA diskovima, pa ako rikne jedan samo iscupam masinu cijelu, zamijenim disk i nazad jer ovdje uptime zahtjev nije 99,999%. RAM - kolko predlazete za ovakvu a koliko za onu gore bazu od 692 GB a kolko ako bi isle zajedno, jer je plan sve to staviti na jedan sistem, jedan RDBMS sa vise baza... ZFS - zasto? Elem ovo oko hardvera je posebna tema, hajmo dajte preporuka i ideja sta biste vi slozili, ipak 2 glave su pametnije od jedne ;)

Sta mislite o FreeBSDu? Ovih dana se malo s njim igram, nisam ga koristio ima cijela vjecnost, vidim evo ima i growfs opciju... hajmo malo dajte iskustava, puhajte, svako misljenje je dobrodoslo.
[ Marko_R @ 31.12.2007. 13:55 ] @
Da li si razmišljao malo o kompatibilnosti između MS Office-a i OpenOffice-a? To može da bude problem. Državne institucije kao što je NBS često šalju aplikacije pisane u Access-u kojima treba da se napravi izveštaj, a OO ne učitava Access dokumente. Drugo, ni dokumenti u drugim formatima ne izgledaju isto kao u MS Office-u.
[ BBS @ 31.12.2007. 20:08 ] @
@sheff

Iskustva vezana za FreeBSD nisu namenjena z avaj forum jer Linux i BSD nisu ista stvar
[ nkrgovic @ 02.01.2008. 15:02 ] @
Posto nemamo Benedikta da nam da pravi strateski savet, a ni kolega Vrzic se ne pojavljuje sa svojim autoritetom u ovoj Amberskoj diskusiji ja cu, kao neko ko plovi tim vodama, pokusati da malo budem Zerard i dam jos poneki savet :).

Prvo, po pitanju baze: Ja korisim iskljucivo MySQl zadnjih par godina i jesam svestan da je u pitanju jako dobra baza, ali sa par mana. Prvo, ako ti trebaju stored procedure zaboravi na nju, ako nemas jako dobrog C/C++ programera. Drugo, ako ti treba dosta paralelnih UPISA (izvinjavam se sto nisam bio dovoljno jasan pre), posebno onih koji manipulisu vecom kolicinom podataka, ili pokusavaju da upisuju u istu tabelu, bilo bi jako dobro da probas i PostgreSQL. Ako ti baza treba prvenstveno za citanje, onda je MySQL pravi izbor, posto je to ono za sta je on najbolji - to je tipicna internet/web baza koja daje ubedljivo najbolje performanse u citanju, kao sto se koristi na web aplikacijama.

Sto se tice direktorijuma, ja i daljem mislim da dati par stotina evra godisnje nije puno za server, a za te pare se dobija osnovna podrska za Solaris koja bi ti omogucila pristup pecevima. Sa time, Sun JES LDAP server na solarisu predstavlja sjajan izbor, koji ce ti ponuditi sve sto ti treba za rad.... To ukljucuje i odlicnu podrsku za SSO integraciju web aplikacija, kao i upravljanje Linux klijentima. Ubuntu proverono dobro radi, ovo sam testirao, i mozes bukvalno za pola sata, uz uputstva sa neta i dobar link, apt-getovati sve sto ti treba da cak i LiveCD pocne da se autentifikuje na Sun LDAP. Uz sve to dobijas i ZFS koji ti omogucava lako pravljenje snapshota FS-a, sto ti u kombinaciji sa MySQL-om koji tabele drzi kao obicne fajlove nudi nacin da lako napravis backup skripte koje ce te u potpunosti zadovoljiti. Kao sto rece Korvin, enterprise mora da se plati, a mislim da je cena Solarisa dovoljno mala da se ne moras birnuti o tome. Takodje se slazem sa njim i po pitanju IBM-a i HP-a : zaboravi na njih.

O hardveru sam mislio u kontekstu Solarisa - ZFS ti nudi i ZRAID sto je prilicno fino resenje, posebno za dedicated server. U pitanju je nesto kao RAID 6 / ADG, uz procese koji u pozadini rade konstantne provere integriteta file sistema, i optimizuju/pomeraju podatke ako predosete kvar. Jako zgodan feature, posebno ako imas veliku kolicinu podataka. Drugo u jednom trenutku sam postao bolno svestan toga sta se desava ako ti pukne hardversko RAID resenje, a ti nemas rezervni kontroler, koji je ISTI kao onaj koji se pokvario.... Od tada geldam softverski RAID drugim ocima. Dell-ove SAN sisteme nisam koristio, tako da ti ne mogu nesto pomoci, ali razmisli i na temu NAS-a, kao sto i sam kazes mozda uopste nije lose resenje. Za sta ti uopste treba taj SAN, da li za bazu ili za File Server? Meni se iz tvoje price o pouzdanosti cini da je to bise neko File Server resenje, u kom slucaju je NAS realnija opcija. Kao sto sam kazes, slozi par PC-jeva sa stovi SATA diskova, nabavi dobru mreznu opremu i odaberi dobar RAID. Opet, razmisli o ZFS-u. SAN se pre svega koristi zbog brzine i pouzdanosti, a ne zbog kapaciteta, ako ti je bitan samo kapacitet, a ne treba ti visoka pouzdanost SAN lako moze ispasti bacanje para. Pogledaj i Sun-ovo hardversko resenje poznato kao Thumper - Sun Fire X4500 . U pitanju je spravica optimizovana za ZFS RAID NFS/NAS server, koja je sjajno integrisana i moze ti ustedeti dosta strtuje, rackspace-a, i muka pri pakovanju.... :) .
[ sheff @ 04.01.2008. 23:49 ] @
pa evo ovako da budem konkretan i da otklonim nedoumice ili pogresne zakljucke: radi se o implementaciji spomenutog i vec opisanog sistema od nekolko stotina PCa, Prva baza koju sam spomenuo (od 600 i kusur GB) je upis/citanje, te ima prilicno veliko opterecenje po oba parametra sto znaci da po vasoj preporuci tu treba ici PostgreSQL.
Druga baza je malo vise specificna jer na njoj ce biti malo manje upisa a mnogo vise citanja: radi se i multimedia bazi podataka koja ce za sljedecih 5 godina preci kapacitet od 100TB, iz ovog mogu zakljuciti da je MySQL bolje rjesenje za ovakvo sto ?

@BBS. slazem se, ali cilj je pronaci optimalno rjesenje, a ovo je bilo cisto usput...

Takodje niko nije rekao ista o restrikcijama krajnjih korisnika - kako i sta uraditi da im ogranicim GUI (GNOME) i sve to nekako uvezem u LDAP ili Sun JES LDAP tako da bih imao funkcionalnot group policy-a kod Windowsa?

Sto se tice Sun Fire x4500 - ovaj server je standardno, usudio bih se reci, "Sun-ovski" preskupa masina plus sto bi nama ovdje trebale 3 takve masine i opet lose performanse - ovaj server je klasicni NAS i nema nikakve veze sa brzinom jednog SAN sistema, i odlicno bi bilo rjesenje kao on-site backup server u nekoj mrezi, ali ne mislim da bi takvo sto zadovoljilo potrebe ako imas >4000 istovremenih zahtjeva za multimedia sadrzajem visoke rezolucije. Osim toga kako rekoh, ima los ROI.

[Ovu poruku je menjao sheff dana 05.01.2008. u 01:04 GMT+1]
[ dr ZiDoo @ 08.01.2008. 17:18 ] @
Znas sta radi DB od 100TB?
Sta hoce :)
[ nkrgovic @ 09.01.2008. 10:38 ] @
Citat:
sheff: pa evo ovako da budem konkretan i da otklonim nedoumice ili pogresne zakljucke: radi se o implementaciji spomenutog i vec opisanog sistema od nekolko stotina PCa, Prva baza koju sam spomenuo (od 600 i kusur GB) je upis/citanje, te ima prilicno veliko opterecenje po oba parametra sto znaci da po vasoj preporuci tu treba ici PostgreSQL.
Druga baza je malo vise specificna jer na njoj ce biti malo manje upisa a mnogo vise citanja: radi se i multimedia bazi podataka koja ce za sljedecih 5 godina preci kapacitet od 100TB, iz ovog mogu zakljuciti da je MySQL bolje rjesenje za ovakvo sto ?
....
Sto se tice Sun Fire x4500 - ovaj server je standardno, usudio bih se reci, "Sun-ovski" preskupa masina plus sto bi nama ovdje trebale 3 takve masine i opet lose performanse - ovaj server je klasicni NAS i nema nikakve veze sa brzinom jednog SAN sistema, i odlicno bi bilo rjesenje kao on-site backup server u nekoj mrezi, ali ne mislim da bi takvo sto zadovoljilo potrebe ako imas >4000 istovremenih zahtjeva za multimedia sadrzajem visoke rezolucije. Osim toga kako rekoh, ima los ROI.

Pa mogao si da spomenes da ti treba to... Mi sve vreme razmisljam o java servletima koji sluze neki e-commerce sajt, samo iz velike baze, a ti nam onda zveknes 4000 korisnika koji paralelno vuku video ? Definitivno ti onda treba SAN, tu nema govora, imas li tacan podatak koliki ti bandwith treba ka diskovima? Znaci 4000 korisnika * koji bandwith trazi jedan stream? Je'l ti to 4000 samo procena, i zelis da to moze i dalje da raste jednog dana, ili je to zatvoren sistem koji nece rasti puno preko toga.... Je'l ti 100TB velicina videa, da li drzis video u bazi? Kako, kao BLOB polja? Koliko procesorske snage treba za to? Kako mislis da odradis networking dalje ka LAN-u i ostatku sveta? I da, cena 3 Thumpea nek ti ne predstavlja problem, daces ti dosta vise od toga... :)
[ sheff @ 09.01.2008. 14:35 ] @
Pa u pravu si - ovaj prvi od 600GB jest e-commerce i jest Java servlet. Samo ovaj drugi koji ce biti kupljen je nesto drugo.
Dakle razradjujem projekat za VOD kao i rekonstrukciju postojece mreze. Zahtjev je da rjesenje bude open source. Ovaj postojeci server sa bazom od 600Gb sam u medjuvremenu prebacio na PostgreSQL i evo par dana radi sasvim OK. Kao web server je Tomcat. Samo sam imao problema sa njim jer se uporno rusio, i nije mogao komunicirati sa PostgreSQL, a problem je bio u nekompatibilnosti te je rijeseno skidanjem zadnje verzije Tomcata (prethodna je bila stable mislim iz 2003. godine). Rezolucija videa je standardna VGA (dakle kao na TV) ali divix kompresovano. Baza jos nije kreirana kao niti citav sistem za ovo. Dakle ide se od nule. Opet greska u broju (ove dell tastature su smece) - nije 4000 nego 400 korisnika. Ovo je prosjek broja istovremenih korisnika u ovom trenutku, mada maximalno opterecenje ce u buducnosti (za nekih 9 mjeseci) ici i do 1400 zahtjeva (mreza koja je pod mojom direktnom administracijom plus jos jedna koja nije ali ce biti u mojoj domeni). Mreza je poluotvorenog tipa - dakle fiksan interni broj korisnika (u 2 mreze nsto vise od 1000) plus teoretski mogucnih 400 dinamicki (tacnije 382 od toga 150 na internet). Dakle 115 TB je projicirani kapacitet za sljedecih 5 godina (+- 12%). Mreza je komplet na Ethernetu. Backbone je (i server linovi) je trenutno na 1Gbps a ostalo na fastEthernetu. Dio plana koji se odosi na mrezu je zadrzati fastEthernet uredske linkove prema korisniima a backbone prebaciti na nekoliko-struki 10Gb/s dok bi se na srednjem nivou zadrzali postojeci 1Gbps linkovi (veza backbone-uredi), mada u nekim dijelovima bi bila direktna veza na backbone. Switchevi su uglavnom HP (L2 i L3) i ATI (L2) a ima i par dediciranih Cisco routera prema internetu. Eto mislim da je sad malo jasnije. Izvinjenje za ne iznosenje svih detalja - nisam se bas mnogo ni nadao pomoci. Mada evo do sad osim baze je i nije bas mnogo bilo korisno.

BTW. 100TB velicina jednog videa - ej pa kako ti to pade na pamet, pa ne radim naucne simulacije :)))
[ nkrgovic @ 09.01.2008. 16:23 ] @
Citat:
sheff: BTW. 100TB velicina jednog videa - ej pa kako ti to pade na pamet, pa ne radim naucne simulacije :)))

Mislio sam da je to ukupna kolicina videa... Ono svi zajedno... :) 1M videa po 100MB ili tako nesto.... :) Deo koji ne razumem i dalje je stoji li video u bazi, ili ne?

Takodje, taj zahtev, da bude "Open Source", koliko je to bitno? Pije li ti Solaris vodu, ili ne? Sors jeste dostupan, ali mi pricamo o komercijalnom solarisu.... Takodje, imaces problema sa SAN-om zasnovanom na open source resenju, jesi li razmisljao o tome?
[ sheff @ 09.01.2008. 20:43 ] @
Da - baza sluzi za pohranu video fajlova razne velicine, trajanja od par minuta do par sati... I nece se odmah napuniti tim materijalom nego postepeno tokom tih 5 godina. Taj kapacitet od 115TB su izracunali statisticari kojim je to posao....
Open Source - pa to i jest jedan od glavnih uslova, ne zbog samog source coda, nego zbog cijene. Znaci smanjenje troskova - maximalno reduciranje troskova. Zato i trebamo izbaciti Microsoft iz opcije. Solaris naravno dolazi u obzir ali jedino kao Open Source GPL (dakle OpenSolaris) bez ikakve cijene kostanja. Zasto problem open source na SAN? Mislim Linux/Solaris na isti - SAN jos nije kupljen, pa ako si mislio na hardware i drivere, to se moze rijesiti a i Sun i IBM dosta dobro podrzaju Linux.
[ nkrgovic @ 10.01.2008. 15:29 ] @
Citat:
sheff: Da - baza sluzi za pohranu video fajlova razne velicine, trajanja od par minuta do par sati... I nece se odmah napuniti tim materijalom nego postepeno tokom tih 5 godina. Taj kapacitet od 115TB su izracunali statisticari kojim je to posao....
Open Source - pa to i jest jedan od glavnih uslova, ne zbog samog source coda, nego zbog cijene. Znaci smanjenje troskova - maximalno reduciranje troskova. Zato i trebamo izbaciti Microsoft iz opcije. Solaris naravno dolazi u obzir ali jedino kao Open Source GPL (dakle OpenSolaris) bez ikakve cijene kostanja. Zasto problem open source na SAN? Mislim Linux/Solaris na isti - SAN jos nije kupljen, pa ako si mislio na hardware i drivere, to se moze rijesiti a i Sun i IBM dosta dobro podrzaju Linux.

Ako ti je cena razlog, prvo Solaris moze biti i Free, a drugo podrska je, cini mi se, 240$ godisnje, po dual-socket serveru, bez obzira na broj klijenata. To nije mnogo, bez obzira na sve.

A sto se SAN-a tice, koji file sistem mislis da koristis na njemu? Koji volume manager? Ext3 / LVM2 ? :D Ako nista, mozda mozes da izguras sa onime sto se Veritas Storage Foundation Basic, mozda? Proveri zahteve, mozda ti i bude dovoljno, mada sumnjam - za 100TB ce ti trebati nekoliko array-a i malo slozenije upravljanje sistemom. Ne zaboravi i bekap resenje.... Storage za 100TB kosta, zao mi je :/
[ dr ZiDoo @ 12.01.2008. 10:43 ] @
Sad ste me zagrijali da mislim kako najjeftinije uskladistit 100TB videa ....

Nesto sam razimsljao pa cu da iznesem svoju ideju a vidim da ovde ima iskusnih pa ce mi reci jel ima vajde od predloga:

100TB:

25 masina sa po 4TB diskva
1 masina koja ce da radi balansing

Video materijal ravnomjerno razbacujes na 25 masina i kad ga ubacis indexiras na balansing masinu podatke o filmu i na kojoj je masini. Na svakoj masini instaliras DB i dodas u nju podatke vezane za video.
Kad klijent zatrazi video balansing ga posalje na jednu od 25 masina i ovaj dobija sadrzaj.

Glavna prednost:
* ne moras da kupis svih 25 racunara odjednom. U startu kupis samo 2, kako se poso siri samo dokupljujes....
* materijal koji pravi najvise saobracaja mozes istovremeno da mirorujes na 3-4 storage masine pa da ti balansing radi i balans toga da se jedna masina ne ucmeka
* ako imas para mozes na svake 2-3 masina stavljati jednu bekap masinu...



E sada mene interesuje zasto bi ti video materijal drzao u bazi?
[ nkrgovic @ 15.01.2008. 10:51 ] @
Pazi... Jedna takva masina ima 4TB diskova, od kojih ce deo otici na redudancu (RAID). Takva masina trosi oko 500W. Jedan 3U Storage Array ima 12TB kapaciteta (16 diskova po 750GB) i trosi 450W. Da bi povecao kapacitet, mozes tom array-u dodati jos 6 expansion tray-ova, svaki po 12TB, sve uvezati na jedan kontroler i imati jedan, jedinstven array, kojim raspolazes kako god zelis. Za razliku od tih masina, imas mnogo vecu fleksibinost. Brzina ti je 4Gbit/s. Plus, imas dva kontrolera, sve je redudantno, i svaki radi ceo posao, ali dok rade oba mozes da koristis multipath da dobijes jos duplu brzinu. Znaci, za 70TB RAW kapaciteta imas 17-18 masina ili 6 array-ova. Sumarno, to ti je 9kW za masine a manje od 3kW za SAN. Razmisli samo koliko je razlika u cenu da dovedes tu dodatnu struju.... za pocetak :). Dalje, dodaj cenu UPS-eva na to. Dodaj i pouzdanost, koja je kod SAN-a mnogo veca.... Konacno, da bi odradio to sto ti hoces ti treba da kupis softver za SAN (koji fakat nije jevtin), ili da in-house razvijas aplikaciju koja ti vodi racuna o tome, pa onda trebis bugove iz nje, imas probleme i downtime.....
[ dr ZiDoo @ 15.01.2008. 12:35 ] @
da, ali je startup jeftin...
za ono sto se ovde spominje postoje enterprise rjesenja samo kostaju, kak sam shvatio to je jedan od glavnih problema.

Ovo moje je vise rjesenje iz "kucne radinosti" koje definitvno nije savrseno ali ima svoje prednosti
[ nkrgovic @ 15.01.2008. 15:16 ] @
Citat:
dr ZiDoo: da, ali je startup jeftin...
za ono sto se ovde spominje postoje enterprise rjesenja samo kostaju, kak sam shvatio to je jedan od glavnih problema.

Ovo moje je vise rjesenje iz "kucne radinosti" koje definitvno nije savrseno ali ima svoje prednosti

Naravno... Ja ti samo ukazujem na glavne probleme :). Imas skup razvoj softvera i u jednom trenutku ti odrzavanje postane skuplje nego kod enterprise resenja... Sve zavisi koliko brzo ocekujes da ces da rastes.
[ whitie2004 @ 18.01.2008. 07:52 ] @
Nebi da tupim, ali meni sve ovo lici na veliki posao i veliku lovu - dakle komercijalnu licencu.

GPL = Non-Profits, Academic Institutions and Private Individuals
[ nkrgovic @ 19.01.2008. 13:16 ] @
Citat:
whitie2004: Nebi da tupim, ali meni sve ovo lici na veliki posao i veliku lovu - dakle komercijalnu licencu.

GPL = Non-Profits, Academic Institutions and Private Individuals

Onda nemoj? :) Odakle ti ovo .....

Ja nisam ljubitelj GPL-a, ali ovo je smesno. Sta, Google nije "veliki posao" i "velika lova" ? :)Sve se svodi na price/performance. Ono sto ZiDoo predlaze, npr. ima cenu razvoja koja se ne da lako odrediti, pa je na sheff-u da proceni koliko bi to njega kostalo i sta mu se isplati. Licenca sa time nema nikakve veze, a i skoro sva pomenuta resenja nisu pod GPL-om.
[ sheff @ 25.01.2008. 20:41 ] @
Izvinjenje sto se nisam ranije javio... sta da kazem - obaveze...


Zahtjev je da sistem bude homogen, dakle sve na linux ili sve na solaris ili BSD i sl. (klijenti ce biti Linux+nesto malo Windowsa). Sto se tice fajl sistema, to je i bilo jedno od pitanja upuceno vama - vas savjet, misljenje, ideja.

@nkrgovic: vrlo rado bih birao ZFS, ali zasto samo predlazes ZFS - zasto ne XFS/CXFS odnosno JFS ili zasto ne EXT4? Solaris besplatan? pod kojim uslovima? FreeBSD takodje podrzava ZFS - da li je ZFS free ili ne, ovo mi bas nije cisto!? Na http://opensolaris.org/os/community/zfs/ pise sljedece:
ZFS is available in build 27a of OpenSolaris and Solaris Express: Community edition. ??????

Veritas Storage Foundation Basic - pogledaj ogranicenja istog - ne dolazi u obzir ni pod razno...

dr. zidoo: odlican prijedlog, vec sam ga i ja predloziou prethodnim postovima (ako si pazljivo citao). Sto se tice kritke u vezi potrosnje struje, nkrgovic je u pravu ali dvoumim oko toga da li ce ta razlikau cijeni potrosnje struje biti manja od razlike u cijenama masina :-/ (budem to izracunao cim malo vremena uhvatim) Neosporna prednost SAN disk araya je u jednostavnosti i pouzdanosti sistema dok kod ovog drugog rjesenja sa 20 masina, performanse kako mashina tako i mreze mogu se mnogo bolje ispolirati plus sto se koriste 10GbEth switchevi dok ovamo imas fixnih 4Gbps. A i cijena ovih 20ak masina je osjetno manja, pogotovo ako uzmem u obzir da ce kroz tih 5 godina sistem rasti a cijene opadati. U slucaju odabira ove opcije, sta mislite o jednom HA clusteru? Ili OpenMosix clusteru? Ili se mozda ZFS moze i u ovako distribuiranom sistemu? ili nesto trece?
Zasto u bazi? Pa zato jer ce snimci biti koristeni u aplikacijama za video montazu, pripremu vijesti isl. gdje mora postojati neki sistem pretrage, obiljezavanja, manipuliranja isl. sto obezbjedjuju druge aplikacije za tu namjenu koje za back-end pohranu koriste bazu (podrzava MySQL, PostgreSQL, MS SQL, Oracle). Inace sistem je jednu RTV, plus sto ima jos nekih zgrada uvezanih u sistem kao klijenti (spomenuto u prethodnim postovima).

@nkrgovic: Posto spominjes 4 Gbps pretpostavljam da je u pitanju FibreChannel pa me u vezi sa tim zanima sta mislis jel bolje rjesenje 10GigE (pogotovo ako uzmem stripping portova)?
Sta mislite o NetApp uredjajima? Poredjenje sa Sunom, dell, ibm, hp... misljenja, stavovi, iskustva?

[Ovu poruku je menjao sheff dana 25.01.2008. u 21:55 GMT+1]