Webhosting bij NPO ICT, generiek deel

Bij NPO ICT bestaan twee hosting clusters. Het zgn Applicatie Cluster (appcluster) is een omgeving ingericht die is toegespitst op het hosten van willekeurige Java, PHP en Ruby on Rails web-applicaties. Het Webservices Cluster (webcluster) is toegespitst op het hosten van high-volume sites. Hier worden alleen statische websites (“platte html”) specifieke door NPO ICT geaccepteerde PHP applicaties gehost.

Het app- en het webcluster zijn volgens dezelfde structuur opgebouwd. Dit document beschrijft het gemeenschappelijke stuk in de inrichting van het appcluster en het webcluster. Daarnaast zijn er de zusterdocumenten Appcluster Hosting en Webcluster Hosting die de specifieke eigenschappen van beide clusters beschrijven.

Bij NPO ICT zijn twee omgevingen ingericht, die samen een aantal webhostingmogelijkheden bieden. Het zgn Applicatie Cluster (appcluster) is een omgeving ingericht die is toegespitst op het hosten van willekeurige Java, PHP en Ruby on Rails web-applicaties. In deze omgeving hanteert NPO ICT geen acceptatiecriteria en zullen wij dus proberen om elke site te hosten. Het Webservices Cluster (webcluster) is toegespitst op het hosten van high-volume sites. Hier worden alleen statische websites (“platte html”) specifieke door NPO ICT geaccepteerde applicaties gehost. In het webcluster wordt gestreefd naar 24×7 beschikbaarheid, dus de sites die daar draaien zijn per definitie gebouwd met behulp van High Availability technieken. In het appcluster is dit optioneel, maar veel voorkomend en vaak ook gewenst.

Naast het app- en het webcluster is er ook een testcluster beschikbaar. Dit testcluster is op dezelfde manier opgezet als de productieclusters en kan gebruikt worden als testomgeving voor zowel het app- als het webcluster, maar kent geen uptime-garanties.

Beide omgevingen zijn server clusters bestaande uit twee loadbalancers, een aantal web-, applicatie- en database servers. Alle data bevindt zich op centrale, betrouwbare storage servers. Niet alleen is uw data daar veilig, maar dit zorgt er ook voor dat uw omgeving bijzonder flexibel is. Een database server kan a la minute een applicatieserver worden mocht dat nodig zijn. Of, als u al uw diensten op 1 server draaide en uw sites worden populair kan er zeer snel een tweede server bijgeschakeld worden om de last te verdelen.

De hardware, het OS, de web-, applicatie- en databaseservers worden beheerd door NPO ICT, wat garant staat voor een stabiele, veilige omgeving. In het appcluster kunt u uw eigen applicaties zelf beheren, uitbesteden aan NPO ICT of aan een derde partij. In het webcluster worden de applicaties uitsluitend beheerd door NPO ICT, waarbij NPO ICT delen van het beheer kan delegeren aan derden. (b.v. de makers van een applicatie)

Vragen? Deze kunnen gericht worden aan de NPO ICT Servicedesk servicedesk@omroep.nl

Alle omgevingen zijn zoveel mogelijk gebaseerd op open source software componenten: Linux, Apache, MySQL, PHP, Tomcat, Ruby, Rails, etcetera. Wij zijn namelijk overtuigd van de kracht van open source en bij NPO ICT is zeer kennis aanwezig van de gebruikte open source componenten.

In het appcluster is naast de gewone LAMP stack (en Nginx) ook andere hosting mogelijk van bijvoorbeeld Java, Ruby on Rails en NodeJS. Daartoe zijn de volgende software componenten beschikbaar:

In overleg met NPO ICT kunnen eventueel extra ondersteunende pakketten geinstalleerd worden. De omgeving is op een andere manier ingericht dan een traditionele één-applicatie-per-(virtuele)serveromgeving. Bij ons neem je geen (virtuele) server af maar in feite een set resources, gekoppeld aan een setje software.

De software heeft daarvoor een (kleine) aanpassing nodig om ervoor te zorgen dat je bijvoorbeeld meerdere Apache processen kan draaien op een server zonder dat deze elkaar in de weg zitten of de hele server kunnen claimen. Die processen noemen we dan instanties (meerder instanties van software X). Dit is vooral relevant voor de beheerders van NPO ICT, maar als websitebouwer betekend het:

• Je hebt een centrale upload-omgeving voor je site, de juiste instanties lezen je code in en serveren het uit. Je dus logt niet direct in op de webserver.
• Wij hebben geen standaard package manager zoals yum of apt-get. Wij compileren zelf de software, met de nodige aanpassingen.
• We kunnen meerdere versies van dezelfde software draaien op dezelfde server. Het up- of downgraden kan met het omzetten van een snelkoppeling.
• High availability; de instanties kunnen we goed verdelen en snel verplaatsen over alle fysieke of virtuele servers.

Kijk hier voor een verdere uitleg van de opbouw van de clustering d.m.v. instanties.

De upload-server is te bereiken vanaf upload-sites of upload-testsites voor de testomgeving. Dit is een server die verbonden is met de centrale storage en is bedoeld -zoals de naam laat zien- om sites en content daarvan te uploaden. Als ontwikkelaar heb je, als het goed is, een account voor upload-sites. Want het grote publiek heeft geen toegang tot dit systeem.

De servers lezen alles vanaf de centrale storage in en schrijven daar ook hun logs in weg. Als ontwikkelaar kun je de upload-server hiervoor gebruiken:

• Het plaatsen/bijwerken van de files voor je site.
• Bekijken van logs
• Via upoad-sites kun je een sql connectie leggen naar je database(server).
• Shell toegang *1 (afhankelijk of je een ftp of sftp account hebt). Bijvoorbeeld om een cron-job aan te maken of via de commandline dingen te kopieren, te verplaatsen etc.

Sftp of ftp. Als NPO ICT hebben we een duidelijke voorkeur dat men gebruik maakt van SFTP (d.m.v. ssh-keys). FTP is een oud en onveilig protocol wat alle data, ook wachtwoorden onversleuteld verstuurd. Als je verbinding niet beveiligd is liggen die gegevens voor het oprapen. Moet je dan als ontwikkelaar ingewikkelde dingen doen met Secure-Copy? Dat kan, maar hoeft niet. Je kunt SFTP gebruiken met Filezilla of Transmit voor de Mac en tal van andere FTP clients.

*1 Let wel, dit is geen shell toegang tot de webservers zelf

Al het webverkeer wordt afgehandeld door de frontproxies, deze zitten tussen de 'buitenwereld' en de applicatieservers. De belangrijkst reden hiervoor is performance en schaalbaarheid. Dit wordt vooral bereikt door de caching: alle requests die uit de cache geserveerd kunnen worden hoeven niet door een applicatieserver afgehandeld te worden, wat +/- een factor 100 (!) in performance kan schelen. (een frontproxy kan maximaal +/- 5000 hits/sec afhandelen, een tomcat applicatieserver +/- 50)

Bij php hosting is er geen sprake van een aparte applicatieserver. Daar verzorgt de webserver zelf het afhandelen van php bestanden. Echter, het blijkt dat php serving ook verbetert als dat achter een proxy gestopt wordt. In die zin krijgt de php-enabled server dus een rol als een applicatieserver.

Ondertussen is alle file access die hierbij nodig is via NFS naar de storage server (bijvoorbeeld voor een database server die z'n datafiles moet raadplegen). Om het NFS verkeer te minimaliseren zijn alle cluster nodes uitgerust met veel geheugen, zodat de meeste file access vanuit het geheugen gedaan kan worden en niet via NFS hoeft.

Alles dat te maken heeft met de diensten vind je in het filesysteem onder “/e”. Daar is voor elk type dienst een subdirectory, met daaronder alle instanties van die dienst, en daar weer onder de zaken die nodig zijn voor die dienst. Oftwel: alle paden zien er uit als /e/<dienst>/<instantie-naam>/<instantie specifieke zaken>

Dit zijn symlinks/snelkoppelingen voor extra flexibiliteit voor ons als beheerders en overzichtelijkheid voor de websitebouwers/ontwikkelaars. De onderliggende storage laag en daarmee /d/-paden kunnen veranderen maar zolang je gewoon de /e/-paden gebruikt heb je daar geen last van. Sterker nog het is absoluut niet de bedoeling dat paden onder /d/ worden gebruikt in configuratiebestanden of dat hier directe verwijzingen naar zijn in de code. Er zijn een aantal valkuilen waar je op moet letten om dit goed te (blijven) doen.

De bedoeling van de split tussen /e en /d is dat systeembeheerders makkelijk data naar andere filesystemen kunnen schuiven, zonder dat er configuratie in de draaiende applicatie aangepast moet worden. Het zorgt ook voor een centraal 'aanspreekpunt' voor de instanties. Bijvoorbeeld: apache kan met dezelfde configuratie nog steeds de code vinden en zijn logs wegschrijven als het onderliggende /d/pad is veranderd. Zolang de symbolic link maar naar het juiste pad verwijst is er niets aan de hand. Voor de software hebben we een vergelijkbare constructie. Dit is voor een sitebouwer wat minder relevant, maar het staat hier beschreven.

Het “locate” commando geeft vaak padnamen terug met /d/. Ook php en diverse ftp clients willen graag symlinks 'dereferencen', waardoor in die hoek ook nog wel eens /d paden zichtbaar willen zijn. Wees hier bedacht op.

De /e/paden zijn dus belangrijk voor websitebouwers en in het bijzonder /e/ap/(naam van je site)/pages. Dit is de documentroot. Een veelgebruikte constructie is om de documentroot pages/current te maken. Hiermee kun je meerdere versies hebben van de site en door een symbolic link te veranderen de versie veranderen die de 'huidige' is en daarmee dus live staat. Alle andere /e/ paden staan hier beschreven.

Voor applicaties ligt het iets anders; php applicaties hebben een iets andere directory structuur dan java applicaties.

PHP applicaties hebben de volgende structuur onder /e/ap/<applicatienaam>

• pages

(php applicaties) De document root van een php website. Deze is standaard php-enabled; maar -niet- schrijfbaar voor de webserver. Files hebben standaard als groep 'cw<naampje>'; zodat verschillende uploaders (bijvoorbeeld een omroep samen met een externe webbouwer) schrijfrechten hebben op de files. Belangrijk daarvoor is dat files mode 0664 hebben, en directories 2775. Dit valt prima te bereiken door een 'umask 002' in je .profile neer te zetten.

• data

De plek waar een applicatie z'n data kan wegschrijven. Deze directory wordt direct via de proxy-webserver uitgeserveerd. Het zelfde rechtenverhaal gaat hier ook op, behalve dan dat de bestanden en directories allemaal lid zijn van een 'dw<naampje>'-groep. Hierin zitten dezelfde mensen als in het 'cw<naampje>'-groepje, maar de webservers die data weg mogen schrijven zijn hier ook aan toegevoegd.

• config

Hier kunnen config bestanden geplaatst worden. Deze directory zit in het php include path. Bijvoorbeeld de database parameters zijn hier altijd terug te vinden, maar ook allerlei php-code valt hier te plaatsen die niet in de docomentroot hoeft te staan (denk aan generieke classes, libraries, etcetera). Ook deze directory is niet schrijfbaar voor de webserver. Wat betreft de rechten geldt hier hetzelfde als onder /pages.

Tot slot hebben we nog

• /home/omroep/<accountnaam>

De unix home directory van het upload-account genaamd <accountnaam>. Dit is de plek waar je binnenkomt als je inlogt. Als dit upload account bedoeld is voor het uploaden van applicatie X, dan zal er in de home directory vaak een verwijzing (symlink) naar applicatiedirectory X, dwz /e/ap/X gemaakt worden.

In onze omgeving maken wij onderscheid tussen read-only en read-write filesystemen. Voor de read-only filesystemen geldt dat deze vanaf de web, applicatie en database servers niet gewijzigd kunnen worden. Deze filesystemen worden gebruikt om de uitvoerbare delen en de configuratie van applicaties op te slaan.

In onze omgeving is het zo dat alle web-app en pages directories op read-only filesystemen liggen. Verder ligt alle configuratie (frontproxy, database, applicatieserver) op een read-only filesysteem. De read-write filesystemen worden alleen gebruikt voor logfiles, temp-directories en databases.

De reden hiervoor is dat als een site gehacked wordt, het voor de hacker onmogelijk is om b.v. jsp of php files te wijzigen. Concreet houdt dit in dat bij een geslaagde hack poging de applicatie zichzelf niet kan wijzigen (op instigatie van de hacker), en dat het dus bijzonder moeilijk zal zijn om b.v. aan de database inhoud te komen.

Dit houdt in dat het voor applicaties dus niet mogelijk is om self-modifying code te gebruiken (bv een jsp die een nieuwe versie van zichzelf neerzet). In het geval van MMBase houdt dit in dat er niet via het web-interface nieuwe delen van MMBase geinstalleerd kunnen worden (want de applicatieserver mag niet schrijven in z'n web-app directory) Zelfs als u bijvoorbeeld “chmod 777” (= unix speak voor world writable) op een jsp bestand zou doen, dan nog is het niet te wijzigen vanaf een applicatieserver. Dit willen we dan ook ten zeerste afraden.

De enige plek vanaf waar naar de read-only filesystemen geschreven mag worden is de upload server. Da's ook nodig, anders zouden er b.v. nooit nieuwe jsp bestanden geplaatst kunnen worden.

De policy voor naamgeving is als volgt: (ingewikkeld? Vertel ons wat u wilt en wij regelen het zonder u te vermoeien met onderstaande details)

• Websites

Elke omroep is geheel vrij een naam voor de website te kiezen. Elke applicatie kan onder een andere naam draaien (bv “www.groente.nl” vs “www.fruit.nl”), een gedeelde naam (bv “www.plantaardig.nl/groente vs www.plantaardig.nl/fruit”) of onder de default naam “sites.omroep.nl” (bv sites.omroep.nl/groente) De naam die u kiest, is de naam die in de locatiebalk van de webserver zichbaar is en de naam die extern bekend gemaakt wordt. Alle naamgeving die hieronder nog staat is alleen maar intern, en niet extern zichtbaar. In de testomgeving hebben wij liefst dat applicaties draaien onder “testsites.omroep.nl/<applicatie>”, maar indien gewenst kunnen er ook (lange!) namen als “<omroep>-<applicatie>test.omroep.nl” aangemaakt worden (bv degezondeomroep-groentetest.omroep.nl)

• Frontproxies

Deze worden genoemd naar de omroep waar ze bij horen, gevolgd door een volgnummer. B.v. /e/fp/dgo01 zou de 1e frontproxy van “De Gezonde Omroep” (DGO) zijn. De shared frontproxy heet <tt/shrd01/ De dns naam van een frontproxy wordt “<omroep>-sites.omroep.nl”. (bv “degezondeomroep-sites.omroep.nl”). Deze naam wordt iha niet extern genoemd, maar is alleen een “kapstok” om domeinnamen aan op te kunnen hangen, dmv DNS CNAMES. (b.v. www.groente.nl is een CNAME naar degezondeomroep-sites.omroep.nl; dmv een virtualhost constructie in de frontproxy zorgen wij er dan voor dat www.groente.nl uitkomt bij de groente applicatie)

• Databases

Deze worden ook genoemd naar de omroep waar ze bij horen, gevolgd door een volgnummer. In de naamgeving wordt geen onderscheid tussen de verschillende types database (mysql of postgresql) aangehouden. B.v. /e/db/dgo01 zou de eerste database instance van de gezonde omroep zijn. De shared database instances heten shrd01 (mysql) en shrd02 (postgresql) Binnen de database instances kunnen voor de diverse applicaties diverse databases aangemaakt worden. Als er een applicatie genaamd “groente” zou zijn, zou de database die daarbij hoort “groentedb” heten en de database user die daarbij hoort zou “groente' heten.

• Applicatie Servers

Ook deze worden genoemd naar de omroep waar ze bij horen, met een volgnummer. De tiende DGO applicatieserver zou /e/as/dgo10 heten. De naam van applicatieservers wordt generiek gehouden, omdat een applicatieserver geen 1 op 1 relatie met een applicatie heeft.

• Applicaties

Voor applicaties wordt bij voorkeur gepoogd om een 1 op 1 mapping tussen url en applicatienaam te hebben. Dwz als een website www.groentenenfruit.nl heet, dan is de applicatienaam ook /e/ap/www.groentenenfruit.nl In geval van java hosting wil het nog wel eens voorkomen dat er onder 1 url meerdere applicaties hangen (verschillende mountpoints in tomcat) In dat geval wordt gepoogd een min of meer descriptieve naam te gebruiken. Stel dat onder de groentenenfruit site nog een speciale shop module nodig is, dan zou deze op disk /e/ap/groentenenfruitshop kunnen heten en bereikbaar kunnen zind als www.groentenenfruit.nl/shop.

• Upload Accountnamen

De upload accounts worden meestal genoemd naar de organisatie die de uploads wil kunnen doen. Stel dat DGO het maken van z'n Groenten en Fruit site geheeld uit zou besteden aan de “DeNeefjesCompany Ltd” dan zou het upload account iets als “neefjes” kunnen heten; dit account zou vervolgens schrijfrechten onder onder /e/ap/groentenenfruit/web-app krijgen om daar de applicatie te plaatsen. Als een omroep zelf z'n eigen applicaties plaatst, dan wordt de accountnaam weer iets als “omroep+volgnummer”.

In het web- app- en testcluster is i.h.a. een vrij stricte relatie tussen een usernaam en waar deze voor gebruikt wordt. B.v. een instantie die leeft onder /e/XX/YYYYYY draait bijna altijd onder het userid YYYYYYXX. Voorbeeld: de webserver instantie /e/fp/dmd1a draait onder als user dmd1afp, de postfix instantie /e/ml/dmd2b draait als dmd2bml.

Alle user accounts worden gecreeerd volgens het “all accounts are created equal” principe, wat inhoudt dat er nooit intrinsieke rechten aan een account hangen. De rechten volgen pas door het account toe te voegen aan specifieke groepen. Om dit af te dwingen worden accounts altijd gecreeerd met uid=gid (dit is unix terminologie, en betekent dat elk account in z'n eigen unieke groep geplaatst wordt). De naam van de groep is gelijk aan de naam van de user. Oftewel, als er een user X is met uid N, dan is z'n primary group-id ook N en de bijbehorende groepsnaam is weer X. Ook aan het uid hangen geen speciale rechten, da's gewoon het eerstvolgende vrije uid boven de 5000. Voorbeeld: de user “test1afp”. Deze heeft de volgende entry in /etc/passwd

test1afp:x:5000:5000:Test webserver:/e/fp/test1a:/sbin/nologin

Zie hoe het userid gelijk is aan het group-id (5000), dus in /etc/group komt de volgende regel voor:

test1afp:x:5000:

Als we nu rechten uit willen delen aan deze user, dan kan dat op basis van group-membership. Typisch voor een webserver is dat deze data moet kunnen wegschrijven en derhalve lid van een data writers (“dw”) group moet zijn:

dwtest:x:20000:test1afp,test1bfp,webtoko1

De groeps-id's hebben ook geen speciale betekenis; het eerste vrije uid boven de 20000. In de groeps namen zit wel enige codering, nl in de eerste twee letters:

• rd - Reader

De groep voor users die ergens mogen lezen. Dit bestaat om ervoor te zorgen dat ongerelateerde entiteiten niet elkaars spullen mogen lezen. De readers omvat normaal gesproken alle user users die iets met een applicatie te maken hebben: webservers, applicatieservers, databases, uploaders en beheerders.

• dw - Data writer

De groep voor users die data mogen plaatsen. Dit zijn de uploaders en de processen die zelf data wegschrijven (bv een webserver die ge-upload content ergens weg moet kunnen schrijven)

• cw - Content Writer

De groep voor users die content (denk aan php code) mogen plaatsen. Dit zijn normaal gesproken alleen de uploaders.

Voorbeeld: stel dat er een applicatie <tt/foo/ is, bestaande uit een paar webservers en een paar uploaders, dan geeft dat aanleiding tot de volgende groepen:

rdfoo:x:20000:uploader1,uploader2,foo1afp,foo1bfp,beheerders
dwfoo:x:20001:uploader1,uploader2,foo1afp,foo1bfp
cwfoo:x:20002:uploader1,uploader2

Er zijn twee problemen die we op willen lossen:

• Afscherming

Je wilt niet dat alles voor iedereen leesbaar is. De uploaders van de ene omroep moeten niet de code van een andere omroep kunnen zien.

• Samen schrijven

Je wilt dat verschillende users dingen op het filesysteem met elkaar kunnen delen. Bijvoorbeeld meerdeer upload accounts die samen aan de code van 1 applicatie moeten kunnen werken, of meerdere geloadbalancede webservers die elk onder een gesharede /data spulletjes moeten kunnen wegschrijven. Ook wil je vaak dat zowel uploaders als webservers samen onder /data kunnens chrijven.

Een hekje is een directory ergens bovenaan in een directory tree die niet world readable is, slechts group readable en dus alleen te passeren voor users die lid zijn van die groep.

Voorbeeld:

Beschouw de volgende groep:

readers:x:10000:uploader1,uploader2,webserver1,webserver2,beheerders

en deze directory:

/d/netapp/ro/00/ap/www.website.nl

Als we die directory nou owner root:readers, mode 750 geven dan is alles wat daaronder ligt niet meer te benaderen voor users die geen lid van de groep “readers” zijn. Onafhankelijk van de permissies daaronder!

Voor het schrijven roepen we ook 2 groepen in het leven: de datawriters en de contentwriters. Contentwriters zijn iha de users met een upload account, die vanuit de upload server de /pages (e.d.) directory mogen vullen. In de datawriters groep zitten de webservers en de uploaders samen. En dat geeft ze rechten om onder /data te schrijven.

Om dit goed te laten werken is het nodig dat zowel datawriters als contentwriters een umask 002 hanteren, zodat wat ze aanmaken default group writable is.

En om dat weer veilig te kunnen doen is het nodig dat ALLE users een uniek primary group ID hebben.

Dus, voorbeeld:

We hebben de users:

webserver1:x:5001:5001:Ik ben een webserver:/var/empty/home:/sbin/nologin
webserver1:x:5002:5002:Ik ben een webserver:/var/empty/home:/sbin/nologin
uploader1:x:5003:5003:Ik ben een uploader:/home/omroep/uploader1:/bin/bash
uploader2:x:5004:5004:Ik ben een uploader:/home/omroep/uploader1:/bin/bash

Dan hebben we de groepen:

readers:x:10000:uploader1,uploader2,webserver1,webserver2,beheerders
contentwriters:x:10001:uploader1,uploader2
datawriters:x:10002:uploader1,uploader2,webserver1,webserver2

En de permissies onder /e/ap/www.website.nl zouden dan zijn:

$ cd /e/ap/www.website.nl
# ls -Lla .
drwxr-x---    2 root     readers       4.0K Jan 14 23:12 .
drwxrwxr-x    2 root     contenwriters 4.0K Jan 14 23:12 pages
drwxrwxr-x    2 root     datawriters   4.0K Jan 14 23:12 data

Laten we per omroep 1 readers groep aanmaken. Dat betekent dat als webtoko1 en webtoko2 allebei voor $omroep werken ze elkaars code kunnen lezen en de code die een omroep zelf opgehoest heeft. Maar, dat zou imo geen probleem moeten zijn.

Je wilt niet dat webtoko1 en webtoko2 over elkaars code heen kunnen krassen. Ook wil je een asymmetrische relatie tussen $omroep en $webtoko, nl $omroep mag wel over de code van $webtoko heenkrassen, maar niet andersom. Dit is te regelen door per omroep-webtoko combinatie een groepje aan te maken:

readers:x:10000:omroep,webtoko1,webtoko2,webserver1,webserver2,beheerders
contentwriters:x:10001:omroep
toko1writers:x:10002:omroep,webtoko1
toko2writers:x:10003:omroep,webtoko2
datawriters:x:10004::omroep,webtoko1,webtoko2,webserver1,webserver2

Op die manier kan toko1 nog wel over de data van toko2 heenschrijven, maar dat konden ze toch al, als ze in dezelfde apache instantie draaien. (nl door het apache maar te laten doen)

$omroep dreigt wel lid van veel groepen te worden op die manier (net zoveel als dat ze gescheiden webtoko's in dienst hebben), dus die moeten wellicht van tijd tot tijd “newgrp toko1writers” intikken om over de code van toko1 heen te kunnen krassen.

Als tokoX nou maar 1 account heeft, en niet hoeft te delen met tokoY, dan kan het simpeler opgelost worden; nl tokoX geen lid te maken van enige contentwriter group en de pages directory owner tokoX. Dwz owner tokoX:contentwriters, mode 775.

Bovenstaande rechtenstructuur is essentieel voor de juiste werking van een website. Wanneer er, bijvoorbeeld door de code van de website, wijzigingen in de rechten worden aangebracht kan hierdoor functionaliteit verloren gaan. Het is daarom belangrijk dat de code van de website de rechten niet veranderd wat helaas in php niet altijd voor de hand liggend is. De basis gedachte achter ons platform is: eea is zo opgezet dat de rechten vanzelf goed komen te staan. Wij zien dus het liefst dat er zo min mogelijk gebruik wordt gemaakt van chown/chmod en consorten. Voorwaarde is wel dat het zgn “umask” goed staat; dat moet op '002' staan. In onze web-, sshd- en ftpservers zorgen wij ervoor dat dat goed staat. In shell accounts adviseren wij om in een '.profile' een 'umask 002' op te nemen. Enige probleem geval zijn cronjobs. Cron draait met een verkeerd umask (022); indien er cronjobjes gebruikt worden die mogelijk files of directories zouden kunnen creeeren dan is het aan te raden om in het desbetreffende commando een umask op te nemen; bijvoorbeeld zoiets:

*/5 * * * * umask 002; doe_iets.php

Sommige php functies (b.v. mkdir) willen in sommige gevallen dat er permissies opgegeven worden. De mkdir functie werkt als volgt:

bool mkdir ( string $pathname [, int $mode = 0777 [, bool $recursive = false [, resource $context ]]] )

Dat houdt in dat als je recursive een directory aan wilt maken (“mkdir -p” zeg maar) je opeens verplicht bent om ook permissies op te geven. Gebruik in dat geval de default permissies (hier dus 0777) dat komt omdat de permissies die bij mkdir opgegeven worden, worden ge-bitmasked met je umask en op die manier toch de juiste rechten gebruikt worden.

Er zijn meerdere manieren om loadbalancing te implementeren, deze sectie beschrijft hoe wij dit het liefste doen, nl met twee gestapelde loadbalancers. De gedachte is dat we aan de buitenkant een paartje loadbalancers hebben, welke in master/slave configuratie draaien. Deze loadbalancers gebruiken keepalived met direct routing. Dat betekent dat de loadbalancers puur op IP niveau kijken en losse IP pakketjes doorsturen naar de te loadbalancen instanties.

Normaal zouden die te loadbalancen instanties een farm van webservers zijn die het eigenlijke werk doen, maar hier zit er een extra laag tussen, nl er wordt geloadbalanced over een farm(pje) van http proxies. En die proxies op hun beurt loadbalancen (mod-proxy-balancer igv apache) dan over de farm van (php enabled) webservers die het echte werk doen. In ascii art ziet dat er als volgt uit

          Interweb
           |
         web1a....web1b         Load balancers
         /   \
        /     \
   xxx1afp  xxx1bfp             static, loadbalancing http proxies
       |\    /|
       | \  / |
       |  \/  |
       |  /\  |
       | /  \ |
       |/    \|
   xxx2afp  xxx2bfp		php nodes

Er is voor deze getrapte setup gekozen om de volgende redenen:

• Aan webserving zitten twee kanten: enerzijds het spoonfeeden

(bitje voor bitje uitserveren, over een tergend traag internet lijntje) van data naar je kijkers, anderzijds het uitrekenen (denk php) van hoe een webpagina eruit moet zien. Voor het uitrekenen (php) heb je hele “dure” webserver slots nodig; bij apache is dat single threaded, ze hebben veel geheugen nodig etc. Het spoonfeeden echter is een simpele taak, die heel goed threaded kan. Normaal bij een php webserver zit je dus 90% van de tijd dure php slots te gebruiken om data naar je kijkers te spoonfeeden. Rescources die beter anders gebruikt zouden kunnen worden. Door er een http proxy tussen te zetten ontkoppel je het rekenen van het spoonfeeden. Het spoonfeeden gebeurt nu door de proxy, die daartoe geoptimaliseerd is (threaded webserver, veel slots e.d.) Het rekenen gebeurt door de geproxiede server. Omdat er tussen de proxy en de reken-server een snelle connectie ligt, is daar geen sprake van spoonfeeding en zijn de dure php slots alleen in gebruik op het moment dat ze ook echt nodig zijn. In apache termen betekent dit dat je op de php servers kan volstaan met>MaxClients 8, wat in normale mensentermen betekent dat je heel veel apache instanties naast elkaar zou kunnen gaan draaien zonder dat het geheugen volloopt.

• Een aardige bijkomstigheid van het gebruik van apache als proxy is

dat deze ook alvast het domme werk kan doen, nl zelf de statische data uitserveren, zonder daar de php server mee te belasten.

• Deze setup kan gebruikt worden voor het high-volume uitserveren

van statische websites. In dit geval zijn de proxies gewoon de eindpunten (ze proxyen zelf niks, omdat alles statische data is). Het schalen gaat hier door maar genoeg http proxies bij te schakelen. Stel dat er gekozen zou zijn voor een ongetrapt, simpeler alternatief, waarbij je de keepalived / DR loadbalancing gewoon niet zou doen (dwz direct aan de voorkant 1 proxy instantie, welke mbv keepalived in een master/slave config gedraaid wordt), dan zou dat prima werken voor groots php hosten, maar uiteindelijk zou je ene proxy server dan een choke point kunnen worden. Andersom, als de buitenkant een keepalived/DR loadbalancer zou zijn, die direct balanced over een aantal php nodes, dan heb je dus last van alle spoonfeeding issues zoals boven beschreven

• De keepalived/DR loadbalancer kan meerdere IP adressen en meerdere

poorten aan. Dit kan bv gebruikt worden om op 1 website http en https verkeer vasn elkaar te scheiden, waarbij het https verkeer naar ssl enabled instanties gaat, terwijl voor http verkeer alle ssl overhead niet nodig is en deze dus door leaner and meaner instanties gedaan kan worden. Andersom kan het ook gebruikt worden om 1 shared loadbalancer neer te zetten, die gebruikt kan worden voor een aantal verschillende klanten/applicaties, die dan allemaal hun eigen webserver isntances hebben staan.

Webservers leven altijd onder /e/fp. De naam daaronder ziet eruit als xxxx[0-9][a-z], waarbij de xxxx een tag is om aan te duiden van of voor wie deze instantie is (bv een omroepnaam of een applicatienaam), daarna volgt een cijfer, wat een volgnummer is. De N'e instance van klant xxxx. Tenslotte volgt weer een letter om aan te geven dat iets geloadbalanced is. Stel dat foo1 geloadbalanced zou worden over 3 instanties, dan zou je deze onder /e/fp terugvinden als foo1a, foo1b en foo1c.

Vaak zullen de a,b en c instanties onderling veel configuratie delen. Om deze nu niet 3x te dupliceren is deze terug te vinden in een gedeelde directory /e/fp/foo1 (dwz zonder volgletter).

Zowel de static proxies, als de php enabled servers zijn webservers en leven dus beide onder /e/fp. Er is geen onderscheid in naamgeving tussen proxies en php servers. In praktijk betekent dit vaak dat een proxy en php server dezelfde prefix hebben (“foo”), maar een ander volgnummertje (“foo1” tegenover “foo2”). Het kan natuurlijk ook zo zijn dat 1 setje proxies (foo1&lsqb;a-z&rsqb;) loadbalanced over meerdere setjes php servers (foo2&lsqb;a-z&rsqb; voor applicatie X en foo3&lsqb;a-z&rsqb; voor applicatie Y). Wij streven ernaar om in het GECOS veld van de password file aan te geven wat een webserver isntantie precies doet.

De user waar een webserver onder draait is z'n naam gevolgd door de letters “fp”. B.v. foo1afp. En het adres waar die aan bindt heeft meestal als DNS naam foo1afp.omroep.nl,

de configuratie van apache virtual hosts leeft bij ons altijd in losse .vhost files, welke door de webserver geinclude worden. In een loadbalanced context moeten zowel de proxies als de php servers weet hebben van de vhosts. Om nu niet alle informatie N maal te dupliceren hebben we vsan elke vhost file slechts een kopie, die door alle (proxies <em>en</em> php servers) webserver geinclude wordt. In de vhost file wordt met Define's gespeeld om ervoor te zorgen dat elke instantie alleen maar het stukje configuratie krijgt dat voor die instantie van toepassing is.

Niet alles is rozegeur en maneschijn, nl sessies zijn een probleem. Er is geen garantie dat een sessie altijd bij dezelfde php node terecht komt. Er zijn een aantal oplossingen:

• route constructies gebruiken

We gaan er van uit dat sessie informatie in http cookies gestopt zit. Als de cookies op een zodanige wijze gegenereerd kunnen worden dat het duidelijk is door welke worker node dit gedaan is, dan zit er in de http proxy functionaliteit om op basis van zo'n cookie het request naar de juiste worker door te sturen. Concreet betekent dat dat de cookiename statisch moet zijn (bv PHPSESSIONID) en dat de waarde van de cookie eruit moet zien als sessiadata.NODE_ID, waarbij het NODE_ID bepalend is voor naar welke node een request doorgezet moet worden. In een java tomcat context is dit tamelijk eenvoudig te doen door in de tomcat server.xml een jvmRoute op te nemen:

<Engine name="Standalone" defaultHost="none" jvmRoute="NODE_x">

Dit zorgt ervoor dat er cookies JSESSIONID=sessiedata.NODE_x gezet worden. Vervolgens stellen we op de proxy in:

ProxyPass / balancer://cluster/ stickysession=JSESSIONID
<Proxy balancer://cluster>
	BalancerMember	http://node1 route=NODE_1
	BalancerMember	http://node2 route=NODE_2
	BalancerMember	http://node3 route=NODE_3
	...
</Proxy>

En zo weet de proxy dat sessies met NODE_1 doorgestuurd moeten worden naar node1. Het probleem hierbij echter is dat dat bij php niet zo fijn werkt. Er is in php geen makkelijke manier (a la jvmRoute in tomcat) om php duidelijk te maken dat ie z'n sessie namen volgens een bepaalde syntax aan moet maken. Daarom hebben we een speciale truc verzonnen, waardoor door middel van een RewriteRule in de PHP-worker een cookie geset wordt (vaak iets als 'BALANCEID'), wat dan als stickysession gebruikt kan worden. Hierdoor komt uiteindelijk dan alsnog brafa elk request van 1 bezoeker op dezelfde PHP-worker terecht.

• sessies in database opslaan

Aangezien de verschillende webserver nodes uiteindelijk weer aan dezelfde database refereren, kan de database goed gebruikt worden om sessie informatie in op te slaan.

• sessies op het filesysteem opslaan

Dit zou in theorie kunnen, maar is in praktijk een slecht idee. De gedachte is dat de verschillende php nodes een shared filesysteem hebben. Dus, als node 1 op het filesysteem wat sessie info neerzet, dan kan node 2 dat weer oppikken. Probleem hierbij is dat we NFS gebruiken voor het filesysteem en dat NFS geen cache consistency biedt. Dat betekent dat op het moment dat node 1 iets weggeschreven heeft, dit niet meteen op node 2 bekend is.

• sessies in memcache opslaan

We bieden inmiddels ook support voor memcache, een stukje geheugen dat op een eigen intern ip-adresje beschikbaar is voor alle php-workers.

• statische content

Het komt natuurlijk best wel eens voor dat een site allemaal 'statische' content heeft staan onder /pages, en dan gaat het bovenstaande verhaal van de loadbalancing minder snel op. Daarom zorgen wij er standaard voor dat files met de extensies *.gif, *.html, *.htm, *.jpg, *.png, *.css, *.js, *.txt, *.swd, *.flv, *.xml, *.ico, *.pdf, *.gz, *.mp3 door de proxy uitgeserveerd worden. Hierbij is er wel een maar: het kan zijn dat een site speciale rewriterules heeft die botsen met deze constructie. In dat geval zullen we een custom oplossing moeten maken.

• xml

Ook zien we vaak dat er XML gegenereerd wordt aan de hand van gegevens uit een database. Dat is natuurlijk helemaal geen probleem, maar wordt het vanzelf wel als 15.000 mensen tegelijkertijd diezelfde XML willen opvragen uit de database. Daarom adviseren wij om in dat geval de XML-file door middel van een cronjob, bijvoorbeeld elke minuut, te genereren en onder /data neer te laten zetten. Op deze manier wordt een vaak opgevraagde xml toch actueel gehouden, maar uitgeserveerd door de proxiende webserver. Dit scheelt heel erg in de performance.

• caching

Er zijn nogal wat caching-mechanismes in omloop in de php-wereld; varierend van zelf bedachte dingen tot het gebruik van componenten als smarty en memcache. Wij supporten in ieder geval deze 2 mechanismes, en willen iedereen dan ook adviseren caching-vormen toe te passen op de applicaties.

• NPO ICT, servicedesk@omroep.nl, tel 035-6773555.

  • Algemeen aanspreekpunt voor het beheer van de omgeving.
• Dick Snippe, Dick.Snippe@tech.omroep.nl, Senior internetbeheerder
• Gerwin Mast, Gerwin.Mast@omroep.nl, Teamleider Media

  • Voor vragen mbt de opzet van de hosting omgeving.