View source for Varnish

<!--
Järgnev siin kommentaaris pole otseselt oluline informatsioon, artiklit täiendanud isikute kohta informatsiooni saab lehe muudatuste ajaloost
= Kaasajastas Lauri-Rihard Liba, 2015, A21 =
= Koostajad = 

 Vajab täiendamist. Lingi http://blog.rac.me.uk/2009/11/29/linux-handy-varnish-commands/ alusel. 
 See link on kahjuks kõvasti aegunud ja puudub täielik info, mis Varnishi versiooni jaoks ja mis poolte nende käskluste taga silmas peeti.

Rene Sepp, Kersti Lang, Carolys Kallas
-->
'''Varnish''' kasutatakse veebilehekülgede kiirendamiseks. Teenus installeeritakse HTTP serveri ette ning tehakse vastavad muutused sisu puhverdamiseks.

Varnish tavaliselt kiirendab andmete laadimist 300-1000 kordselt sõltuvalt veebilehe ülesehitusest. Varnish Cache hoiab veebilehti vahemälus kiirendades sellega javaskriptide ning piltide laadimist. Lisaks kasutatakse seda ka koormuse tasakaalustamiseks ning turvalisuse suurendamiseks.<ref>[https://www.varnish-cache.org/about About Varnish]</ref>

==Ajalugu==
Projekti algatas Norra suurim tabloidformaadis ajaleht Verdens Gang<ref>[https://www.varnish-software.com/use-case/vg-norway VG (Norway)| Varnish Software]</ref>. Arhitekt ja juhtiv arendaja on Taani konsultant Poul-Henning Kamp (tuntud kui FreeBSDcore arendaja).<ref>[https://www.varnish-cache.org/trac/wiki/ArchitectNotes Notes from the Architect]</ref> Varnish Cache tugi, haldus ja arendus koondus hiljem eraldi haruks - Varnish Software<ref>[https://www.varnish-software.com/about-us About Us | Varnish Software]</ref>.

Varnishi versioon 1.0 avalikustati aastal 2006<ref>[https://www.varnish-cache.org/lists/pipermail/varnish-announce/2006-September/000638.html Varnish 1.0 released]</ref>, Varnish 2.0 aastal 2008<ref>[https://www.varnish-cache.org/lists/pipermail/varnish-announce/2008-October/000010.html Varnish 2.0 released]</ref>, Varnish 3.0 aastal 2011<ref>[https://www.varnish-cache.org/lists/pipermail/varnish-announce/2011-June/000670.html Varnish 3.0.0 released]</ref> ja Varnish 4.0 aastal 2014<ref>[https://www.varnish-cache.org/lists/pipermail/varnish-announce/2014-April/000696.html Varnish 4.0.0 released]</ref>.

==Arhitektuur==
Varnish Cache salvestab andmed virtuaalmällu ja jätab otsustada, mis salvestatakse mällu ja mida suunatakse ketta operatsioonisüsteemi. See aitab vältida olukorda, kus operatsioonisüsteem hakkab andmeid suunama vahemällu samal ajal kui nad paigutatakse rakenduse poolt kettale.

Lisaks on Varnishi tugevalt "keermestatud", iga kliendi ühendust käsitletakse kui eraldi "keeret". Kui seadistatud aktiivsete "keerete" arv on täidetud, paigutatakse sisenevad ühendused ülevoolu järjekorda. Kui kui see järjekord jõuab teatud piirini, hakkab süsteem sissetulevaid ühendusi tagasi lükkama.

Peamine seadistamise mehhanism on VCL (Varnishi Configuration Language). Enamus kasutajapoliitika otsuseid jäetakse VCL koodi, mis muudab Varnishi palju rohkem seadistatavaks ja kohanemisvõimelisemaks kui enamik teisi HTTP kiirendeid. Kui VLC skript on laetud, tõlgitakse see "C" keelde, kompileeritakse, et jagada objektid süsteemi poolt kompilaatorisse ja seotakse otse kiirendiga.

Arvu run-time parameetrid kontrollivad näiteks maksimaalset ja minimaalset aktiivsete keerete arvu, nende erinevaid süsteemipause jne. Käsurea juhtimise liides võimaldab neid parameetreid muuta, uusi VCL skripte kompileerida, laadida ja aktiveerida kiirendile taaskäivitust tegemata.

Selleks, et vähendada süsteemi päringute arvu kiirelt miinimumini, on logi-andmed salvestatud mällu ning logi-andmete filtreerimine, vorminine ning kirjutamine aktiivsele kettale kettale.<ref>[http://en.wikipedia.org/wiki/Varnish_%28software%29#Architecture Varnish(software) Wikipedia]</ref>

==Varnishi paigaldamine turvalisuse suurendamiseks==
<<!-- Warning style viksitud ArchWikist -->div style="padding: 5px; margin: 0.50em 0; background-color: #FFDDDD; border: thin solid #DDBBBB; overflow: hidden;">'''Hoiatus: '''Antud installatsiooni lahendus on testitud Ubuntu 14.04.2 LTS peal, kuid võib toimida muudel Debianil baseeruvate distributsioonide peal. Muude distributsioonide peal paigaldamiseks tasub uurida arendaja kodulehekülge<ref>[https://www.varnish-cache.org/releases Varnish Releases]</ref>.

Eelduseks on töötav veebileht, näiteks [[Veebiserveri_labor|Apache]] vaikeleht või WordPressi leht. Kui seda tehtud pole, siis seda kirjeldab [[WordPress_turvamine|WordPress turvamise labor]].</div>
Järgneva juhendi<ref>[http://www.howtoforge.com/putting-varnish-in-front-of-apache-on-ubuntu-debian Putting Varnish In Front Of Apache On Ubuntu/Debian]</ref> abil on võimalik sättida Varnish ülesse nii, et mitte-täielikud HTTP päringud püütakse kinni Varnishi teenuse poolt. Esialgne juhend on kohandatud uuema Varnishi versiooni ja Ubuntu väljalaske jaoks.

===Apache konfigureerimine===
Apache2 tuleb kuulama panna localhost, selleks on vaja <code>/etc/apache2/ports.conf</code> konfiguratsiooni failis vaja muuta vaikimisi kuulamis port 80 pealt 8080 peale.
<syntaxhighlight lang="apache">
Listen 8080
</syntaxhighlight>
Järgmisena tuleb muuta virtualhosti failis olev kuulatav port.
Siin näites kasutame Apache2 vaikelehe konfiguratsiooni faili <code>/etc/apache2/sites-available/000-default.conf</code>.
Kus tuleb muuta vaikimisi kuulatav port 80 meile vajalikuks port 8080 peale. Seda saab teha manuaalselt tekstiredaktoriga, kuid kui on vaja mitu faili muuta siis on mõtekas kasutusele võtta käsurea utiliit [[sed]]
<syntaxhighlight lang="teraterm">
cd /etc/apache2/sites-available
sed 's/:80/:8080/' 000-default.conf -i
</syntaxhighlight>
Kuna hetkeseisuga on konfiguratsioon selline, et Varnish saab kirjeid Apachelt ja külastajate IP addressiks logitakse lokaalse masina IP.
Paigaldame Apachele lisamooduli, et kuvataks kliendi õige ip aadress: 
<syntaxhighlight lang="teraterm">
apt-get install libapache2-mod-rpaf
</syntaxhighlight>

===Varnish Paigaldus===
Kuna Varnishi repositoorium<ref>[https://www.varnish-cache.org/installation/ubuntu Installation on Ubuntu]</ref> on turvalisel http kanalil siis on vaja laiendada apt utiliiti, et see oleks võimeline tõlgendama https:// aadresse, kui vastav laiendus pole paigaldatud siis saab selle Ubuntus installeerida järgnevalt:
<syntaxhighlight lang="teraterm">
apt-get install apt-transport-https
</syntaxhighlight>
Lisame Varnish Repositooriumi krüptovõtme, et apt oleks suuteline autentida repositooriumist alla laetavaid faile:
<syntaxhighlight lang="teraterm">
curl https://repo.varnish-cache.org/GPG-key.txt | apt-key add -
</syntaxhighlight>
Lisame Varnish Cache repositooriumi Ubuntu 14.04 Trusty Tahr jaoks oma apt utiliidi allikate loendisse:
<syntaxhighlight lang="teraterm">
echo "deb https://repo.varnish-cache.org/ubuntu/ trusty varnish-4.0" >> /etc/apt/sources.list.d/varnish-cache.list
</syntaxhighlight>
Uuendame repositooriumi ja paigaldame Varnishi:
<syntaxhighlight lang="teraterm">
apt-get update && apt-get install varnish
</syntaxhighlight>

===Varnishi konfiguratsiooni muutmine===
Muudame Varnishi konfiguratsiooni faili <code>/etc/default/varnish</code>, et Varnish kuulaks vaikimisi port 80 ja muudame VCL faili asukohta. Siin näites on kasutusele võetud <code>/etc/varnish/meieleht.vcl</code>:
<syntaxhighlight lang="c">
DAEMON_OPTS="-a :80 \
             -T localhost:6082 \
             -f /etc/varnish/meieleht.vcl \
             -S /etc/varnish/secret \
             -s malloc,256m"
</syntaxhighlight>
Kopeerime vcl struktuuri vaikefailist <code>default.vcl</code> uude faili <code>meieleht.vcl</code>:
<syntaxhighlight lang="teraterm">
cp /etc/varnish/default.vcl /etc/varnish/meieleht.vcl
</syntaxhighlight>
Täiendame faili <code>meieleht.vcl</code>, et tõsta Apache turvalisust Varnishi abiga.
<<!-- Note style viksitud ArchWikist -->div style="padding: 5px; margin: 0.50em 0; background-color: #DDDDFF; border: thin solid #BBBBDD; overflow: hidden;">'''Märge: '''Esialgne juhend kasutas Varnish 2.1, mille süntaks erineb natukene Varnish 4.0.3 omast. <ref>[https://www.varnish-cache.org/docs/trunk/whats-new/upgrade-4.0.html Süntaksi muudatused versioon Varnish 4.0 versioonis]</ref></div>
<syntaxhighlight lang="c">
sub vcl_recv {
    # Add a unique header containing the client address.
    unset req.http.X-Forwarded-For;
    set req.http.X-Forwarded-For = client.ip;
    # Added security, the "w00tw00t" attacks are pretty annoying so let's block
    # it before it reaches our webserver.
    if (req.url ~ "^/w00tw00t") {
        return (synth(403, "Not permitted"));
    }
}

sub vcl_backend_response {
    # Remove the X-Forwarded-For header if it exists.
    unset bereq.http.X-Forwarded-For;

    # Insert the client IP address as X-Forwarded-For.
    # This is the normal IP address of the user.
    set bereq.http.X-Forwarded-For = bereq.http.rlnclientipaddr;

    # Deliver the content
    return (deliver);
}

sub vcl_deliver {
    # We'll be hiding some headers added by Varnish. We want to make sure people
    # are not seeing that we are using Varnish.
    # Since we're not caching (yet), why bother telling people we are using it?
    unset resp.http.X-Varnish;
    unset resp.http.Via;
    unset resp.http.Age;
    # We'd like to hide the X-Powered-By headers. Nobody has to know we can run
    # PHP and have version XYZ of it.
    unset resp.http.X-Powered-By;
}
</syntaxhighlight>

===Deemonite restart===
Kõigepealt tuleb taaskäivitada Apache teenus:
<syntaxhighlight lang="teraterm">
service apache2 restart
</syntaxhighlight>
Järgnevalt kontrollime, kas Apache kuulab meie poolt konfigureeritud pordi peal netstat utiliidiga:
<syntaxhighlight lang="teraterm">
netstat -lp | grep apache2
</syntaxhighlight>
Tulemus peab olema taoline:
<syntaxhighlight lang="teraterm">
tcp        0      0 localhost:8080          *:*                     LISTEN      4586/apache2
</syntaxhighlight>
Taaskäivitame Varnishi teenuse:
<syntaxhighlight lang="teraterm">
service varnish restart
</syntaxhighlight>
Kontrollime, kas Varnishi teenus kuulab õigelt pordilt:
<syntaxhighlight lang="teraterm">
netstat -lp | grep varnish
</syntaxhighlight>
Tulemus peab olema taoline:
<syntaxhighlight lang="teraterm">
tcp        0      0 *:www                   *:*                     LISTEN      4498/varnishd
tcp6       0      0 [::]:www                [::]:*                  LISTEN      4498/varnishd
</syntaxhighlight>
Varnish on ka võimeline ipv6 pealt kuulamisega.

Nüüd on Varnish paigaldatud Apache2 ette ja sait peab nüüd töötama. Kui Apache2 peatada kuvatakse Varnish error lehekülg.

==Logimine==
Veebilehe külastamisi saab jälgida <code>/var/log/varnish/access.log</code> logi failist.
===Detailsemate logide konfigureerimine===
<<!-- Warning style viksitud ArchWikist -->div style="padding: 5px; margin: 0.50em 0; background-color: #FFDDDD; border: thin solid #DDBBBB; overflow: hidden;">'''Hoiatus: '''Järgnev sektsioon on vabatahtlik. Kui oled siiani järginud juhendit siis on sul Apache2+Varnish konfigureeritud ja toimiv ning edasi pole vaja konfigureerida aine IT Infrastruktuuride raames.</div>
Vaikimisi kuvatakse Apache logides serveri aadressi asemel kliendi addres. Kuna kliendi asemel suhtleb Apache veebiserveriga Varnish, mis on lokaalse masina peal siis see tähendab, et logifailides kuvatakse iga kirje puhul serveri enda aadressi.
<ref>[http://willjackson.org/blog/configure-vanish-forward-client-ip-addresses-apache-logs Configure Varnish to forward client ip addresses in Apache logs]</ref>
<!--<ref>[http://webcache.googleusercontent.com/search?q=cache:eR2P_eWyRjoJ:theyusedtocallitablog.net/2011/07/configuring-varnish-and-apache-to-pass-the-original-client-ip-specifically-with-wordpress-comments-in-mind/+&cd=1&hl=en&ct=clnk&gl=ee&client=ubuntu Configuring varnish and apache to pass the original client ip]</ref>-->

====VCL faili reeglid====
Lisada oma Varnish konfiguratsiooni .vcl read:
Näiteks failis <code>/etc/varnish/meieleht.vcl</code>
<syntaxhighlight lang="c">
sub vcl_recv {
    # Rename the incoming XFF header to work around a Varnish bug.
    if (req.http.X-Forwarded-For) {
        # Append the client IP
        set req.http.X-Real-Forwarded-For = req.http.X-Forwarded-For ", " regsub(client.ip, ":.*", "");
        unset req.http.X-Forwarded-For;
    } else {
        # Simply use the client IP
        set req.http.X-Real-Forwarded-For = regsub(client.ip, ":.*", "");
    }
}
</syntaxhighlight>

====Apache pool==== 
Konfigureerime Apachet uut logimis formaati kasutama jäsklusega, mis loob faili <code>varnish-log</code>.
<syntaxhighlight lang="teraterm">
echo 'LogFormat "%{X-Forwarded-For}i %l %u %t \"%r\" %>s %b \"%{Referer}i\" \"%{User-Agent}i\"" varnishcombined' > /etc/apache2/conf.d/varnish-log
</syntaxhighlight>

Samuti tuleb igal oma virtualhostil (nt. <code>000-default.conf</code>) juures muuta logifaili formaadis sõne <code>combined</code> järgnevaks sõneks <code>varnishcombined</code>, jällegi oleks kasulik rakendada <code>sed</code>i utiliiti.
<syntaxhighlight lang="teraterm">
cd /etc/apache2/sites-available/
sed 's/combined/varnishcombined/' 000-default.conf -i
</syntaxhighlight>

Vahepealseks etapiks on teenuste taaskäivitamine:
<syntaxhighlight lang="teraterm">
service apache2 restart && service varnish restart
</syntaxhighlight>

Siis tuleb virtualhostid välja ja sisse lülitada:
<syntaxhighlight lang="teraterm">
a2dissite 000-default.conf n2ide.conf n2ide3.conf
a2ensite 000-default.conf n2ide.conf n2ide3.conf
</syntaxhighlight>

====Tulemuse kontroll====
Ühenda kliendiga veebiserveri külge ja vaata Apache2 <code>access.log</code> faili, mis ip logitakse.
<syntaxhighlight lang="teraterm">
tail /var/log/apache2/access.log
</syntaxhighlight>

==Security.VCL paigaldamine==
<<!-- Warning style viksitud ArchWikist -->div style="padding: 5px; margin: 0.50em 0; background-color: #FFDDDD; border: thin solid #DDBBBB; overflow: hidden;">'''Hoiatus: '''Järgnev sektsioon on vabatahtlik. Kui oled siiani järginud juhendit siis on sul Apache2+Varnish konfigureeritud ja toimiv ning edasi pole vaja konfigureerida aine IT Infrastruktuuride raames.</div>
Security.vcl on Web Application tulemüür, mis on rakendatud vcl(Varnish Control Language) keeles.<ref>[https://github.com/comotion/security.vcl/blob/master/README Security.vcl README]</ref>

Oma funktsiooni poolest sarnaneb [[mod_security]]le, aga on rakendatud teist mood.

Esimese sammuna tuleks paigaldada vajalikud utiliidid kompileerimiseks:
<syntaxhighlight lang="teraterm">
apt-get install git make
</syntaxhighlight>

Siis tuleks kloonida [[git]]i repositooriumis olev algmaterjal:
<syntaxhighlight lang="teraterm">
git clone https://github.com/comotion/security.vcl.git
</syntaxhighlight>

Järgmiste sammudena on vaja repositooriumis olev rakendus paigaldada ja luua sümboolne link Varnishi konfiguratsiooni kausta:
<syntaxhighlight lang="teraterm">
cd security.vcl/vcl/
sudo make
cd ..
sudo ln -s $PWD/vcl/ /etc/varnish/security
</syntaxhighlight>

Lisa Varnishi .vcl conf faili järgnev rida <code>backend default</code> koodiploki alla:
<syntaxhighlight lang="c">
include "/etc/varnish/security/main.vcl";
</syntaxhighlight>

Välja peaks nägema nii:
<syntaxhighlight lang="c">
backend default {
        .host = "127.0.0.1";
        .port = "8080";
}

include "/etc/varnish/security/main.vcl";

</syntaxhighlight>

Taaskäivita Varnishi teenus.
<syntaxhighlight lang="teraterm">
service varnish restart
</syntaxhighlight>

===Tulemuse kontroll===
Proovi nüüd minna enda veebiserveri külge aadressiga:
<pre><nowiki>http://<sinu serveri ip>/javascript:</nowiki></pre>
Kui kõik toimib tuleb vastuseks:
<pre>Error 403 Naughty, not nice!</pre>

==Viited==
<references />