Os comandos são bastante simples e diretos:

apt-get install apt-transport-https
curl https://repo.varnish-cache.org/ubuntu/GPG-key.txt | apt-key add -
echo "deb https://repo.varnish-cache.org/ubuntu/ precise varnish-4.0" >> /etc/apt/sources.list.d/varnish-cache.list
apt-get update
apt-get install varnish

e se você quiser instalar no ubuntu 14.04, basta trocar a palavra "precise" acima por "trusty".

A referência tirei daqui: https://www.varnish-cache.org/installation/ubuntu

Funcionou perfeitamente bem!

Depois disso, basta executar:

sudo varnishd -a hostname:8080 -b 127.0.0.1:80

Substituindo "hostname" pelo ip no qual o varnish deve "ouvir" (tipicamente é no próprio localhost, ou 127.0.0.1, mas no meu caso com vagrant coloquei o ip da máquina virtual). A opção -b dispensa o uso de um arquivo VCL de configuração.

Nos próximos posts vou explicar como usar um arquivo VCL (opção -f do varnish, que é mutuamente exclusiva com a opção -b) e comentar sobre a linguagem de configuração do varnish.