"Live At The Olympia" została nagrana podczas pięciu wieczornych występów, jakie odbyły się pomiędzy 30 czerwca a 5 lipca w Olympia Theatre w Dublinie. Koncerty te były swego rodzaju próbami, w trakcie których zespół w obecności rodzin, przyjaciół i specjalnie zaproszonych na tę okazję fanów z całego świata testował nowe piosenki przeznaczone na płytę "Accelerate" wydaną w poprzednim roku.
W związku z tym album zawiera wiele całkiem innych wersji niektórych piosenek od tych znanych z ostatniego studyjnego krążka zespołu. Dobrym przykładem może być singlowy "Man-Sized Wreath" czy wczesna wersja "Supernatural Superserious" nagrana pod obowiązującym wówczas tytułem "Disguised". Ponadto znalazło się miejsce dla dwóch utworów, które ostatecznie nie zmieściły się na "Accelerate" - "On The Fly" oraz "Staring Down The Barrel Of The Middle Distance". Nie zabrakło również najlepszych kompozycji zespołu z innych płyt jak "Murmur", "Reckoning", "Fables Of The Reconstruction" czy "Life's Rich Pageant".
W Polskich sklepach możemy już znaleźć dwie wersje wydawnictwa. Klasyczna zawiera 2CD, na których znajdziemy 39 piosenek. Rozszerzona edycja została wzbogacona o DVD.