La historia comienza en la oscura nave de la estación de Amberes, donde un hombre joven, Jacques Austerlitz, es observado por el narrador. Este hombre, rubio y con una apariencia peculiar, está absorto en tomar notas y hacer dibujos en un cuaderno. A lo largo de la novela, se desarrolla una relación compleja entre el narrador y Austerlitz que fluctúa entre la cercanía y la distancia.
Austerlitz, quien ha vivido en Londres durante muchos años, es en realidad un niño judío refugiado que llegó a Gales en la década de 1940. Criado por un predicador y su esposa, su infancia es marcada por la soledad y la tristeza. A medida que la historia progresa, Austerlitz comienza a desentrañar los misterios de su pasado y su verdadera identidad, lo que le lleva a confrontar su desarraigo y su búsqueda de un hogar.