Farvel hr. Haffmann udspiller sig i Paris i 1941. François Mercier (Gilles Lellouche) er en helt almindelig mand, som kun drømmer om at starte en familie med sin elskede Blanche. Til daglig arbejder han for den jødiske juveler Joseph Haffmann (Daniel Auteuil), men forretningen – og deres indbyrdes forhold – mere end udfordres af den tyske besættelsesmagt, der tvinger Haffmann til at gå under jorden, mens Mercier kører butikken videre.