Berättelsen börjar på den grekiska ön Kalokairi, där Sophie Sheridan (Amanda Seyfried) förbereder sitt bröllop med Sky (Dominic Cooper). Sophie har alltid fostrats upp av sin ensamstående mamma, Donna (Meryl Streep), och har aldrig träffat sin pappa. Hon läser i hemlighet sin mammas dagbok och upptäcker att hon har tre möjliga fäder:Sam Carmichael (Pierce Brosnan), Bill Anderson (Stellan Skarsgård) och Harry Bright (Colin Firth).
Sophie är fast besluten att ta reda på vem hennes far är och bjuder in alla tre männen till sitt bröllop utan att berätta för Donna. När de kommer fram är Donna chockad och upprörd, men hon går med på att låta dem stanna på bröllopet. När helgen går lär Sophie känna var och en av männen och börjar undra vem hennes riktiga pappa är.
Under tiden hanterar Donna sina egna känslor om det förflutna. Hon är fortfarande kär i Sam, men hon är också rädd för att bli sårad igen. Hon anförtror sig till sina två bästa vänner, Rosie (Julie Walters) och Tanya (Christine Baranski).
På tröskeln till bröllopet pratar Sophie med var och en av de tre männen. Hon lär sig mer om deras förflutna och deras relationer med Donna. Hon lär sig också att var och en av dem har ett speciellt band med henne.
Till slut bestämmer sig Sophie för att hon inte behöver veta vem hennes pappa är. Hon är glad över kärleken och stödet från sin mamma och sina vänner. Hon gifter sig med Sky, och de lever alla lyckliga i alla sina dagar.