Els Quatre Herois Llegendaris són un grup d'homes corrents del Japó actual convocats al regne de Melromarc per convertir-se en els seus salvadors. Melromarc és un país assolat per les Onades de Catàstrofe que han assolat repetidament la terra i han portat desastres als seus ciutadans durant segles. Els quatre herois reben respectivament una espasa, una llança, un arc i un escut per vèncer aquestes Onades. Naofumi Iwatani, un otaku, és maleït amb el destí de ser "l'Heroi de l'Escut". Armat només amb un escut petit, Naofumi és menyspreat i ridiculitzat pels seus companys herois i pel poble del regne a causa de les seves febles capacitats ofensives i la seva personalitat mediocre.

Quan els herois reben recursos i camarades amb qui entrenar, Naofumi parteix amb l'única persona disposada a entrenar al seu costat, Malty Melromarc. Aviat, però, ella el traeix i l'acusa falsament d'aprofitar-se d'ella. Naofumi llavors és molt discriminat i odiat pel poble de Melromarc per alguna cosa que no va fer. Amb una tempesta furiosa de dolor i desconfiança al cor, Naofumi comença el seu viatge per enfortir-se a si mateix i la seva reputació. Més endavant, però, apareix la dificultat d'estar sol, així que Naofumi compra un esclava semihumana a punt de morir anomenada Raphtalia perquè l'acompanyi en els seus viatges.

A mesura que les Onades s'acosten al regne, Naofumi i Raphtalia han de lluitar per la supervivència del regne i protegir el poble de Melromarc del seu desafortunat futur.