A graça decidiu todo o rumo da vida deste santo. Certo dia São João Gualberto encontrou em seu caminho o assassino de seu irmão, o qual procurava há tempo.
Desejoso de vingança, não pensou duas vezes e puxou a espada para matá-lo. Ao levantar a espada, o adversário, desarmado, suplicou-lhe perdão com os braços abertos.
Era uma sexta-feira santa. João comovido, lembrou-se Cristo de braços abertos: concedeu-lhe o perdão, abraçando-o e sentindo-se invadido por grande paz interior.
Decidiu entrar para o mosteiro dos beneditinos, mas devido a um desentendimento com o abade, por vê-lo fora da honra da Igreja e falsos pastores, encolerizado refugiou-se em um monte de nome Valeumbrosa, onde construiu o seu próprio mosteiro.
Foi uma experiência pioneira, já que lá se formaram os primeiros monges da ordem beneditina, que se declararam contra os falsos pastores, os abusos e a imoderada procura do dinheiro e honras.
Na Itália difundiu-se a fama e sabedoria de São João Gualberto. Antes de morrer, em 1073, recebeu a visita do papa Leão XI, que era seu amigo. Em sua vida, pregou a humildade, a doçura e a mortificação, sem ostentação e retórica , simplesmente usando o dom da sabedoria.