Nascido em Florença, na Itália, em 995, foi educado por nobres cristãos e por sua mãe e viveram em um dos vários castelos do país. A vida de João teve uma reviravolta após a morte de seu irmão mais velho. Como era costume na época, o então jovem João buscou vingar a morte do irmão procurando o assassino, e, em uma sexta-feira Santa do ano de 1028, ele encontrou o homicida vagando sozinho. Rapidamente João Gualberto empunhou sua espada, porém o adversário se ajoelhou de braços abertos implorando clemência em nome de Jesus Cristo. João Gualberto tornou-se um humilde monge, exemplar na disciplina às Regras, no estudo, na oração, na penitência e na caridade.