Sentita la chiamata del Signore, Giovanni andò a vivere nel deserto, conducendo vita di penitenza e di preghiera, secondo la tradizione ebraica del voto di nazireato: "Giovanni portava un vestito di peli di cammello e una cintura di pelle attorno ai fianchi; il suo cibo erano locuste e miele selvatico" (Marco 1,6). Si discute tuttora sui possibili rapporti fra il Battista e la comunità giudaica degli Esseni, che vivevano in comunità monastiche nel deserto, aspettavano l'avvento del Messia e praticavano il battesimo come rito di purificazione. La novità del battesimo di Giovanni, rispetto alle abluzioni di tipo rituale che già si conoscevano nella tradizione giudaica, consiste nel preciso impegno di "conversione", da parte di coloro che andavano a farsi battezzare da lui. Secondo alcuni vangeli apocrifi,in seguito alla morte della madre si recò nel deserto dove fu istruito dagli angeli e uomini sapienti per la sua futura missione[citazione necessaria]

Giovanni Battista annunciò più volte di riconoscere in Gesù il Messia annunciato dai profeti, ma il momento culminante è quello in cui Gesù stesso volle essere battezzato da lui nelle acque del Giordano; in quell'occasione Giovanni additò Gesù ai suoi seguaci come "l'agnello di Dio che toglie i peccati del mondo" (Giovanni 1,29). Tuttavia risulta che molti continuarono a dirsi seguaci del Battista ancora a lungo, e non è certo che tutti abbiano poi aderito alla Chiesa cristiana.