Nació en Montevideo el 19 de marzo de 1845.
Entre 1867 y 1868 realizó un viaje a Europa —casi obligatorio para su época y condición social— donde visitó al poeta Víctor Hugo y luego a Estados Unidos donde conoció y cultivó amistad con Sarmiento, compañero además en el barco que los trajo de regreso. Semejante vínculo encendió la que iba a ser para siempre su pasión, los temas de la enseñanza, comenzando desde entonces una serie de investigaciones, trabajos y propuestas que más tarde finalizarían en la implantación de la enseñanza obligatoria, laica y gratuita por parte del estado uruguayo.
En 1869, ya en Montevideo, se dedicó a la actividad periodística y política a través del diario La Paz, que dirigió hasta 1873. Al mismo tiempo creó la Sociedad de Amigos de la Educación Popular junto a Elbio Fernández, Carlos María Ramírez y otros jóvenes de su generación.
Bajo el gobierno de Lorenzo Batlle, convulsionado por la guerra civil, luchó temerariamente. Pensaba que la educación popular no podía cimentarse y extenderse mientras no se contara con un mínimun de libertad en la paz.
En 1874 publicó La educación del Pueblo, y en 1876 La legislación escolar, libros donde no solo buscaba demostrar la necesidad de una reforma escolar, sino también su plausibilidad. Para ello aportó datos estadísticos sobre la población del país, que manejó como argumentos de su tesis, siendo el primero en usar esta herramienta en la historia intelectual del Uruguay.
En marzo de 1876, bajo la dictadura de Latorre, asume la Dirección de la Instrucción Pública, cargo que ocupa hasta su muerte en 1879 debida a una infección pulmonar, cuando solo tenía 34 años, en plena tarea reformista.
Su hermano Jacobo Varela se encargó de continuar con su reforma educativa.