El espíritu de la JMJ comenzó en Roma durante el Jubileo de 1983-1984, el Año Santo de la Redención. Más de 300.000 jóvenes, procedentes de todas las partes del mundo, acogidos por cerca de 6.000 familias romanas, participaron en el Jubileo internacional de la juventud. El 22 de abril de 1984, el Papa Juan Pablo II obsequió a los jóvenes con una cruz de madera que simboliza "el amor del Señor Jesús por la Humanidad" y como anuncio de que "sólo en Cristo, muerto y resucitado, está la salvación y la redención".
La ONU proclamó 1985 Año Internacional de la Juventud. Con este motivo, la Iglesia Católica organizó un nuevo encuentro internacional el Domingo de Ramos de ese año, el 31 de marzo. Se reunieron en la Plaza de San Pedro de Roma más de 350.000 jóvenes. Tras el éxito de esta convocatoria, en diciembre de ese año el Papa instituyó la Jornada Mundial de la Juventud.
Al año siguiente, el 23 de marzo, Domingo de Ramos, tuvo lugar en Roma la primera Jornada Mundial de la Juventud, con el lema "Siempre dispuestos a dar respuesta a todo el que os pida razón de vuestra esperanza" (1 Pe 3,15).
Fue la primera de una serie de citas con jóvenes que contribuyó a atribuir al Papa Juan Pablo II el calificativo de "El Papa de los jóvenes". En esta primera jornada, el Papa convocó a los jóvenes para la siguiente JMJ en Buenos Aires, primera Jornada Mundial de la Juventud de carácter internacional.
Desde entonces, la JMJ se realiza anualmente en las diócesis del mundo en el Domingo de Ramos. Y se alterna con un gran encuentro internacional cada tres años en una gran metrópoli. Estos encuentros internacionales de varios días reciben habitualmente el nombre de Jornada Mundial de la Juventud.
Para facilitar la asistencia de los jóvenes, desde Santiago de Compostela en 1989 se suele celebrar entre finales de julio y mediados de agosto, pues coinciden las vacaciones de los estudiantes en el hemisferio norte y, en ocasiones, las vacaciones de invierno en el hemisferio sur.