Nacido en el pueblo llamado Ashington el 8 de mayo de 1935, el hijo mayor del minero Bob y su esposa Cissie, se sumó desde muy joven a las filas del Leeds.
En Leeds tuvo un éxito enorme y duradero, ya que llegó a jugar 722 partidos y ganó varios títulos importantes, entre ellos el de la Primera División en 1969, la Copa de la FA en 1972 y dos Copas de Ferias.
Cerca de cumplir los 30 años debutó con Inglaterra en un empate con Escocia (2-2) en abril de 1965 y poco más de un año después participó en la victoria final de la Copa Mundial contra Alemania por 4-2 en Wembley.
Su último partido con el seleccionado inglés (completó 35, seis de ellos en el mundial 1966) fue en la Copa del Mundo de 1970, pero siguió jugando hasta 1973 con el Leeds, con el que disputó 772 partidos.
Después de retirarse, Charlton se convirtió en un exitoso manager iniciando su carrera en Middlesbrough, llevándolo a la promoción a la primera división como campeón en 1974, y en 1980 llevó al Sheffield Wednesday a la segunda categoría. También tuvo una temporada con el Newcastle, pero se le recuerda más como entrenador por su trabajo con la República de Irlanda.
Jacky Charlton clasificó a Irlanda a la Eurocopa de Alemania 1988 y luego a los mundiales de Italia 1990 (cayó en cuartos de final ante el local) y Estados Unidos 1994.
El mayor de los Charlton tenía una relación tensa con su hermano Bobby, pero la pareja tuvo un reencuentro emocional en Liverpool en los Premios de Personalidad Deportiva de la BBC en 2008, cuando Jack entregó a su hermano el Premio a la Trayectoria.