El término se hizo popular en los años 20 gracias al cronista deportivo John J. Fitz Gerald (New York Morning Telegraph) quien escuchó en 1921 cómo lo usaban los mozos de cuadra en el hipódromo de Nueva Orleáns para referirse al hipódromo de Nueva York. A Fitz Gerald le gustó tanto la expresión que llamó a su columna hípica Sobre la Gran Manzana. En la introducción a su columna del 18 de febrero de 1924, Fitz Gerald escribe: "La Gran Manzana. El sueño de todo chico que haya montado un pura sangre y el objetivo de todo jinete. Sólo existe una Gran Manzana y es Nueva York".

Durante la década de los años 30, era utilizado para referirse a la ciudad por los músicos de jazz, para los que tocar en Nueva York suponía su máximo objetivo: "son muchas las manzanas que tiene el árbol del éxito, pero Nueva York es la Gran Manzana".

No fue hasta 1971 cuando este sobrenombre se hizo famoso en todo el mundo por una campaña turística que realizó la ciudad.