Fue fundado el 13 de enero de 1907. No hay antecedentes disponibles respecto al nombre, sin embargo, en la asamblea del 9 de febrero de 1907 la Comisión Directiva convoca a una nueva Asamblea en la que se decide el nombre «Club Atlético Argentino de Rafaela», además de los colores de la casaca. El nombre se mantuvo en las actas hasta el 4 de mayo de 1909, mientras que en 1910, Eduardo Chiarella diseña el escudo de la institución.

En el acta del 20 de enero de 1914 aparece por primera vez Club Atlético de Rafaela, mientras que el 3 de mayo de 1915 se aprueba modificar el artículo 1º de los estatutos donde se constituye una sociedad atlética bajo la denominación «Club Atlético de Rafaela».

Los colores que identifican al club son el celeste y el blanco, con detalles dorados, con los cuales fueron diseñados el escudo y la casaca deportiva.

Los hinchas de Rafaela son apodados "cremosos"/"celestes" por la denominación y el reconocimiento popular del clubcomo "La Crema".

El origen del apdo La Crema es primitivo y deviene del nivel social al que pertenecían los primeros fundadores del club. Sus primeros socios mostraban un cierto estatus social. Mas tarde comenzaron a denominarlos “cremosos” ya que la gran mayoría tenía un gran poder adquisitivo y economíco. Se denominaba a esta gente como "la crema" de la sociedad rafaelina.

Su clásico rival es Ben Hur, de la ciudad de Rafaela, provincia de Santa Fe, ambos equipos están en distintas categorías.