Fue fundado el 3 de noviembre de 1903 por un grupo de exalumnos del Colegio Comercial Anglicano Argentino de Rosario -fundado en 1884- que tenían al fútbol como su disciplina de entretenimiento y competición deportiva. El principal impulsor fue Claudio Newell, hijo de Isaac, quien para la conformación del acta oficial convocó a profesores, alumnos, y exalumnos del colegio, mientras se extinguía la vida de su padre. En dicha ceremonia se decidió el nombre de «Club Atlético Newell's Old Boys» en honor a su padre.

En el año 1905, el club comenzó su actividad futbolística siendo parte de la Liga Rosarina de Fútbol, mientras que entre 1931 y 1938 fue miembro de los torneos profesionales de la Asociación Rosarina de Fútbol. A partir de 1939se incorporó a la Asociación del Fútbol Argentino (AFA).

Participa en la Primera División de Argentina desde 1939, al día de hoy, lleva 54 temporadas ininterrumpidas de Primera División, posicionándose tercero en dicho rubro. En ella posee los honores de haber sido el único campeón con futbolistas y cuerpo técnico canteranos (1988), el único club en representar a un seleccionado nacional en absoluto (Preolímpico 1976) y el de haber trasladado la mayor magnitud de público de provincia a provincia. En adición, es el octavo equipo que (al 2015) más puntos sumó en la Clasificación histórica de la Primera División. A su vez, es uno de los ocho equipos argentinos en ganar más de un millar de partidos en Primera División.

Cuenta con siete títulos nacionales oficiales profesionales en su haber, habiendo ganado 6 ligas de Primera y 1 copa nacional. Esto lo coloca como el equipo del interior del país con más logros oficiales obtenidos en el profesionalismo. A su vez, se ubica octavo en el ránking argentino de clubes ganadores de títulos oficiales en el profesionalismo.

Es uno de los clubes que reivindica ser "uno de los grandes" del fútbol argentino y fue incorporado a sus deliberaciones, por invitación, en 1943 tras su gran poder de convocatoria y meritorias campañas en Primera División desde su ingreso en 1939.

Por otro lado, es una de las 11 instituciones argentinas que integran la galería de «clubes clásicos de la FIFA».

Su clásico rival es el Club Atlético Rosario Central, identificado con el barrio Arroyito, de la ciudad de Rosario, con quien disputa el «Clásico rosarino». Este clásico se sitúa tercero en importancia, detrás del Superclásico del fútbol argentino y Clásico de Avellaneda. Dicho partido, es el clásico más antiguo de los que aún se disputan y uno de los más convocatorios de la Argentina. Cuenta con una rica trayectoria, que comenzó el año 1905 cuando se enfrentaron por primera vez en la historia, con victoria de los rojinegros por 1 a 0. A lo largo de la historia, se han realizado decenas de estos encuentros abarcando diferentes instancias como: Liga Rosarina de Fútbol, Asociación Rosarina de Fútbol, torneos nacionales de AFA, copas nacionales e internacionales de CONMEBOL, y encuentros amistosos. La gran rivalidad histórica con que se vive dicho encuentro, lo cataloga como uno de los más atractivos y pasionales de la Argentina.

Con la combinación de los colores de las banderas de Inglaterra y Alemania, el rojo y elnegro, tarea que fuera encomendada a Ernesto Edwards, uno de los alumnos del colegio, se diseñaría el primer escudo, y posteriormente se haría lo propio con la casaca deportiva.

Tanto los hinchas como los futbolistas de Newell's Old Boys son conocidos como los «leprosos», debido a que a principios del siglo XXfueron invitados a celebrar un encuentro a beneficio de los enfermos de lepra residentes en el Hospital Carrasco, frente a su tradicional rival Rosario Central. La invitación fue aceptada de inmediato por los de Newell's Old Boys, quienes recibieron el apodo de «leprosos», mientras que sus adversarios no aceptaron la invitación, y recibieron el calificativo de «canallas». Con el correr del tiempo el apodo fue tomando gran magnitud, al punto de transformarse en un emblema identificatorio para todos los hinchas de Newell's Old Boys.