Su fundación se declaró oficialmente el 1 de noviembre de 1900, como el Atlético Anglo Panormitan y el Club de Fútbol. El club se cree que ha sido fundado por Ignacio Majo Pagano. El primer partido que se registró fue el 30 de diciembre de 1900, terminó en una derrota 5-0 con un equipo de aficionados ingleses. El primer partido oficial, jugado el 18 de abril de 1901 contra Messina Football Club terminó en una victoria por 3-2 para Palermo.

En 1907, el club cambió su nombre por el de Palermo Foot-Ball Club, y los colores del equipo fueron cambiados por el rosa y negro utilizado actualmente.

Después de un descanzo de la Primera Guerra Mundial el club fue refundado en 1919 como Unione Sportiva de Palermo, por un comité de jóvenes universitarios y deportistas. En el verano de 1987, después de un año sin fútbol profesional en Palermo, el club fue refundado con su nombre actual, y comenzó a jugar en la Serie C2, torneo que ganó pronto.

Tras su regreso a la Serie A en 2004, el club se ha convertido en uno de los más importantes de Italia, proporcionando cuatro jugadores a la selección italiana que ganó la Copa Mundial de la FIFA 2006. Se ha quedado cerca de jugar la UEFA Champions League y ha alcanzado la final de la Coppa de Italia 2011, que perdió ante el Inter de Milán.

Los colores oficiales del equipo son el color rosa y el negro, dando lugar al apodo rosanero, otro apodo menos común es aquile, en referencia al águila que figura en el escudo.

La mayor rivalidad que tiene el club es contra Catania. Los partidos entre ellos se denominan generalmente como derbis siciliana, aunque Messina es otro equipo siciliano con el que disputan varios clásicos, también jugó en la Serie A junto a Palermo y Catania, en los últimos años. La rivalidad con Messina, aunque históricamente es mayor, es menos intensa que con Catania.