Celso Rafael Ayala nació en Asunción, Paraguay, el 20 de agosto de 1970. Inició su carrera en el Olimpia debutando en ese club en 1990.Su posición era la de defensor central.
En 1994 llegó a la Argentina para jugar en Rosario Central, equipo en el que estuvo un año, y una temporada después llegó a River Plate. Se afianzó en la zaga central del Millonario y formó parte de aquél gran equipo que logró la Copa Libertadores 1996, el tricampeonato 1996-1997 y la Supercopa 1997. Siempre se recuerda aquel gol de cabeza que hizo en el superclásico que terminó 3 a 3, en el clausura 1997.
En 1998 emigró a España para jugar la primera temporada (1998-1999) en el Betis, y la temporada 1999-2000 en el Atlético de Madrid.
Tras jugar en la segunda mitad del 2000 en el fútbol brasileño con la camiseta del San Pablo, volvió a River a principios del 2001 y conquistó junto al Millonario los torneos Clausura de 2002, 2003 y 2004.
En 2005 emigró a Chile para jugar en Colo-Colo retirándose como futbolista en el año 2006.
Con la selección de Paraguay disputó los mundiales de Francia 1998 y Corea-Japón 2002.
Luego de su retiro dirigió a diversos equipos de Paraguay y Bolivia, además de haber sido ayudante de Ángel David Comizzo en Talleres de Córdoba durante 2008.