Dopo aver studiato all'Accademia di San Luca, Apolloni si trasferì nel 1879 a Boston, dove insegnò scultura e disegno al Conservatorio di Musica. In seguito si trasferì a Providence (Rhode Island), dove conobbe e sposò sua moglie Martha, nel 1883.

Dal 1900 al 1922, presiedette la Regia Scuola d'arte applicata all'industria di Fano (che dopo la sua morte fu a lui intitolata). Fu anche sindaco di Roma dal giugno 1919 al novembre 1920.