Après avoir terminé ses études à l'Académie militaire impériale de Saint-Pétersbourg en 1856, Borodine est recruté comme officier dans l'armée impériale russe. En parallèle, il poursuit ses études musicales avec César Cui et Mili Balakirev. Il obtient le titre de professeur à la fin des années 1860.
En 1862, Borodine se lie d'amitié avec Modeste Moussorgski, dont il devient un ami proche et un soutien financier. Il participe également activement aux activités de l'école des "Jeunes Russes", qui s'efforcent de développer une musique russe distincte de la tradition européenne.
En 1869, Borodine est nommé à la chaire d'hygiène de l'Académie militaire impériale de Saint-Pétersbourg et il prend sa retraite militaire en 1873 pour se consacrer entièrement à la musique.
Son œuvre la plus célèbre est "Prince Igor", un opéra inspiré d'une épopée populaire russe, qui est composé entre 1869 et 1880. Borodine ne verra pas son opéra terminé car il meurt prématurément en 1887 des suites de la maladie de Behçet qu'il contracte alors qu'il effectue un examen médical pour une nouvelle recrutement dans l'armée impériale russe.
Après sa mort, "Prince Igor" est terminé par Rimsky-Korsakov et est présenté au public en 1890. Aujourd'hui, le prince Igor est considéré comme une des œuvres maîtresses de l'opéra russe.
En plus de Prince Igor, Borodine a composé un certain nombre d'autres œuvres orchestrales et chorales, dont "In the Steppes of Central Asia", "Polovtsian Dances" et la cantate "Fürst Igor". Ses œuvres sont caractérisées par une puissante orchestation et un sens des couleurs nationales russes.