Secondogenito di Gian Galeazzo Visconti, primo duca di Milano, nacque il 23 settembre 1392. Alla morte del padre ereditò la contea di Pavia e altri territori.
Alla morte del fratello, assassinato il 16 maggio 1412 mentre si recava a Messa in san Gottardo in Corte, divenne erede legittimo del dominio milanese. Vinta dopo un mese la ribellione capeggiata da Gian Carlo ed Estore Visconti, per merito delle milizie di Facino Cane di cui aveva sposato la vedova Beatrice Tenda, entrò in Milano acclamato terzo duca (16 giugno 1412).
Nei successivi anni Filippo Maria recuperò gran parte dei territori che avevano fatto parte del Ducato del padre, a cui aggiunse Genova e altre città della Romagna, giungendo alle porte di Firenze. Nel 1425 i fiorentini strinsero un lega con Venezia, preoccupata dall'espansione milanese. A questa si unirono i Gonzaga, gli Este, i Savoia e il marchese del Monferrato. La guerra che seguì si concluse con la sconfitta di Milano (12 0ttobre 1427). L'anno successivo il Duca cedette Bergamo, Brescia e la Valcamonica a Venezia. Nel 1435 anche Genova si sottrasse al dominio visconteo. Nel proseguo della guerra Filippo Maria tentò un accordo con il condottiero Francesco Sforza concedendogli in matrimonio l'unica sua figlia Bianca Maria. Quando Venezia entrò nel ducato Francesco Sforza si decise a correre in aiuto di Milano per contrastare l'eccessivo potere della Serenissima. Ritardi gli impedirono di giungere avanti la morte del Duca avvenuta improvvisamente il 13 agosto 1447.
Filippo Maria morì senza lasciare eredi legittimi e con lui si spense il domino visconteo su Milano.