Urodził się w 1515 roku we Florencji. Był drugim z czwórki dzieci Franciszka i Lukrecji Mosciano. Matka zmarła po urodzeniu czwartego dziecka. Szybko umarł też jego starszy brat. Ojciec powtórnie się ożenił.
Pierwsze nauki Filip pobierał zapewne u swego ojca. Później uczęszczał do szkoły św. Jerzego. Formację duchową dawali mu florenccy dominikanie. Filip przez całe życie był pod wrażeniem Girolamo Savonaroli. Później formował się pod okiem benedyktynów z Monte Cassino. Mieszkał wtedy u swego stryja w Cassino, pomagając mu w kupiectwie. Nie zasmakował w handlu, ale wcielił w życie dewizę benedyktyńską, aby ‘nic nie przedkładać ponad miłość do Chrystusa’.
Filip opuścił stryja, udał się na krótko do Gaety, a potem do Rzymu. Miał wtedy niespełna 20 lat. Nie miał sprecyzowanych planów, co miałby robić dalej.
W Rzymie zamieszkał u florentczyka Galeotta Caccia i był wychowawcą jego dwóch synów. Rozpoczął studia filozoficzne i teologiczne. Dużo się modlił i umartwiał. Nawiedzał kościoły i sanktuaria Rzymu. Lubił nawiedzać katakumby. W 1544 roku w katakumbach św. Sebastiana przeżył ekstatyczny zachwyt i tak realnie doświadczył działania Ducha Świętego, że jego serce rozgorzało niejako płomieniem, który palił się w nim do końca życia.
Cztery lata później Filip założył „Bractwo Trójcy Świętej”, aby otoczyć opieką pielgrzymów i chorych, którzy potrzebowali pomocy duchowej, ale i nierzadko materialnej. Z tego powodu zyskał przydomek „Apostoła Rzymu”.
Po odbyciu studiów i za namową spowiednika przyjął w 1551 roku święcenia kapłańskie. Zamieszkał w niewielkim pokoju w konwikcie św. Hieronima della Carita’. Tu zaczął gromadzić kapłanów, zakonników, mieszczan, kupców i artystów. Modlili się wspólnie, spotykali i rozmawiali. Mieli też czas na spowiedź i rozmowy duchowe. Filip organizował konferencje i dyskusje na aktualne i ważne tematy. Mieli też rekolekcje. Spotkania w tym oratorium, jak je nazwali, były otwarte dla wszystkich. Filip lubił muzykę, organizował koncerty, a w nabożeństwach śpiewano pieśni w układzie dialogicznym. Tak powstała szczególna forma muzyczna, słowno-wokalno-instrumentalna, dzisiaj bardzo popularna, zwana oratorium, od nazwy miejsca, gdzie były pierwsze jej wykonania. Do oratorium przychodziła cała elita duchowa Rzymu.
Z czasem, w ramach oratorium, pojawiła się grupa ludzi, którzy chcieli być bliżej Chrystusa. Filip zachęcał ich do zjednoczenia z Bogiem, do życia wiarą, praktykowania cnót chrześcijańskich i uczynków miłosierdzia. W roku 1564 Filip otrzymał w zarząd kościół pod wezwaniem św. Jana. Tam zamieszkali ci, którzy chcieli naśladować styl życia Filipa. Nazywano ich oratorianami lub filipinami. Żyli wspólnie, choć nie byli związani żadnymi ślubami. Za datę powstania filipinów uważa się rok 1565. Papież Grzegorz XIII zatwierdził ich dziesięć lat później, choć regułę Filip spisał dopiero w 1583 roku.
Filip Neri doradzał papieżom i był kierownikiem duchowym wielu dostojników kościelnych. Był pogodnym i wesołym świętym.
Zmarł 26 maja 1595 roku. Beatyfikował go Paweł V, a kanonizował w 1622 roku Grzegorz XV. W ikonografii ukazywany jest jako brodaty ksiądz w sutannie. Jego atrybutem jest lilia, serce i księga.