A cári Oroszországban, Kletszk városában (ma Belarusz Köztársaság) látta meg a napvilágot egy szegény zsidó család hatodik gyermekeként. 1908-ban a család a növekvő antiszemitizmus miatt kivándorolt az Egyesült Államokba. 1916-ban végezte el a Brooklyn Boys High Schoolt, és a New York City College-ban folytatta tanulmányait. Az első világháború végén néhány hónapra katonának is besorozták. Leszerelése után a Cornell University Medical College-ban tanult tovább. Itt szerezte első immunológiai tapasztalatait: vércsoportja kicsapta egyik társának 0-s vércsoportú vérét, amiből azt a következtetést vonta le, hogy a 0-s vércsoportba tartozók mégsem univerzális donorok. 1923-ban már értekezést is közölt ebben a tárgyban. A diploma megszerzése után hároméves állami ösztöndíjat kapott allergiával kapcsolatos kutatásokra. A hiperérzékeny betegekben akkoriban felfedezett Prausnitz–Küstner-reakcióval foglalkozott, amiért 1925-ben Master of Arts fokozatot kapott. Még ugyanebben az évben a Rockefeller Intézetbe került, Karl Landsteiner laboratóriumába. Az osztrák biológust, orvost az emberi vércsoportok felfedezése (1901) miatt kapta szárnyára a világhír. Kísérleteik során emberből és főemlősökből származó vért injekcióztak nyulakba. Felfedezték az M-, N- és P-antigéneket, melyeket ma az MNS-nek és P-nek nevezett vércsoportrendszerhez sorolunk. Észrevették, hogy az M antigén előfordul csimpánzokban, de gibbonfélékben nem. 1929-re Landsteiner és Levine 22-féle vörösvértest-fenotípust tudott elkülöníteni az anti-A, -A1, -B, -M, -N, -P, és a később Mourant által azonosított anti-Lea antitestre adott reakciója alapján. Emberi vért injekcióztak csimpánzokba és nyulakba, három csimpánz egyikének vére kicsapódott, de a nyulaké nem. Így vonták le a következtetést, hogy a nyulak nem állítanak elő antigént az emberi vérrel szemben. 1932-ben elhagyta a Rockefeller Intézetet, és Landsteinernek megígérte, hogy felhagy a vércsoportok vizsgálatával. A Wisconsin Egyetemen bakteriofágokkal foglalkozott, a szalmonella baktériumnemzetség antitest-tulajdonságait vizsgálta. 1935-től szerológiával (a vérszérum és más testnedvek tudományos vizsgálata) foglalkozott a Beth Israel Kórházban. Több tudományos tanulmányt közölt a vérdonor megfelelő kiválasztásáról. Legfontosabb munkássága az újszülöttek hemolitikus betegségére (a vörös vérsejtek a szokásosnál gyorsabban pusztulnak el) irányult. 1937-ben Dr. Rufus Stetson egy asszony vérmintáját küldte el neki. Az asszony második terhessége halvaszüléssel végződött. Vérzés miatt a férjétől 500 ml vért kapott, és bár a vércsoportjuk az AB0-rendszer szerint megfelelő volt, a véradás súlyos következményekkel járt. A későbbi vizsgálatok kimutatták, hogy vére nemcsak a férje, hanem a legtöbb donor vérét kicsapja. Levine azt tapasztalta, hogy az asszony vére kicsapja a 0-ás vércsoportú donorok 80 százalékának vérét. Levine és Stetson végül arra következtetett egy 1939-ben közzétett tanulmányban, hogy a magzat az apától örökölte az összeférhetetlenséget. A Landsteinerrel együtt végzett kísérletben emberi vért injektáltak nyúlba, ami nem váltott ki antitest-termelődést. 1940-ben Landsteiner és Alexander Wiener egy tanulmányban azt írta, hogy ha rhesusmajom vérét injektálják nyúlba, akkor van kicsapódás. Ez az anti-Rh-nak nevezett antitest reagált az emberek 85 százalékának vérével. Amikor Levine és Wiener összehasonlította a nyúlvér és az 1937-es anya vérszérumának reakcióját, teljes azonosságot talált. Ebből Levine arra következtetett, hogy az anti-Rh okozza az újszülöttek hemolitikus betegségét, amikor az anya Rh−, az apa Rh+ vércsoportú. 1944-ben az Ortho Research Foundation laboratóriumot állított fel az emberi vér tanulmányozására. Levine folytatta az Rh-vércsoport és más vércsoportokhoz tartozó antigének tanulmányozását. 1965-ben ment nyugdíjba. Az általa létrehozott kutatóintézetet átnevezték Philip Levine Laboratories-ra. Emeritus (nyugalmazott) egyetemi tanárként 1985-ig tartott előadásokat. Élete utolsó két évét szanatóriumban töltötte súlyos szív- és érrendszeri betegséggel küszködve. 1987. október 18-án halt meg.