când Marcus Garvey a sosit în Harlem căutând adepți pentru mișcarea sa, Randolph a devenit unul dintre cei mai puternici susținători ai săi. În primăvara anului 1917, Randolph, care la acea vreme era un respectat orator Harlem soapbox, l-a prezentat pe Garvey unui public Harlem și i-a cerut să-l asculte pe tânărul din Jamaica care era „unul dintre luptătorii negri militanți pentru justiție socială și rasială.,”Randolph a fost deosebit de impresionat de capacitatea lui Garvey de a ajunge la mase de oameni cu vocea sa de vorbire Fermecatoare.până în 1920, însă, Randolph și alți lideri negri influenți începuseră să pună la îndoială motivele lui Garvey și fezabilitatea generală a mișcării Garvey, iar mesagerul a început să critice în mod public mișcarea. Opoziția lui Randolph, Owen și alții a escaladat în cele din urmă în campania „Garvey trebuie să meargă”, solicitând intervenția federală și deportarea lui Garvey., Randolph pus la îndoială în mod specific plauzibilitatea unei linii de transport maritim negru și crearea unui imperiu Universal Negro îmbunătățirea Asociației controlate în Africa.Randolph a continuat să fie un avocat deschis pentru egalitate, și a avut un rol de lider în eforturile de a remedia discriminarea în ocuparea forței de muncă și forțele armate. În 1941 a condus un marș de 10.000 de persoane la Washington pentru a demonstra împotriva condițiilor de muncă nedrepte și a discriminării în industriile de apărare. Conducerea lui Randolph a fost critică pentru sfârșitul segregării în forțele armate.cu Rev. Martin Luther King, Jr.,, Randolph a fost unul dintre principalii organizatori ai istoricului marș 1963 de la Washington, care a adus peste 200,000 de oameni la Washington pentru a protesta împotriva segregării și a lipsei de drepturi. El a primit Medalia Prezidențială a libertății pentru munca sa de-a lungul vieții pentru drepturile civile universale.A. Philip Randolph a murit pe 16 mai 1979, în New York.