Urodził się jako drugi syn spośród ośmiorga dzieci ubogiej wiejskiej rodziny. Tylko dwójka rodzeństwa założyła potem rodzinę, reszta oddała się na służbę Bogu. Przyszedł na świat we Francji, w roku 1802. Po ukończeniu szkoły podstawowej, pozostał w domu, pomagając rodzicom na roli, bo nie mieli pieniędzy na jego dalsze kształcenie.
Jego stryj był zakonnikiem, rektorem seminarium duchownego Misjonarzy św. Wincentego a Paulo, zwanych lazarystami. Idąc w ślady starszego brata Alojzego, Jan wstąpił także do tego seminarium w Montauban w roku 1819. Podjął potem studia filozoficzne i teologiczne w Paryżu. W 1825 roku przyjął święcenia kapłańskie.
Przez dwa lata był wykładowcą dogmatyki w wyższym seminarium w Saint-Flour, a potem przez pięć lat rektorem i ekonomem pensjonatu kościelnego w tym mieście. Przez następne trzy lata był wicedyrektorem nowicjatu w domu macierzystym w Saint Lazzaro.
Jan marzył o pracy misyjnej w Chinach. Wielokrotnie zwracał się do swoich przełożonych, aby pozwolili mu udać się na misje. Pozwolenie dostał dopiero w roku 1835. Na wiosnę tego roku udał się z Francji do Macao, w Chinach, gdzie przybył w sierpniu. Pozostał tam kilka miesięcy, żeby nauczyć się języka. Do pracy duszpasterskiej został wysłany do prowincji Honan. Pisał wtedy do swoich współbraci w Europie:
„Ufam, że Bóg raczy mnie zachować w mej wędrówce; jestem zdrowy i zadowolony; przekształcili mnie prawie na rzeczywistego Chińczyka; daj Boże, abyśmy wszystkich pozyskali dla Jezusa”.
Misja nie należała do łatwych. Spokojnie znosił niewygody, a nawet głód. Prowadził surowe i umartwione życie.
Po półtorej roku przeniesiono go do prowincji Hupeh. Tu doświadczył oschłości duchowych i zmagał się z wątpliwościami w wierze. Jan trafił na niespokojne czasy. Prześladowania katolików nieco zelżały, ale nadal trwały. Misjonarze musieli działać w ukryciu. Z powodu prześladowań wykruszała się wspólnota wiernych, którzy potrzebowali opieki duszpasterskiej, a pozyskiwanie nowych wyznawców było trudne i niebezpieczne. Jan działał gorliwie i roztropnie. Kiedy prześladowania się wzmagały, korzystał z gościnności katolików i w ukryciu prowadził swoją misję.
We wrześniu 1839 roku Chińczycy podjęli nową falę prześladowań. Jan się ukrywał, czekając aż burza przeminie. Został jednak wydany, gdyż wyznaczono za jego głowę znaczną nagrodę. Pojmano go i związanego zaprowadzono do miasta. Mężnie wyznawał wiarę, choć biczowano go i poddawano różnym torturom. Miał oddawać cześć chińskim świątkom, podeptać krzyż. Bito go trzciną po twarzy. Wypalano na czole bluźniercze słowa. Całymi godzinami klęczał na łańcuchach i skorupach, mając na plecach kłodę drzewa. W końcu 11 września 1840 roku, po prawie dwunastu miesiącach mąk, wykonano na nim wyrok śmierci przez uduszenie. Miał 38 lat.
W 1860 roku przewieziono jego szczątki do Paryża, do domu zakonnego lazarystów. Beatyfikował go Leon XIII, a kanonizował w roku 1996 Jan Paweł II. Św. Jan Gabriel Perboyre był pierwszym misjonarzem lazarystą, który poniósł śmierć męczeńską w Chinach i został wyniesiony na ołtarze. Umarł młodo, ale był człowiekiem spełnionym. Pracował w Państwie Środka tylko pięć lat, ale jego zaangażowanie i wierność, aż po krzyż, wydają owoc także dzisiaj.