Urodził się w roku 335 w Cezarei Kapadockiej, dzisiaj Kayseri w Turcji. Pochodził z zamożnej i świętej rodziny. Dość powiedzieć, że cała jego rodzina jest czczona jako święci, począwszy od babki Makryny, jego rodzice, Bazyli i Emmelia oraz wszyscy z rodzeństwa, najstarsza siostra Makryna, starszy i młodszy brat Bazyli i Piotr.
Chrzest przyjął jako młodzieniec, zgodnie z ówczesną praktyką w Kościele. Wykształcenie zdobył w szkole prowadzonej przez starszego brata Bazylego, kiedy ten powrócił ze swoich studiów w Konstantynopolu i Atenach. Tak, jak ojciec, został nauczycielem retoryki i około roku 364 ożenił się z Teozebią. Nie mieli dzieci, a żona zmarła po kilku latach.
Postanowił poświecić się życiu ascetycznemu i wstąpił do klasztoru. Tam, za namową swego starszego brata Bazylego, przyjął święcenia kapłańskie. W 371 roku został mianowany biskupem Nyssy, obecnie Nevsehir w Turcji. Nie radził sobie z administrowaniem diecezją. Był zwolennikiem prawowierności i zwalczał heretyckie poglądy arian. Ten konflikt był zarzewiem oskarżenia Grzegorza o defraudację funduszy kościelnych i złożenie go z urzędu. Powrócił na stolicę biskupią po dwóch latach, po śmierci cesarza, który sprzyjał arianom. Wierni powitali go entuzjastycznie.
Walnie przyczynił się do zachowania prawowierności. Brał udział w synodzie antiocheńskim w 379 roku. W 380 wybrano go na biskupa Sebasty, dzisiaj Sivas w Turcji, ale był tam tylko kilka miesięcy. Po nim stolicę w Sebaście objął jego młodszy brat, Piotr. Czynnie włączył się w prace Soboru Konstantynopolitańskiego I w 381 roku. To on zaproponował na nim kształt twierdzenia o Bóstwie Ducha Świętego i przyczynił się do ostatecznego sformułowania powszechnego wyznania wiary.
Grzegorz sprawował wiele oficjalnych urzędów, powierzanych mu przez cesarza. Napisał wiele dzieł teologicznych. Wygłosił wiele homilii i mów pogrzebowych, między innymi na pogrzebie cesarzowej i jej córki.
Uczestniczył w synodzie konstantynopolitańskim w 394 roku. Zmarł prawdopodobnie w roku następnym. Miał około 60 lat.
W ikonografii św. Grzegorz ukazywany jest jako biskup rytu greckiego z ewangeliarzem w lewej ręce, a prawa jest uniesiona w geście błogosławieństwa.
Św. Grzegorz znany jest ze swoich nauk duchowych. Uprawiał teologię nie akademicka, ale jako wyraz życia duchowego, żywej wiary. Przypominał, że
„to nie niebo zostało uczynione na obraz Boży, nie księżyc, nie słońce, nie piękno gwiazd ani żadna z rzeczy pojawiających się w stworzeniu. Jedynie ty (duszo ludzka) zostałaś uczyniona na obraz natury przewyższającej wszelki rozum”.
Wiedział, że człowiek jest grzeszny i słaby. Sam doświadczał też małości innych. Ale mimo to wierzył w człowieka i jego możliwości nawrócenia i wiary. Wielokrotnie zachęcał:
„jeśli prowadząc życie sumienne i uważne zmyjesz brudy zalegające twoje serce, zajaśnieje w tobie boskie piękno… Patrząc na samego siebie, dostrzeżesz w sobie Tego, który jest pragnieniem twego serca, i będziesz szczęśliwy”.
Św. Grzegorz z Nyssy uczył, że celem człowieka jest oglądanie Boga, a pełnia człowieczeństwa to świętość. Tylko wtedy człowiek staje się ‘światłem dla świata’.