Hij was aartsbisschop van Florence en werd in dec. 1058 door hervormingsgezinde kardinalen onder leiding van Hildebrand (de latere Gregorius VII) gekozen. Op de Lateraanse synode van april 1059 liet hij het decreet ‘In nomin’ over de pauskeuze uitvaardigen: alleen de kardinaal-bisschoppen hadden voortaan kiesrecht; clerus en volk behielden slechts het recht van acclamatie, de koning het recht van consensus. Op de synoden van 1060 en 1061 werden strenge maatregelen uitgevaardigd tegen simonie, eigenkerkenrecht en priesterhuwelijk. Zeer verzoenend trad Nicolaas Op tegen de Noormannen in Zuid-Italië. die hij in aug. 1059 tot bondgenoten wist te maken.