Nel gennaio del 250 d.C. Decio, da pochi mesi diventato imperatore romano e fermamente convinto che la religione cristiana rappresentasse un grave pericolo per lo stato, pubblicò un editto che imponeva a tutti i sudditi di offrire un sacrificio agli dèi al fine di provare l'adesione alla religione romana. L'offerta sacrificale doveva essere compiuta davanti a una commissione che rilasciava una sorta di attestazione, definita libellus, che metteva al riparo il detentore dalle pene (confisca dei beni, tortura e martirio) previste per i cristiani.

Molti cristiani, soprattutto nelle province d'Africa, riuscirono a mettersi al sicuro ottenendo il libellum senza sacrificare agli dèi romani, ma semplicemente acquistandolo in qualche modo, e magari continuando a praticare la loro religione in segreto. Furono definiti libellatici e molti di loro, una volta passato il pericolo (Decio morì nel 251 e i suoi successori si dimostrarono più tolleranti), chiesero di essere riammessi in seno alla Chiesa. L'abiura e l'idolatria però, secondo le posizioni espresse qualche decennio prima anche da Tertulliano, erano considerati all'epoca peccati imperdonabili, e i più intransigenti dei vescovi e presbiteri si schierarono contro la loro riammissione all'interno della comunità dei fedeli.

La discussione fu tanto accesa da arrivare a provocare anche uno scisma e la proclamazione di un antipapa, Novaziano, che contava sull'appoggio della maggior parte delle comunità cristiane orientali. In Africa e a Roma invece le posizioni erano più sfumate, ma esisteva tuttavia un certo contrasto sulle modalità di riammissione. Ci si chiedeva in sostanza se si dovesse accettare e perdonare con la semplice imposizioni delle mani il libellaticus che intendeva tornare all'ovile, oppure se fosse necessario impartire un nuovo battesimo. Altro tema di discussione riguardava il riconoscimento dei battesimi eventualmente impartiti da quei componenti del clero che pur annoverandosi tra i libellatici avevano continuato ad esercitare il culto in clandestinità.

L'asprezza dello scontro tra Cipriano, vescovo di Cartagine, e il papa Stefano I raggiunse livelli tali da far temere un nuovo scisma, e come se ciò non bastasse nel 257 l'imperatore Valeriano, preoccupato di trovare un nemico interno che distogliesse l'attenzione dai suoi insuccessi militari in Persia, avviò un nuovo periodo di persecuzioni contro i cristiani. In questo quadro, dopo il martirio di Stefano I, il 30 agosto del 257 fu eletto papa Sisto II.

Della sua vita prima di assurgere al Soglio di Pietro si sa solo che era greco, anche se questa informazione ricavata dal Liber Pontificalis è oggi messa in dubbio dagli storici. Definito da Ponzio, biografo di Cipriano, bonus et pacificus sacerdos nel capitolo XIV della Vita Cypriani, fu più conciliante del suo predecessore, e sicuramente più diplomatico, visto che riuscì a chiudere la controversia con Cipriano e a riportare la pace all'interno del mondo cristiano senza tuttavia fare grosse concessioni.

Anche dall'imperatore Valeriano riuscì ad ottenere, almeno momentaneamente, una certa libertà di manovra che gli consentì di esercitare in relativa tranquillità per qualche mese il suo ministero. Ma dopo l'emissione, nel 258, di un secondo editto di persecuzione contro i cristiani anche il suo breve papato terminò col martirio.

La notte del 6 agosto (meno di un anno dopo la sua elezione i soldati imperiali fecero irruzione del cimitero di Pretestato, sulla via Appia, e catturarono Sisto e sei dei suoi diaconi. E' incerto se i sette siano stati giustiziati immediatamente, o se prima siano stati condotti davanti ad un tribunale e ricondotti il giorno successivo nel luogo di cattura per essere ivi decapitati. La Chiesa Cattolica ne fissa la celebrazione, unitamente a quella dei sei diaconi Felicissimo. Agapito, Gennaro, Magno, Vincenzo e Stefano, al 7 agosto.

Contrariamente a quanto molti credono, san Sisto non è (e non è mai stato) patrono di Pisa: le celebrazioni tenute in quella città in occasione del 6 giugno si riferiscono alla presa di Palermo (6 giugno del 1063), in seguito alla quale si iniziarono i lavori della nuova cattedrale, primo nucleo di quella che diverrà la celeberrima Piazza dei Miracoli, e per quella vittoria militare i cronisti dell'epoca sono concordi nel rendere merito alla protezione di uno dei sei diaconi, sant'Agapito.

San Sisto è invece patrono di numerosi paesi italiani, tra i quali Manerbio, Verolanuova, Pomezzana e Caldonazzo.