Samotná kapela vznikla v roce 1984, kdy se k bratřím Cavalerům připojili kytarista Jairo Guedez a basskytarista Paulo Jr. V roce 1985 vydala své první EP nazvané Bestial Devastations. Následující rok vyšlo první album kapely nazvané Morbid Visions. Po vydání Morbid Visions kapelu opustil Jairo Guedez a na jeho místo nastoupil Andreas Kisser. V roce 1987 vyšlo druhé album Sepultury pojmenované Schizophrenia, které bylo zlomem v historii skupiny. Všechna dosavadní alba vyšla u značky Cogumelo Records. Právě album Schizophrenia zapříčinilo to, že kapela podepsala smlouvu s Roadrunner Records.

Pod hlavičkou Roadrunner records vyšlo v roce 1989 album Beneath The Remains, které bylo následováno dlouhým evropským turné. V roce 1991 se z dílny Sepultury vynořilo album Arise, které vyšlo 4. dubna. Díky tomuto počinu se kapela stala jednou z nejvíce velebených skupin 90. let. Následující album pojmenované Chaos A.D. vyšlo v roce 1993 a bylo velkým hitem mezi fanoušky metalové hudby, navíc se na něm poprvé začal objevovat zvuk punku. Tento trend pokračoval i na následujícím albu Roots (vydáno 1996).

Od té doby ale začaly kapelu postihovat skoro jen samé starosti a problémy. První nepříjemná událost se stala v roce 1996, kdy před vystoupením na festivalu v Donningtonu Monsters of Rock kytarista a zpěvák skupiny Max Cavalera společně se svojí ženou a manažerkou Sepultury Glorií odjeli do Ameriky, kvůli smrti jejich syna při autonehodě. Kapela tedy vystoupila jako trio.

Rok 1996 se černě nezapsal jen do života Cavalerů, ale i do historie Sepultury. Ke konci roku 1996 kapelu opustil právě Max Cavalera a založil vlastní kapelu Soulfly.

Díru po Cavalerovi zacelil Američan Derrick Green. Společně s Greenem kapela v roce 1998 vydala album Against. Against bylo méně úspěšné, než dva jeho předchůdci. V tomto duchu se neslo i následující album Nation. Na těchto dvou albech se Sepultura začala vzdalovat thrash metalu. V roce 2002 vyšlo živé album Under A Pale Grey Sky, což je záznam posledního koncertu Maxe Cavalery se Sepulturou. Kapela toto album neuznává jako oficiálně vydané. V témž roce vyšlo i EP Revolusongs. V roce 2003 skupina vydala album Roorback, které přineslo spoustu pozitivů. Tímto albem se seskupení rozžehnalo s Roadrunner records a přešlo pod SPV Records. Pod hlavičkou SPV Records již vyšlo živé album Live in Sao Paulo.