Druga gimnazija u Zenici započela je s radom kao Učiteljska škola 1994. godine Odlukom o osnivanju škole za učitelje i odgajatelje broj: 010 -6-252 /04. od 27. 9.1994. Odluku je potpisao predsjedavajući Vijeća Općine Muhamed Bajramović.
Učiteljsku školu završile su tri generacije učenika, a posljednja je izašla školske 1999/2000. godine.
Odlukom Skupštine Zeničko-dobojskog kantona od 12. 03. 1997. godine, Škola je transformirana u Pedagošku gimnaziju s namjerom da se školuju učenici koji će svoje naklonosti i sposobnosti dalje razvijati na pedagoškim fakultetima.
Kasnije, pokazat će se, da su svršeni učenici Pedagoške gimnazije uspješno polagali prijemne ispite i na drugim fakultetima i završavali ih.
Dakle, od školske 1997/98. do školske 1999/2000. godine nastavni sadržaji su se realizirali na osnovu dva nastavna plana i programa: učiteljske škole i pedagoške gimnazije.
Od školske 2004/05. godine, učenici se upisuju u prvi razred Pedagoške gimnazije s obavezom da se nastavni sadržaji realiziraju kroz Okvirni nastavni plan i program reformirane gimnazije. U školskoj 2007/2008. godini završio se prvi četverogodišnji ciklus podučavanja učenika po NPP za opće srednje škole.
U školskoj 2007/2008. godini, po prvi put, realiziran je koncept polaganja završnog ispita-mature po Pravilniku o sadržaju, načinu i postupku polaganja mature u gimnaziji.
U svojoj kratkoj historiji, škola je imala potrebu mijenjati se i na taj način odgovoriti zahtjevima vremena i društvenih potreba. Promjene su praćene i određenim poteškoćama prije svega organizacione prirode, jer se u relativno kratkom vremenu škola trebala mijenjati i formalno i suštinski, ali je značajno da je škola, za sve vrijeme svoga postojanja, bez obzira na poteškoće objektivne i subjektivne naravi bila opredijeljena da udovolji zadacima i principima koje je pred nju postavljalo vrijeme kao pred odgojno-obrazovnu ustanovu.
Obzirom da je u školskoj 2006/07. godini iškolovana posljednja generacija učenika po NPP Pedagoške gimnazije, Školski odbor i menadžment Škole uputili su Inicijativu (15. 6. 2007.) Ministarstvu za obrazovanje, nauku, kulturu i sport za promjenom statusa i naziva Škole.
Školski odbor je 6.7.2007. godine donio Odluku o promjeni naziva Pedagoške gimnazije u Zenici u naziv Druga gimnazija u Zenici, a ministrica Ministarstva obrazovanja, nauke, kulture i sporta je, slijedom Odluke Vlade Zeničko-dobojskog kantona 9.4.2008. godine donijela rješenje kojim se JU Pedagoška gimnazija preimenuje u JU Druga gimnazija u Zenici.
Profesori i uprava naše škole predani su modernim pristupima obrazovanju i odgoju, te žele stvoriti poticajno okruženje koje potiče sreću i zadovoljstvo među učenicima i nastavnicima tijekom njihove zajedničke saradnje. Naša škola pruža raznolike oblike nastave i izvannastavnih aktivnosti usklađenih s našim nastavnim planom i programom.
Druga gimnazija se ponosi iznimnim talentima u sportskim, glumačkim i muzičkim disciplinama, te je iznjedrila uspješne poduzetnike, javne službenike i profesore.
Nastavljamo težiti prema budućnosti u kojoj će Druga gimnazija postati istaknuta odgojno-obrazovna ustanova, aktivno sudjelujući u svim relevantnim javnim društvenim, naučnim i kulturnim događanjima. Posebno težimo stvaranju imidža škole koju cijene mladi. Otvaramo vrata naše škole za sve nadarene, časne, predane i iskrene učenike koji će svojim trudom doprinijeti ostvarenju naših zajedničkih ciljeva.