jääkirveen edeltäjä oli alpenstock, rautaisella piikkikärjellä varustettu pitkä puupaalu, jota paimenet käyttivät kulkiessaan Alpeilla lumikentillä ja jäätiköillä keskiajalta lähtien. 8. elokuuta 1786 Jacques Balmat ja Michel-Gabriel Paccard tekivät Mont Blancin ensimmäisen nousun. Säämiskämetsästäjä ja kristallien keräilijä balmatilla oli kokemusta korkeasta vuoristomatkailusta, ja Paccard oli tehnyt aiemminkin yrityksiä kiivetä huipulle. Kuvissa Balmat kantaa kahta erillistä välinettä, jotka myöhemmin yhdistettäisiin jääkirveeseen: alpenstockia (tai pamppua) ja pientä kirvestä, jolla voitaisiin pilkkoa askeleita jäisillä rinteillä.
varhaisimman jääkirveiden valmistajan Grivelin mukaan nämä kaksi työkalua yhdistettiin ensimmäisen varsinaisen jääkirveen luomiseksi vuoden 1840 tienoilla. Varhaisissa jääkirveissä oli pystysuora adze, jonka kärki oli linjassa akselin suunnan kanssa, kuten perinteisessä kirveessä. Tämä suunnitelma kesti ainakin vuoteen 1860, mutta lopulta adze pyöritettiin nykyiseen asentoon, kohtisuoraan akselin suuntaan. Italian Alppikerho julkaisi vuonna 1889 kirjan ”Fiorio e Ratti – vuorikiipeilyn vaarat ja säännöt niiden välttämiseksi”, jossa suositeltiin jääkirveitä ”vuorikiipeilijän erottamattomien seuralaisten joukkoon”.
1800-luvun lopulla tyypillinen jääkirveen varsi oli pituudeltaan 120-130 cm (47-51 in). Brittiläinen kiipeilijä Oscar Eckenstein aloitti trendin kohti lyhyempiä jääakseleita kevyemmällä mallilla, jonka mitat olivat 85-86 cm (33-34 tuumaa). Aluksi tätä innovaatiota kritisoivat aikakauden tunnetut kiipeilijät, kuten Alppikerhon merkittävä jäsen Martin Conway, joka johti vuonna 1892 Baltoron alueelle K2: n lähelle suuntautunutta varhaista retkikuntaa, jonka jäsen Eckenstein oli.
varhaisissa jääkirveissä oli suunnilleen yhtä pitkiä hakuja ja adzeja. 1900-luvun alkuun mennessä plektra piteni noin kaksi kertaa adzen pituiseksi. Parannukset cramponin muotoilussa (eckensteinin uranuurtaja 1908) ja jääkiipeilytekniikassa johtivat lyhyempien, kevyempien jääkirveiden käyttöön jyrkempiin jääkiipeilyihin maailmansotien välisenä aikana.
kuuluisa jääkirveeseen liittyvä pelastusoperaatio tapahtui Yhdysvaltain kolmannen Karakoramin retken aikana K2: lle vuonna 1953. Yksi kiipeilijöistä, Art Gilkey, vammautui tromboflebiitin vuoksi. Muut kiipeilijät yrittivät pelastaa hänet laskemalla hänet alas vuorelta köydellä makuupussiin käärittynä. Ollessaan ylittämässä jyrkkää jäätikköä luisu sai Gilkeyn ja viisi muuta kiipeilijää aloittamaan putoamisen jyrkkää rinnettä alas. Kiipeilijä Pete Schoening kiilasi jääkirveensä kivenlohkareen viereen ja onnistui pysäyttämään köytetyt kiipeilijät pelastaen heidän henkensä. (Gilkey kuitenkin joutui myöhemmin samassa laskussa lumivyöryn alle. Hänen kadonneen ruumiinsa jäänteet löydettiin vuonna 1993.) Schoeningin jääkirves on nykyään näytteillä Bradford Washburn American Mountaineering Museumissa Goldenissa, Coloradossa.
vuonna 1966 Yvon Chouinard johti merkittävää jääkirveiden uudelleensuunnittelua, työskennellen aluksi vastahakoisen valmistajan Charletin kanssa kehittääkseen 55 senttimetriä pitkän (22 tuumaa) jääkirveen, jossa oli dramaattisesti kaareva plektra. Chouinard uskoi, että ” kirveen lyönnin kaaren kanssa yhteensopiva käyrä antaisi plektran pysyä paremmin jäässä. Olin huomannut, että tavallinen plektra ponnahti usein esiin, kun laitoin painoni sen päälle.”Chouinardin idea toimi ja aloitti innovaatiokauden jääkirveiden suunnittelussa.
vuonna 1978 Union Internationale des Associations d ’ alpinisme (UIAA) – järjestön turvallisuuskomissio vahvisti viralliset standardit jääkirveiden turvallisuudelle ja suorituskyvylle. Tämä johti perinteisen puuakselin korvaamiseen metalliseosakseleilla. Ergonomisesti kaarevat kahvat yleistyivät vuonna 1986. Nykyaikaisten alumiiniseosten käyttö on johtanut joidenkin jääakselien painon dramaattiseen vähenemiseen. Yksi nyt markkinoilla oleva malli, C. A. M. P. Corsa, painaa vain 205 g (7,2 oz), jossa on 50 senttimetriä pitkä (20 tuumaa) akseli. Eräs asiantuntija piti tätä kevyttä jääkirvestä ”ihanteellisena matalakulmaisen jäätikön kulkemiseen”, mutta hän sanoi” kaipaavansa todellisen teräsvuorikirveen lujuutta ja varmuutta ” vaativammissa jyrkissä alppiolosuhteissa.