pierwowzorem topora lodowego był alpenstock, długi drewniany słup z żelazną końcówką, używany przez pasterzy do podróży po śnieżnych polach i lodowcach w Alpach od średniowiecza. 8 sierpnia 1786 roku Jacques Balmat i Michel-Gabriel Paccard dokonali pierwszego wejścia na Mont Blanc. Balmat, łowca kozic i kolekcjoner kryształów, miał doświadczenie w podróżach wysokogórskich, a Paccard podejmował wcześniejsze próby zdobycia szczytu. Ilustracje pokazują Balmat niosący dwa oddzielne narzędzia, które później zostały połączone w topór lodowy-alpenstock (lub Pałka) i mały topór, który może być używany do rąbania stopni na oblodzonych stokach.
według najwcześniejszego producenta toporów lodowych, Grivela, te dwa narzędzia zostały połączone, aby stworzyć pierwszy prawdziwy topór lodowy około 1840 roku. Wczesne Topory lodowe miały pionową adze, z krawędzią tnącą dostosowaną do kierunku wału, jak w konwencjonalnym toporze. Konstrukcja ta trwała co najmniej do 1860 roku, ale ostatecznie adze został obrócony do obecnego położenia, prostopadle do kierunku wału. Włoski klub alpejski wydał w 1889 roku książkę pt. Fiorio e Ratti – niebezpieczeństwa alpinizmu i zasady ich unikania, w której zalecał Topory lodowe jako „nierozłącznych towarzyszy alpinisty”.
pod koniec XIX wieku typowy trzon topora lodowego mierzył 120-130 cm długości. Brytyjski wspinacz Oscar Eckenstein rozpoczął trend w kierunku krótszych toporów lodowych z lżejszym modelem mierzącym 85-86 cm. Początkowo innowacja ta była krytykowana przez znanych wspinaczy epoki, w tym Martina Conwaya, wybitnego Członka Klubu Alpejskiego, który był liderem wczesnej wyprawy w region Baltoro w pobliżu K2 w 1892 roku, której Eckenstein był członkiem.
wczesne Topory lodowe miały kilofy i adziny o równej długości. Na początku XX wieku pick wydłużył się do około dwukrotności długości ADZ. Ulepszenia w konstrukcji crampon (pionierskiej przez Eckensteina w 1908) i technice wspinaczki lodowej doprowadziły do zastosowania krótszych, lżejszych toporów lodowych odpowiednich do bardziej stromych wspinaczek lodowych w okresie międzywojennym.
słynna akcja ratunkowa z użyciem topora lodowego miała miejsce podczas trzeciej amerykańskiej wyprawy Karakorum na K2 w 1953 roku. Jeden z wspinaczy, Art Gilkey, został obezwładniony przez zakrzepowe zapalenie żył. Inni wspinacze próbowali go uratować, opuszczając go w dół góry sznurem, owiniętym w śpiwór. Podczas pokonywania stromej pokrywy lodowej, poślizg spowodował, że Gilkey i pięciu innych wspinaczy zaczęło spadać ze stromego zbocza. Wspinacz Pete Schoening zaklinował swój topór lodowy obok głazu i zdołał osadzić uwięzionych wspinaczy, ratując im życie. (Gilkey jednak później w tym samym zejściu został zmiatany przez lawinę. Szczątki jego zaginionych zwłok odkryto w 1993 roku.) Topór lodowy schoeninga jest obecnie wystawiany w Bradford Washburn American Mountaineering Museum w Golden w stanie Kolorado.
w 1966 roku Yvon Chouinard przeprowadził znaczącą przebudowę toporów do lodu, współpracując z początkowo niechętnym producentem Charletem nad opracowaniem 55-centymetrowego topora do lodu z dramatycznie zakrzywionym szpikulcem. Chouinard uważał, że ” krzywa zgodna z łukiem kołysania topora pozwoliłaby szpikulcowi lepiej pozostać w lodzie. Zauważyłem, że standardowy wybór często wyskakuje, gdy umieszczam na nim swoją wagę.”Pomysł chouinarda zadziałał i rozpoczął okres innowacji w projektowaniu ice axe.
w 1978 r.Komisja ds. bezpieczeństwa Union Internationale des Associations d ’ alpinisme (UIAA) ustanowiła formalne standardy bezpieczeństwa i wydajności siekier lodowych. Doprowadziło to do zastąpienia tradycyjnego drewnianego wału wałami ze stopów metali. Ergonomicznie zakrzywione uchwyty stały się powszechne w 1986 roku. Zastosowanie nowoczesnych stopów aluminium doprowadziło do dramatycznego zmniejszenia ciężaru niektórych toporów lodowych. Model C. A. M. P. Corsa waży zaledwie 205 g (7,2 Uncji) z 50-centymetrowym wałkiem o długości 20 cali. Jeden z ekspertów ocenił ten lekki topór lodowy jako” idealny do podróży po lodowcu pod niskim kątem”, ale powiedział, że” pragnął solidnego i bezpiecznego heft prawdziwego stalowego topora górskiego ” w bardziej wymagających, stromych warunkach alpejskich.