氷の斧の前身は、中世以来、アルプスの雪原や氷河の旅行のために羊飼いによって使用される鉄のスパイクの先端を持つ長い木製の棒であるalpenstockでした。 1786年8月8日、ジャック・バルマとミシェル＝ガブリエル・パカードがモンブランの初登頂を果たした。 シャモアハンターでクリスタルコレクターのバルマットは、高い山の旅行の経験を持っていたし、パカードはピークを登るために以前の試みをしていた。 イラストは、後に氷の斧にマージされる二つの別々のツールを運ぶバルマットを示しています–alpenstock（またはバトン）と氷の斜面にステップをチョップするために使
氷の斧の最も早い製造業者、Grivelに従って、これら二つの用具は1840年のまわりで最初の本当の氷の斧を作成するために併合されました。 初期の氷の軸は、従来の斧のように、刃先が軸の方向に整列した垂直のadzeを持っていました。 この設計は少なくとも1860年まで続きましたが、最終的にadzeはシャフトの方向に垂直な現在の位置に回転しました。 イタリアのアルパインクラブは1889年に”Fiorio e Ratti–the dangers of mountaineering and rules to avoid them”と題する本を出版し、氷の軸を”登山家の不可分の仲間”の中に推薦した。19世紀後半、典型的な氷の斧の軸の長さは120-130cm（47-51in）であった。 イギリスの登山家オスカー-エッケンシュタインは、85-86cm（33-34インチ）の軽量モデルで、より短い氷軸への傾向を始めた。 当初、この技術革新は、エッケンシュタインがメンバーであった1892年にK2近くのバルトロ地域への初期の遠征のリーダーであったアルパインクラブの著名なメンバーであるマーティン-コンウェイを含む、時代の有名な登山家によって批判された。
初期の氷の軸は、ほぼ等しい長さのピックとadzesを持っていました。 20世紀の初めまでに、ピックはadzeの約二倍の長さに延長されました。 クランポンの設計（1908年にエッケンシュタインによって開拓された）とアイスクライミング技術の改善は、世界大戦の間の期間に急な氷の登りに適した短くて軽い氷軸の使用につながった。
氷の斧を含む有名な救助は、1953年にK2への第三次アメリカのカラコラム遠征中に行われました。 登山家の一人、アート-ギルキーは血栓性静脈炎によって無力化された。 他の登山者は、寝袋に包まれたロープで彼を山に降ろそうとしました。 急な氷床を横切っている間、スリップはギルキーと他の五人の登山者が急な斜面を落ち始める原因となった。 登山家のピート・シェーニングは氷の斧を玉石と一緒にくさびで留め、ロープで縛られた登山者たちを助け、命を救った。 （ギルキーは、しかし、後で同じ降下で雪崩によって一掃されました。 彼の失われた死体の遺体は1993年に発見された。）ショーンのアイスアックスは現在、コロラド州ゴールデンのブラッドフォード-ウォッシュバーン-アメリカ登山博物館に展示されている。
1966年、Yvon Chouinardは氷軸の大幅な再設計を主導し、当初は消極的なメーカー Charletと協力して、劇的に湾曲したピックを持つ55センチメートル（22インチ）の氷軸を開発した。 シュイナールは、「斧のスイングの弧と互換性のある曲線は、ピックが氷の中でより良く置かれることを可能にするだろう。 私は私がそれに私の重量を置いたとき標準的な一突きが頻繁にぽんと鳴ることに気づいた。”シュイナールのアイデアは働いて、氷の斧のデザインの革新の期間を始めました。
1978年、Union Internationale des Associations d’Alpinisme（UIAA）の安全委員会は、ice axeの安全性と性能に関する正式な基準を確立しました。 これは金属の合金シャフトによって従来の木シャフトの取り替えをもたらした。 人間工学に基づいた湾曲したハンドルは、1986年に普及しました。 現代のアルミニウム合金の使用は、いくつかの氷軸の重量を劇的に減少させた。 現在市場に出回っているモデルの一つ、C.A.M.P.Corsaは、205g（7.2oz）のみの重さで、50センチメートルの長さ（20インチ）のシャフトを備えています。 ある専門家は、この軽量のアイスアックスを”低角度の氷河旅行に最適”と評価しましたが、より厳しい高山条件で”真のスチールマウンテンアックスの強固で安全な重さを切望していた”と述べました。