據史料記載，中國最早的閱兵發生在距今四千多年前夏朝建立的前夕。當時，中國北方的華夏部落首領夏禹為了向江南發展，曾在現今河南省嵩縣境內的涂山，與南方各部落首領會盟。在那次盛會上，士兵們手持各種用羽毛裝飾的兵器，和著樂曲載歌載舞。這不僅是一種祭天的儀式，同時還欣喜地表達了對遠道而來的南方各部落首領的熱烈歡迎。
到了春秋時期，閱兵活動開始頻繁起來。最初的閱兵是以打獵方式進行的。軍隊列好陣勢，最高統治者或長官在陣前先用弓箭射獵禽獸，然后檢閱部隊。當時，人們把這種活動叫作“搜”（意為春天里打獵）。以后，又發展為定期檢閱軍隊或戰車。檢閱步兵每年一次稱作“搜”，檢閱戰車三年一次稱作“大閱”，檢閱步兵和戰車五年一次稱作“大搜”。
閱兵這一名稱，準確地說是從漢代才被正式叫起來的。在漢代，定期的閱兵活動常與立秋之日的“祭獸”活動一起進行，其中還要增加一些打斗的內容。以后，各個建朝時間較長的朝代都有類似漢代定期或不定期的閱兵活動。
清代時，按清朝典制，皇帝每三年在南苑舉行一次大閱兵禮。據《大清會典》記載：“康熙二十四年，圣祖仁皇帝幸南苑大閱。擇南苑西紅門內曠地，八旗官兵槍炮按旗排為三隊。圣祖仁皇帝率皇子等擐甲，前張黃蓋，內大臣、侍衛、大學士及各部院大臣均扈從，后建大纛。圣祖仁皇帝周閱八旗兵陣。閱畢駕還行宮。特降敕諭，申明軍令，宣示于大閱之地。是日未閱前，官兵均賜食，閱后賜酒。”
清代宮廷畫家金昆等人奉命所繪的《八旗閱陣圖》里，對乾隆皇帝南苑大閱兵的盛況作了形象逼真的記載。八旗將士各著紅黃藍白等本旗閱兵禮服分陣排列，號角高揚，軍旗獵獵，一眼望不到盡頭，其場面極為壯觀，向世人展現了一幅場面宏大、威武雄壯的乾隆閱兵圖。清史檔案記載：“上(指乾隆皇帝)躬御甲胄，乘馬出，試射，連發七矢，皆中的。兵部堂官奏請閱陣，上親閱隊伍，兵部堂官前引，總理大臣、滿洲大學士、內大臣侍衛前引后扈，皆擐甲乘馬”。
《大閱圖》共分為“幸營”、“列陣”、“閱陣”和“行陣”四卷。真實描繪了乾隆帝親臨軍營檢閱的盛況。尤其是《閱陣》，圖中所畫人物不少于1.6萬人，每個人都面貌分明，衣著裝飾，車馬槍炮，儀仗旗鼓等均描繪精細，畫面用色艷麗鮮明，乾隆被繪于畫面的核心位置，穿盔帶甲，全副戎裝，騎于馬上，英姿勃發。
到了現代，閱兵活動開始在各國盛行。尤其是第二次世界大戰時的盟軍統帥如艾森豪威爾威爾、丘吉爾、戴高樂等，都非常重視閱兵。蘇聯領袖斯大林一向把閱兵作為鼓舞士氣的重要手段，一九四五年六月二十四日，蘇軍在莫斯科紅場舉行勝利大檢閱。此次閱兵，極大地提高了蘇聯的國際地位和影響力。
可以說，古往今來，無論國內還是國外，也無論人們的意識形態和民族傳統文化有何差異。大家對閱兵意義的認識幾乎是一樣的——那就是閱兵最能體現一個國家的國威、軍威和綜合國力，最能積聚軍心、民心。因而，閱兵始終是一個國家和民族最感榮光、最感振奮、最感驕傲、最感自豪、最為神圣的莊嚴的盛典。