明洪武十三年(1380年),永嘉侯朱亮祖扩建广州城时,把北城墙扩展到越秀山上,同时在山上修筑了一座五层楼以壮观瞻。镇海楼历史上曾五毁五建,现建筑为钢筋混凝土结构,是1928年重修时由木构架改建成。1929年成为广州市市立博物馆。1950年改名广州博物馆,分朝代陈列广州城2000多年发展的文物史料。
镇海楼是广州标志性建筑之一,广东省级文物保护单位。全楼高25米,呈长方形,阔31米,深16米。下面两层围墙用红砂岩条石砌造,三层以上为砖墙,外墙逐层收减,有复檐5层,绿琉璃瓦覆盖,饰有石湾彩釉鳌鱼花脊,朱墙绿瓦,巍峨壮观,被誉为“岭南第一胜览”。镇海楼顶层正面高悬“镇海楼”横匾。镇海楼两侧对联:“千万劫,危楼尚存,问谁摘斗摩霄,目空今古;五百年,故侯安在,使我倚栏看剑,泪洒英雄!”。
镇海楼气宇非凡,古今曾以“镇海层楼”、“越秀远眺”和“越秀层楼”先后列为“羊城八景”之一。