La colección de este museo comenzó a formarse en 1996, cuando se empiezan a reunir fondos procedentes de buques y dependencias de la Armada en Canarias. El museo se inauguró finalmente el 7 de marzo del 2002.

El Museo se sitúa en el Arsenal de Las Palmas. Tras seis años de obras en el muelle de Nuestra Señora del Pino, el Arsenal se abrió en 1949, así como los polvorines en el barranco de Guanarteme y los tanques de combustible en el puerto de Las Palmas.