En 1887, el presidente Miguel Juárez Celman crea el Departamento Nacional de Minas y Geología, dentro del Ministerio de Agricultura de la Nación, y nombra al ingeniero inglés Henry Hoskold (1829-1904) como director de dicho Departamento. Hoskold, además, fue Comisionado especial de Minas y Metalurgia de la República y vocal del Jurado Internacional de las Exposiciones Internacionales de París en 1889 y de la Exposición Mundial de Chicago en 1893. Para ambas exposiciones tuvo la responsabilidad de organizar sendas colecciones líticas con muestras provenientes de varias partes del país.

Con estas colecciones, Hoskold dio inicio a la creación del Museo del Departamento Nacional de Minas y Geología. “Desde Mayo del año 1890 se ha prestado preferente atención al aumento de las muestras, y aunque no esté tan completo como debiera ser, es el más grande e importante museo de minerales en Buenos Aires” (Hoskold, 1891. p.26). Hoskold continuó su labor al frente del Departamento hasta su muerte en 1904.

En 1904, el presidente Manuel P. Quintana crea la Dirección de Minas, Geología e Hidrología, a cargo del ingeniero Enrique Hermitte (1871-1955) y bajo la órbita del Ministerio de Agricultura de la Nación. Hermitte continúa desarrollando el Museo que había iniciado Hoskold, pero ahora organizado en tres secciones: una primera, llamada “sección instructiva”, compuesta por minerales y rocas adecuadas para la enseñanza de los niveles de primaria y secundaria, formando “colecciones escolares”; una segunda sección dedicada a “minerales de aplicación”, y la tercera constituida por colecciones geológicas, mineralógicas y paleontológicas.

Con Hermitte, la Dirección de Minas y el Museo tuvo una acción permanente en la formación de las nuevas generaciones de geólogos y geólogas, en concordancia con la naciente carrera de geología en la Universidad de Buenos Aires.

La primera sede del Museo estuvo en la calle Maipú 1241 de la Ciudad de Buenos Aires hasta 1931, año en que el edificio tuvo que ser demolido, dando paso a las obras de expansión de la Plaza San Martín. La Dirección de Minas, Geología e Hidrología fue trasladada a la calle Perú 562, allí continuó funcionado el Museo, hasta que entre 1974 y 1975 la Institución, bajo la designación de Servicio Geológico Minero Nacional, fue trasladada a la avenida Santa Fe 1548, en el cual no hubo lugar para el Museo, y luego, fue transferida a la sede de la Secretaría de Industria en la avenida Julio A. Roca 651. En la planta baja de este edificio, la Institución (ahora con la denominación de Servicio Geológico Minero Argentino, 1996) pudo reactivar el Museo a partir del año 2004, e iniciar así una segunda etapa, caracterizada por una orientación pedagógica principalmente hacia el público escolar, con exposiciones temáticas, interactivas e itinerantes que recorrieron varias provincias del país, talleres y eventos, que buscaban vincular a la comunidad con la actividad minera nacional. En el 2018, una decisión administrativa deja sin espacio al Museo, hasta la actualidad. Durante esta segunda etapa, y hasta la fecha, la colección científica del Museo permanece a resguardo del SEGEMAR.