En 1890, se crea el Estado Mayor de Marina, en reemplazo de la Junta Superior de Marina. El Archivo General aparece como una sección de la División Administrativa, una de las cuatro divisiones (Personal, Material, Sanidad y Administrativa) que constituían aquel Estado Mayor.

En 1898, se instituye el Ministerio de Marina y el Archivo General pasa a ser una sección de la Dirección del Despacho General, una de las cinco Direcciones del Estado Mayor del Ministerio. Para ese entonces, el Archivo se localizaba en la Casa de Gobierno en Plaza de Mayo. En 1913, pasa a depender de la Secretaría del Ministerio de Marina, como Sección primero, y luego con el nivel de División.

El 19 de octubre de 1925, se aprueba el Reglamento Interno del Archivo General, estatuyendo sus funciones básicas: organización, depuración y consulta del archivo.

En 1928, se crea la Sección Archivo, Biblioteca y Museo Naval dependiente de la División Informaciones del Estado Mayor de la Armada, refundiéndose en dicha Sección al Archivo General.

En 1941 se distribuyen las jurisdicciones para certificar los servicios del personal en la Armada entre la Dirección General del Personal, los Destinos de los causantes, el Ministerio de Guerra y el Archivo General del Ministerio de Marina, estableciéndose que serían certificados por este último los servicios militares y civiles del personal que haya dejado de revistar en actividad en la institución.

El 1 de junio de 1948, el Archivo General del Ministerio de Marina pasa a depender del Servicio de Informaciones Navales.

Por estar congestionados sus depósitos en la Casa de Gobierno, el 27 de febrero de 1953 se realiza la mudanza del Archivo a su actual edificio.

El 1 de junio de 1969, el Archivo pasa a depender de la Secretaría General Naval con la denominación de “Archivo General de la Armada”, que es su situación actual.

Por otra parte, a fin de este año, se comienza a implementar la microfilmación del Archivo. Sin embargo, los documentos microfilmados no reúnen los requisitos para considerarlos con valor legal y, sumado a la falta de recursos humanos y materiales, en 1981 quedó suspendido el proceso de microfilmación.

Hacia 1984, el Estado Mayor de la Armada emprendió un estudio para evaluar la situación del Archivo General de la Armada y concluye que este Archivo se convirtió en un mero depósito donde, salvo el caso de los legajos de personal, se desconocía gran parte de la documentación. Además, determina que el edificio del Archivo estaba al límite de su capacidad.

En consecuencia, en 1984 se creó la División Documentación General con la incorporación de una persona especializada en la disciplina archivística a cargo de un equipo de personas. El objetivo de esta nueva División era determinar, por un lado, qué documentos eran de valor histórico y de guarda permanente y, por otro lado, cuáles podían proceder a eliminarse. Luego de la creación de esta División, hacia 1990 el Archivo había redujo la cantidad de documentación de 8 a 4 mil metros lineales aproximadamente.

Actualmente, se realizan trabajos para incrementar la capacidad de almacenamiento, como el traslado de oficinas a nuevas instalaciones y la mutación de ese espacio para la guarda de documentación.

Por otro lado, el Archivo General no tiene una relación orgánico-funcional con el Departamento de Estudios Históricos Navales, el cual funciona en la práctica como el archivo histórico de la Armada aunque no fue concebido como un Archivo propiamente dicho. Desde 2012, a partir del trabajo coordinado entre estos archivos y el Programa de Modernización del Sistema de Archivos del Área de la Defensa, se empieza a fomentar la articulación entre los mismos.