El Archivo Histórico Provincial de Álava se creó legalmente por el Decreto de 12 de noviembre de 1931, sobre régimen y denominación de los Archivos Históricos de Protocolos e Históricos Provinciales. Sin embargo, no fue hasta 1946, que el Ministerio de Instrucción Pública adecuara unos locales para el Archivo en el Instituto de enseñanza media “Ramiro de Maeztu” (hoy sede del Parlamento Vasco), en Vitoria, y creara una plaza de archivero .

En 1976 el archivo se traslada a la recién inaugurada Casa de Cultura, en el Paseo de la Florida, donde permaneció hasta 2004
compartiendo instalaciones con la Biblioteca Pública Provincial.

Desde 2004, el Archivo Histórico Provincial de Álava cuenta con un moderno edificio de nueva planta situado en el distrito universitario de Vitoria-Gasteiz. Por sus características constituye hoy uno de los equipamientos de archivo más moderno y de mayor capacidad del País Vasco.

En junio de 2011, el Archivo Histórico Provincial de Álava fue transferido al Gobierno Vasco, que desde entonces gestiona el centro a través del Departamento de Cultura y Política Lingüística.

Tras  la  unificación  del  “Archivo  del  Territorio  Histórico  de  Álava”  y  el  “Archivo Histórico  Provincial  de  Álava”, pasa a denominarse en 2021 Archivo de Álava, concentrando sus servicios en las instalaciones de la Avenida de la Zumaquera.