O prédio que hoje abriga a Fundação José Sarney é o antigo Convento das Mercês, uma construção ainda do século XVII. O nome antigo deve-se ao fato de o prédio ter sediado a Ordem dos Mercedários, integrando um esplêndido conjunto arquitetônico.
A fundação José Sarney abriga os acervos (museológico, bibliográfico, textual e audiovisual). Documentos que foram classificados e arranjados a partir de 1985, quando da posse de José Sarney como presidente da República, todo o acervo passou a contar com a assistência de técnicos das principais instituições brasileiras que tratam de acervos documentais, para a realização de um trabalho de organização, preservação e guarda das informações.
Desde o início, manteve-se fiel aos seus objetivos iniciais, quais sejam promover a guarda, preservação, organização, pesquisa e divulgação de seus acervos documentais. Representa, sem dúvida, uma parceria com a cultura brasileira e com suas raízes, constituindo, portanto, um significativo centro de cultura do Norte do país, localizado bem no centro de São Luís. Constitui, hoje, um dos maiores do Estado do Maranhão e do Brasil, por se tratar de um acervo que trata da História do Brasil em tempos de transição democrática.