Foi criado em 1934, a princípio era uma seção do Arquivo Público do Estado do Piauí e em 1980 foi instalado no sobrado do antigo palácio do governo do Piauí. Em 1999 recebeu a denominação Museu do Piauí "Odilon Nunes" em homenagem a esse historiador piauiense.
O edifício foi construído em 1859 como residência de um particular e posteriormente lá funcionou o Palácio do Governo e a sede do judiciário do estado. Foi restaurado através de convênio com a então secretaria de planejamento da Presidência da República, em 1980. Na ocasião o acervo do museu foi organizado pela Fundação Joaquim Nabuco e inaugurado como Museu do Piauí em 22 de dezembro de 1980, quando o Wilson de Andrade Brandão geria a secretaria da Cultura do Piauí.
Existe a Associação de Amigos do Museu do Piauí, entidade constituída por pessoas da sociedade, com afinidades voluntárias em prol da construção de ações que beneficiem o museu. A associação foi criada em 1981 por iniciativa de Mirian Portela, então primeira-dama do estado e da professora Lourdinha Brandão.