En 1896, à la retraite, il se retire à Nevers aux côtés de son frère[2] et consacre son temps à l'histoire du Nivernais.
En 1911, Victor Gueneau et sa femme font donation à la Société académique du Nivernais d’une maison sise à Nevers, 11 bis rue Jean-Baptiste-Gresset. Cette maison devient alors le siège social de la Société[3], dont Victor Gueneau est le président de 1908 à 1919[4].
1890: Moulins-Engilbert, les églises et les établissements religieux, Issoudun.
1893: Cartulaire de la chartreuse de Basseville (Nièvre), Issoudun.
1899: Dictionnaire biographique des personnes nées en Nivernais ou revendiquées par le Nivernais, qui, par leurs travaux, leurs services, leurs mérites, leurs vertus ou leurs crimes, ont mérité de n'être pas oubliées, publication de la Société académique du Nivernais, Nevers.
1905: Les percepteurs de la Nièvre et leurs chefs: impôts anciens, impôts nouveaux, Imprimerie de la Tribune.
1905: Talleyrand et Valençay, Imprimerie de la Tribune.
1906-1917: Recherches sur les écoles et le collège de Nevers, Mémoires de la Société académique du Nivernais.
1925: Les rues de Nevers, Mémoires de la Société académique du Nivernais, tome 27.
