Son intérêt pour l'ésotérisme commence par l'astrologie, vers 1921. Entre 1937 et 1942 il publie un Traité d'astrologie ésotérique en trois volumes.
Le franc-maçon
Franc-maçon, il est initié le dans le temple de la porte d'Orléans à Paris, parrainé par le grand maître Constant Chevillon, dans la loge «La Jérusalem des vallées égyptiennes» et ensuite il est reçu compagnon et maître au cours d'une tenue clandestine au camp d'Epinal. Il dirige à son domicile les réunions de la loge «Alexandrie d'Égypte», au Rite de Memphis-Misraïm. Il reçoit de Georges Bogé de Lagrèze les hauts grades de ce rite, du 4e au 33e et les 55e, 66e, 90e et 95e[1]. En 1942 il réveille l'Ordre des Élus Coëns, dont il est le Souverain Grand Commandeur. L'Ordre Martiniste des Élus-Cohens, lié pendant un temps à l'Ordre de Papus dirigé par Philippe Encausse au sein de l'Union des ordres martinistes, va poursuivre son activité jusqu'en 1967.[réf.nécessaire]
C'est en 1942 que Georges Bogé de Lagrèze et Camille Savoire, tous deux membres du Grand Prieuré des Gaules du Rite écossais rectifié, auraient donné patente à Robert Ambelain, afin de créer l'Ordre Martiniste des Élus-Cohens et d' y intégrer les classes secrètes de Profès et Grand Profès. Cependant, un article de Pierre Noël consacré à «La Profession», publié dans le No168 de Renaissance traditionnelle en établit, documents à l'appui, y compris des textes inédits, la nature exacte de la double classe secrète du régime écossais rectifié et il précise en quoi la pseudo-grande profession composée par Robert Ambelain à partir d'un dépôt de Georges Lagrèze diffère radicalement de la grande profession telle que l'a conçue et instituée Jean-Baptiste Willermoz fondateur du rite et telle qu'elle s'est perpétuée en Suisse[2].
En 1946, il est consacré évêque dans l'Église gnostique universelle sous le nom de «Tau Robert», évêque gnostique de Samarie, par Roger Ménard («Tau Eon II»), qui à son tour avait été consacré par Victor Blanchard («Tau Targelius»). Fondateur en 1953 de l'Église gnostique apostolique, qui en 1956 se place sous les auspices d'Origène, qu'elle reconnaît comme Saint patron. En septembre 1958, Robert Ambelain en est élu patriarche, par le haut synode, sous le nom de «Tau Jean III» et, le , «Tau Charles» le consacre patriarche en lui conférant le pallium patriarcal légué par Mgr Giraud, qui avait consacré Jean Bricaud avant lui. C'est aussi le de cette année 1959 qu'il consacre Roger Deschamps («Tau Jean Rudiger») comme évêque de l'Église gnostique apostolique de Liège. Le , il hérite de Mgr Dupont (Charles-Henry Dupont, «Tau Charles-Henry») du patriarcat de l'Église gnostique universelle, qu'il fusionne avec sa propre communauté, l'Église gnostique apostolique [4]. Ambelain consacra au moins 10 évêques gnostiques au sein de son Église: dont Pedro Freire («Tau Pierre»), Primat du Brésil, André Mauer («Tau Andreas»), Primat de Franche-Comté et Roger Pommery («Tau Jean»), évêque titulaire de Macheronte. En 1969 Ambelain aura comme successeur à la tête de l'Église Gnostique Apostolique, André Mauer, à qui succédera Pedro Freire en 1970[5].
Lilith, le second satellite de la terre (Éphémérides de 1870 à 1937) Éléments d'astrologie scientifique, Paris, Courtrai, Niclaus, 1937 (avec J. Desmoulins).
«Préface» et «avant-propos» à André Barbault, Astrologie météorologique, suivie de Contribution à l'astrologie agricole, Paris, Niclaus, 1945.
Traité des interrogations célestes, t. 1, Paris, N. Bussière, 1964.
L’astrologie des interrogations, 1984.
Koré la dixième planète, 1991.
Retour à Samarkande. L'ancienne astrologie arabe, Paris, Laffont, 1993.
Retour à Alexandrie. L'astrologie mondiale des Anciens, 1994.
Ouvrages sur la franc-maçonnerie et le martinisme
La Franc-maçonnerie occultiste et mystique (1643-1943). Le Martinisme, histoire et doctrine, Paris, Niclaus, 1946.
Les Survivances initiatiques. Le martinisme contemporain et ses véritables origines, t. I, Paris, Destins, 1948.
Martinez de Pascuallis et le Martinisme, Meaux, 1959. Extrait de la revue L'Initiation, «cahiers de documentation ésotérique traditionnelle», 33eannée, no2, juillet-décembre 1959.
Scala philosophorum ou la Symbolique des outils dans l'art royal, Paris, 1965. Réédition 2011, Éditions Signatura, (ISBN9782915369236).
Note annexe à un article nécrologique sur André Bastien (en collaboration avec Philippe Encausse), Extrait de la revue L'Initiation no1, janvier-mars 1962, p.27
(éd.), Rite ancien et primitif de Memphis-Misraïm. Cérémonies et rituels de la maçonnerie symbolique, présentés et commentés par Robert Ambelain, Paris, N. Bussière, 1967.
Cérémonies et rituels de la maçonnerie symbolique, 1978.
La Franc-maçonnerie oubliée, 1985.
La Franc-maçonnerie d’autrefois, 1988.
Le Martinisme, histoire et doctrine, suivi de Le Martinisme contemporain, réedition Éditions Signatura, préface de Serge Caillet, 2011, (ISBN9782915369212).
Ouvrages d'ésotérisme
Dans l'ombre des cathédrales. Étude sur l'ésotérisme architectural et décoratif de Notre-Dame de Paris dans ses rapports avec le symbolisme hermétique, les doctrines secrètes, l'astrologie, la magie et l'alchimie, Paris, Éditions Adyar, 1939.
Au pied des menhirs. Essai sur le celtisme, Paris, Niclaus, 1945.
La Talismanie pratique, Paris, Niclaus, «L'occultisme simplifié», 1949.
Les Tarots: comment apprendre à les manier, Paris, Niclaus, «L'occultisme simplifié», 1950.
La Kabbale pratique. Introduction à l'étude de la Kabbale, mystique et pratique, et à la mise en action de ses traditions et de ses symboles, en vue de la théurgie, Paris, Niclaus, 1951.
Les Visions et les rêves: leur symbolisme prémonitoire, Paris, Niclaus, «L'occultisme simplifié», 1953.
Les Survivances initiatiques. Templiers et Rose-Croix. Documents pour servir à l'histoire de l'illuminisme, Paris, Éditions Adyar, 1955.
Le Dragon d'or. Rites et aspects occultes de la recherche des trésors, Paris, Niclaus, 1958.
La Magie sacrée d'Abramelin le mage, d'après le manuscrit de l'arsenal, transcrite, présentée, annotée et commentée par R. Ambelain, Paris, Niclaus, 1959. Édité par le Suprême conseil de l'Ordre Kabbalistique de la Rose-Croix.
La Notion gnostique du démiurge dans les Écritures et les traditions judéo-chrétiennes, Paris, Éditions Adyar, 1959.
L'Alchimie spirituelle, la voie intérieure, Paris, la Diffusion scientifique, 1961.
L'Abbé Julio (MgrJulien-Ernest Houssay, 1844-1912), sa vie, son œuvre, sa doctrine, Paris, la Diffusion scientifique, 1962.
Le Cristal magique ou la Magie de Jehan Trithème, abbé de Spanheim et de Wurtzbourg (1462-1516), Paris, Niclaus, 1962.
Sacramentaire du Rose-croix, sacralisations, exorcismes, formules de défense et d'action, Paris, la Diffusion scientifique, 1964.
Trilogie sur Jésus:
Jésus ou le Mortel secret des Templiers, Paris, Robert Laffont, «Les Énigmes de l'Univers», 1970.
La Vie secrète de Saint Paul, Paris, Robert Laffont, «Les Énigmes de l'Univers», 1972.
Les Lourds Secrets du Golgotha, Robert Laffont, «Les Énigmes de l'Univers», 1974.
Bérénice ou le Sortilège de Béryte (roman), Paris, Robert Laffont, 1976.
Le Vampirisme, de la légende au réel, Paris, Robert Laffont, «Les Portes de l'Étrange», 1977.