Grautoff besuchte das Progymnasium Dr. Bussenius und ebenfalls das Katharineum; über die gemeinsame Schulzeit hinaus war er mit Thomas Mann befreundet. Dessen Briefe an Grautoff (1894–1901)[2] sind heute eine wichtige Quelle zur Beurteilung der Entstehung der Buddenbrooks; Mann porträtierte ihn darin als „Kai“. Grautoff promovierte über die Jugendjahre Nicolas Poussins und markierte so für die Zukunft seinen Arbeitsschwerpunkt in den deutsch-französischen Kulturbeziehungen.
Verheiratet war Grautoff mit Erna, geborener Heinemann (1888–1949), ebenfalls Kunsthistorikerin, Romanautorin und Übersetzerin französischer und englischer Lyrik. Das Paar hatte drei Töchter, Barbara, Uta und Christiane. Die letztgeborene Christiane Grautoff (1917–1974), eine Schauspielerin und bereits als Kind ein Star auf der Bühne und im Film, heiratete am 20. Mai 1935 den Dramatiker und politischen Essayisten Ernst Toller (1893–1939). Der Journalist und Autor Ferdinand Grautoff (1871–1935) war Otto Grautoffs Bruder.
Grautoff war Hauptschriftführer der von ihm ins Leben gerufenen und in Berlin verlegten Monatsschrift „Deutsch-Französische Rundschau“, Schwesterzeitschrift der in Paris erschienenen Revue d'Allemagne, (Mitherausgeber neben Grautoff waren: Heinrich Eduard Jacob, Rudolf Meerwarth, Fritz Norden, Edgar Stern-Rubarth, Maurice Le Boucher, Edmond Jaloux, Henri Lichtenberger sowie Gottfried Salomon-Delatour). Die „Deutsch-Französische Rundschau“ erschien von Januar 1928 bis Juni 1933. 1928 gründete Grautoff die „Deutsch-Französische Gesellschaft“ (DFG) (damals noch unter dem Namen „Gesellschaft der deutsch-französischen Rundschau“) in Berlin. Grautoff musste 1933 aus Deutschland fliehen. Die verwaiste DFG wurde 1934 durch die Nazis verboten.
Grautoff starb 1937 in der Emigration in Paris an einem Herzschlag unmittelbar vor seiner Abreise nach New York.
Nicolas Poussins Jugendjahre. Dissertation, Bern 1914; unter dem Titel Nikolas Poussin: Sein Leben und sein Werk erschien das Werk ebenfalls 1914 im G. Müller Verlag, München & Leipzig.
Das moderne Plakat, 1898.
Die Entwicklung der modernen Buchkunst in Deutschland. Leipzig, Verlag H. Seemann, 1901.
Gemeinsam mit Wilhelm Waetzoldt, Maurice Barrès und Albert Bartholomé: Kunstverwaltung in Deutschland und Frankreich im Urteil … sowie nach französischen Kammerberichten und deutschen Dokumenten. Bern 1915.
Die Malerei im Barockzeitalter in Frankreich und Spanien. Band 2 der Barockmalerei in den romanischen Ländern. Potsdam 1928, Akademische Verlagsgesellschaft Athenaion m.b.H, Wildpark-Potsdam.
als Hg.: von der Marwitz, Bernhard: Eine Jugend in Dichtung und Briefen an G. von Seckendorff, J. von Winterfeldt und andere. Sibyllen-Verlag, Dresden 1924, mit 4 Abb. Götz von Seckendorff, Joachim von Winterfeldt-Menkin
Hans Manfred Bock (Hrsg.): Französische Kultur im Berlin der Weimarer Republik: Kultureller Austausch und diplomatische Beziehungen. Gunter Narr, Tübingen 2005, ISBN 3-8233-6181-3
dsb.: Transnationale Begegnung im Zeitalter des Nationalismus. Der Lebensweg Otto Grautoffs zwischen Deutschland und Frankreich, in Kulturelle Wegbereiter politischer Konfliktlösung. Mittler zwischen Deutschland und Frankreich in der ersten Hälfte des 20. Jahrhunderts.Narr, Tübingen 2005, ISBN 3-8233-6182-1 (in Auszügen online lesbar)
Roland Ray: Annäherung an Frankreich im Dienste Hitlers? Otto Abetz und die deutsche Frankreichpolitik 1930-1942. München 2000
Ulrike Wendland: Biographisches Handbuch deutschsprachiger Kunsthistoriker im Exil. Leben und Werk der unter dem Nationalsozialismus verfolgten und vertriebenen Wissenschaftler. Teil 1: A–K. Saur, München 1999, ISBN 3-598-11339-0, S. 239–342.
Henry Keazor: „Poussin et l´Allemagne“, in: Poussin, Watteau, Chardin, David...: Peintures françaises dans les collections allemandes. Ausstellungskatalog. Hg. Pierre Rosenberg, Paris 2005, S. 35–40 (ebenso in der deutschen Ausgabe des Katalogs als „Noch einmal: Poussin und Deutschland“)
Grautoff, Otto, in: Werner Röder; Herbert A. Strauss (Hrsg.): International Biographical Dictionary of Central European Emigrés 1933–1945. Band 2,1. München: Saur, 1983, S. 414
