Он составил первый систематический библиографический каталог книг, хранившихся в Румянцевском музее. Особое значение Николай Федорович придавал книжной карточке-аннотации, которую, по его мнению, должен был составлять сам автор произведения, стремясь к достижению «идеальной полноты и вместе краткости», так, чтобы в случае гибели книги ее можно было бы в какой-то мере даже восстановить, руководствуясь карточкой как программой (поэтому по материалу он предлагал ее сделать трудной для разрушения). Федоров говорил о необходимости «создания общими усилиями цивилизованных народов всемирного систематического каталога».
В 1871 году Федоров познакомился с Толстым (об этом есть соответствующая запись в его дневнике). Толстой стал частым гостем Федорова в его служебном помещении. Однажды он попал в каморку, где жил философ, и был поражен аскетизмом его быта. Федоров не принимал толстовского отрицания науки и учения о непротивлении злу насилием; «общее дело» Федорова требует активного вмешательства знания в жизнь. Как только он не называл его: «величайшим лицемером нашего времени», представителем «опошлевшего иконоборства», «иностранцем, пишущим о России», «панегиристом смерти». Однажды, вспоминает Линниченко, «когда Толстой стал ссылаться на то, что уже раньше писал о вопросах, бывших предметом спора, Николай Федорович ответил ему: «Да ведь вы, Лев Николаевич, тогда были не только знаменитым писателем, но и неглупым человеком». Отношения между Федоровым и Толстым испортились окончательно в 1892 году, когда Толстой опубликовал за рубежом статью против русского правительства. Философ посчитал такой поступок непатриотичным и не подал графу руки.
15 сентября 1898 года директор Румянцевского музея Михаил Алексеевич Веневитинов подписывает прошение Николая Федоровича об отставке. Этому акту предшествовали почти полугодовые попытки отговорить шестидесятидевятилетнего Федорова от этого шага: его упрашивала дирекция, писали письма сотрудники и читатели. Попытки вернуть Николая Федоровича продолжались и после его окончательного ухода.
Официальной мотивировкой ухода было ухудшение здоровья, впрочем, вполне реальное, но внутреннее побуждение оставалось все то же отдать оставшиеся силы исключительно Делу.
Последние пять лет жизни Федорова чрезвычайно плодотворны: фактически все работы, входящие во второй (опубликованный) и третий (неопубликованный) том его трудов, написаны в это время. И главное — он предпринимает вторую после «Вопроса о братстве… «попытку целостного изложения своего учения: «Супраморализм, или Всеобщий синтез», основную часть которого составляют двенадцать пасхальных вопросов, двенадцать блистательных сгустков, микрокосмов его мысли, вобравших в свои глубочайшие формулы истины активного христианства. Это своеобразный образец нового «евангелия» такого христианства.
Федоров живет главным образом в Москве, летом перемещаясь в Сергиев Посад. В последние годы жизни он вынужден был вновь поступить на службу в архив Министерства иностранных дел — пенсия была так мала, что ее не хватало даже при мизерных потребностях Николая Федоровича.