Сергей Леонидович Рубинштейн родился 18 июня 1889 г. в Одессе, в семье адвоката. В 1908 г. он окончил Ришельевскую гимназию с золотой медалью. Высшее образование он решил получать в Европе, куда и отправился сразу по окончании гимназии. Сначала Рубинштейн поступил во Фрайбургский университет, но через 2 семестра уехал в Марбург, где продолжил обучение.
Он окончил факультет философии Марбургского университета в 1914 г., тогда же вышла его первая крупная статья «К проблеме метода», первая часть которой стала его докторской диссертацией.
Начавшаяся Первая мировая война вынудила С.Л. Рубинштейна вернуться в Одессу, и с 1917 г. он работал преподавателем в гимназии. В том же году Сергей Леонидович прочитал доклад «Философская система Когена» в философском обществе при Новороссийском университете.
В апреле 1919 г. историко-философский факультет Новороссийского университета избрал Рубинштейна приват-доцентом по кафедре философии, причем произошло это во мноюм благодаря отзыву, сделанному Н.Н. Ланге. В университете С.Л. Рубинштейн читает психологию, логику, историю философии, а с декабря 1919 г. — еще и курс «Введение в философию».
После смерти Ланге С.Л Рубинштейн подал в конкурсную комиссию Одесского института народного образования заявление на замещение вакантной должности, и в 1921 г. он был избран профессором кафедры психологии ИНО. Первая статья, которую выпустил С.Л Рубинштейн, пребывая в новой должности, была посвящена памяти Ланге и называлась «Принцип творческой самодеятельности». В ней он изложил свои основные положения и принципы, подверг критическому анализу конфликт между объективностью и конструктивностью знания, вытекающий из идеалистических концепций. По мнению автора, объективное бытие включает в себя элемент творческой конструктивности.
В 1922 г. он сформулировал принцип единства сознания и деятельности. Этот принцип является основой не только в психологии, но и в педагогике. По мнению С.Л. Рубинштейна, субъект в своих действиях, в актах своей творческой самодеятельности не только проявляется, но и созидается и определяется. Данный метод подразумевает существенную роль деятельности в формировании человека и его психики. В дальнейшем ученый неоднократно подчеркивал важность этого принципа для педагогической практики.
В течение следующих лет С.Л. Рубинштейн предпринял несколько командировок в Харьков. Во время одной из них он принял участие в съезде научных работников Украины. Занимая с 1925 г. должность директора Одесской научной библиотеки, он активно участвовал в развитии библиотечного дела в России. Будучи в командировке в Москве, он готовил доклад к всероссийскому библиографическому съезду. Также ученый принимал участие в съезде библиотекарей в Ленинграде, а в апреле 1927 г. — в заседании пленума всеукраинского библиотечного бюро в Киеве.
С середины 1928 г. ученый стал внештатным профессором Института народного образования. Этот период был удачным и для его научной деятельности. В Одессе С.Л. Рубинштейн выпустил ряд статей, в том числе «Развитие мышления у подростков».
В 1930 г. С.Л. Рубинштейн переехал в Ленинград, где возглавил кафедру психологии Ленинградского педагогического института. Работая в Ленинграде, он издал в 1935 г. книгу «Педагогика и психология», в которой он изложил свою идею о сотрудничестве учителя с учащимися.