两人从此也缔结下了近30年的忘年深交，1940年蔡元培在香港逝世，王云五是朋友中唯一随侍病榻的送终者。
一天，蔡元培在报上看到《孔学商榷》一文，看后很是欣赏，一打听，写文章的这个叫胡玉缙的作者是清末学部的部员，蔡元培也邀请他到教育部工作。
蔡元培用人的另一个原则是“为事择人，不设冗员”。诺大的一个教育部，连誊写杂务在内只三十余人，不足其他部门的三分之一。
万事开头难，开头的事情也特别繁杂，如摸底各地的教育状况，有多少各级各类的学校，使用的教材情况。当时，教育部的各位同仁工作都特别紧张，有人说，“其工作气氛颇似书局之编译所，而绝少官衙习气”。
当时，部内除总长和次长外，统称筹备员，无官职和等级之分。每人每月薪俸，均为几十元，次长和总长也不例外，酷似黎元洪领导下的首义之后的湖北军政府。
中国古代至晚清，中式的传统教育主要发展出了以下几种形式：
(一)府学和县学。它们是为开科取士而设立的，是地方性的官学，属于教育、研究和行政的统一体，对于一个地方的教育发展起着指导作用。府学与县学由官府任命教授人员，教学内容专攻儒学。学生主要由学校供给膳食。
(二)书院。它是中国古代特有的教育组织形式，始于唐末五代，至宋代有较大的发展。它的教育目的、教学内容、教学方式和组织管理都有许多不同于府、县学的特点。学习方法以个人钻研为主，学习内容以经学为主，兼学古文、制艺，发展至后期，又兼学历史、舆地、说文、算术、金石。书院经费大都由创建者捐助，少数官办。书院与地方官学相比，规章制度、课程设置较周详，注重精研古学，经费来源主要依靠学田供给。书院掌教人选，大都是素孚众望的学者。
(三)社学和义学。它是元代发展起来的封建社会初等教育单位。至正九年(1349)，达鲁花赤八不沙建立社学一百三十余所。元代社学基本上为官办，明洪武八年(1375)诏府、州、县每五十家立社学一所。
(四)私塾和家塾。它们是历史悠久、设置普遍的初等教育单位，它在中国至1949年后才消亡。陈登原《国史旧闻》卷四十八举自晋至两宋的事例说明：“其一，弟子从师，是为私塾；其二，师从弟子，此则当为家塾。”
私塾大抵有四种类型：一是以官款或地方公款设立，收教贫寒子弟；二是由义庄或宗祠设立，专教一姓子弟；三是有一家或数家设塾，延师教其子弟；四是塾师自行设馆，招收附近学生。
它的教学内容从识字开始，主要教材是《三字经》《百家姓》《千字文》《幼学琼林》《千家诗》，以及《四书》《五经》《古文观止》等，目的是学习八股文，为科举考试做准备。
虽然中国的传统学校有如上的种种形式，但总的来说，中国传统的教育向来是以私人教育为主流的。自孔子开创此传统，因此他被尊称为“至圣先师”，中国的教育，主要都靠民间私人教育。