中国科学院上海硅酸盐研究所定位为高技术研究与发展基地型研究所，是以基础性研究为先导、以高技术创新和应用发展研究为主体的无机非金属材料综合性研究机构。它渊源于1928年成立的前国立中央研究院工程研究所（简称工程所）。
1949年11月1日中国科学院（简称中科院）成立。 1950年6月20日，中科院副院长竺可桢在中科院第1次院务扩大会议上宣布中国科学院工学实验馆（简称工学馆）由原中央研究院工程研究所改建，主要工作围绕冶金、陶瓷、玻璃进行。工学馆设立有窑业组。 1953年1月，中科院办公厅通知，工学馆更名为中国科学院冶金陶瓷研究所（简称冶陶所）。 1958年，中科院金属研究所的耐火材料研究室划归冶陶所并入陶瓷研究室，其间还将上海三民玻璃厂划归冶陶所，作为陶瓷研究室下设的玻璃车间和所属陶瓷工厂（定名为红星工厂）。 1959年1月12日，国务院科学技术委员会批准成立中国科学院硅酸盐化学与工学研究所（简称硅酸盐所）。同时，冶陶所更名为中国科学院冶金研究所（简称冶金所）。 1960年3月10日，中科院上海分院召开冶陶所分所暨硅酸盐所成立大会。 1965年，中科院地质研究所矿物物理研究室并入硅酸盐所。 1970年10月，硅酸盐所更名为中国科学院上海硅酸盐化学与工学研究所。 1984年12月18日，中科院批复同意中国科学院上海硅酸盐化学与工学研究所更名为“中国科学院上海硅酸盐研究所”。
