宋真宗天禧四年（1020年），出生于关中长安（今西安）。名源于《周易•坤卦》：“厚德载物”。 从小聪颖，十岁时随外傅习读。

宋仁宗嘉祐二年（1057年）进士，历授崇文院校书、知太常礼院。后其弟监察御史张戬，因反对王安石变法遭贬，横渠遂辞官。归家后，专注于读书讲学，开创“关学”，名震一时。

宋神宗熙宁十年（1077年），经秦凤帅吕大防荐举，授知太常礼院。因与有司议礼不合，复以疾辞职。回郿县（今陕西省宝鸡市眉县）途中，冬十一月十八日病逝于临潼（今陕西省西安市临潼区），因贫穷而没钱置办丧礼，弟子们买了棺材，将灵柩抬回安葬。 元丰元年（1078年）三月，安葬在郿县横渠大振谷其父张迪墓南，与弟张戬墓左右相对。其妻郭氏家贫携子张因往依河南南阳（今河南省南阳市）娘家。张因成人后，在舅家娶妻生子。此后500多年，张载故里横渠没有了张载后人。

南宋嘉定十三年(1220年)，宋宁宗赐谥明；宋理宗淳祐元年(1241年)，封郿伯，从祀孔庙；明世宗嘉靖九年（1530年）改称先儒张子。