山西大学不何不叫山大？
因为在中国历史上，曾经有过两座山大，而且都是非常著名的的学府之一。其中一所就是位于济南的山东大学，而另外一座也叫做“山东大学”则位于陕西西安，就是我们今天的“陕西师范大学”的前身。
隋唐时期在长安、洛阳两京设立了十二座中央官学，即“六学二馆”。两京国子监中，“六学”分别是“国子学”、“太学”、“四门学”、“书学”、“算学”和“律学”。国子学收五品以上官僚贵族的子弟，太学收五品以下的官僚子弟，四门学则收七品以下的子弟与庶人子。书、算、律三学的学生，可由以上三学或州、县学选取。
因为山东道是当时科举制度下进士及第人数最多的道，所以把“山东”冠在“六学”之“四门学”的称谓前，就成为“山东四门学”，简称“山东学”，这可以说是山大的前身。山东学与国子学、太学并称三学，足以与国子学、太学比肩，可见其影响力之大。
山东大学曾于唐代改名“崇文馆”，是与国子监平行的国家最高学府之一，与国子学、太学等级相同。唐天宝年间，“山东四门学”又更名“广文馆”；玄宗开元年间，山东四门学还与国子监一样，在外地均设有分馆和分院。
唐太宗还特地派太宗的第七子、燕王李忠亲自到山东学馆就学，以重儒学，劝励学生勤奋学习，以期“成国家之用”。这所山东大学，与我们今天所在的山西是“一山之隔”，在教育上也可谓“相互映照”。山西大学与之“平坐”，而称“山西大学”以示区别。
山西大学的前身山西大学堂与辛亥革命前的京师大学堂、北洋大学堂、山东大学堂、湖南大学堂、陕西大学堂等一样，都是以“XX大学堂”命名的。
1953年，为了与位于北京的“中央人民政府教育部”相区别将“山西省立教育厅”更名“山西省教育厅”。同时，为了与山东大学区别，将原名山西大学堂的山西大学更名为“山西师范学院”，而将原名山西大学校的山西师范学院更名为“山西大学”。
1959年，山西师范学院再次与山西大学合并成“山西大学”。至此，山西大学与山东大学、京师大学堂、北洋大学堂等一起成为中国近代最早的一批大学，也是山西大学称“山大”的直接由来。