清朝時期屬蘄水縣下鄉(xiāng)；民國時期屬第二區(qū)；1955年農業(yè)合作化時成立前進一社，屬大馬鄉(xiāng)；1958年人民公社化后定名大馬一大隊，屬蔡河區(qū)；1974年撤區(qū)并社后改名晶山大隊；1976年與大馬、紅畈兩大隊合并，名大馬大隊；1979年大馬、紅畈兩大隊分開，以境內山名古晶山定名古晶山大隊；1984年底恢復區(qū)、鄉(xiāng)、村建制，屬蔡河區(qū)大馬鄉(xiāng)，原名稱古晶山大隊變更為古晶山村民委員會；1988年撤區(qū)建鄉(xiāng)屬蔡河鎮(zhèn)；2001年合并鄉(xiāng)鎮(zhèn)屬蔡河鎮(zhèn)至今。