解放前，小雷山村分屬大冶縣大茗鄉(xiāng)第六保和鄂城縣靈溪鄉(xiāng)萬年里石嶺堡；解放初分屬大冶縣第九區(qū)雷山鄉(xiāng)和鄂城縣毛家區(qū)九橋鄉(xiāng)。
1955年10月13日鄂城縣毛家區(qū)九橋鄉(xiāng)劃歸大冶，雷山鄉(xiāng)、九橋鄉(xiāng)分屬礦山區(qū)陳貴鄉(xiāng)和南山鄉(xiāng)；1962年分屬礦山區(qū)陳貴公社四、五大隊和南山公社八大隊；1975年分屬礦山公社礦山大隊和雷山大隊；1984年分屬礦山鄉(xiāng)禮洪村、下吳村和石嶺村；1989年分屬陳貴鎮(zhèn)禮洪村、下吳村和石嶺村；1999年合并更名為陳貴鎮(zhèn)小雷山村至今。