Ngược dòng lịch sử, đất Cao Sơn xa xưa là một vùng hoang vu. Cách đây khoảng hơn 400 năm, người dân ở các vùng đồng bằng, ven biển (chủ yếu từ các huyện Quỳnh Lưu, Diễn Châu, Nghi Lộc, Hưng Nguyên và Thạch Hà - tỉnh Hà Tĩnh) thường gặp chiến tranh, thiên tai, làm ăn khó khăn nên đã di cư lên quy tụ theo dòng họ, hình thành làng xã, đặt tên là xã Nam Cai (tục gọi là Đất Gay). Xã Nam Cai gồm 6 thôn: Đa Thọ; Dương Long; Dương Xuân; Yên Lĩnh; Yên Phú; Vĩnh Yên và 4 giáp: Thường Sơn; Long Điền; Phúc Long; Song Hồ.

Vào năm Đồng Khánh tam niên (1886), để tránh tên một người trong hoàng tộc, xã Nam Cai đổi tên thành xã Nam Sơn.

Cuối năm 1946 xã Nam Sơn nhập với xã Tào Điền (nay là xã Tào Sơn) và xã Tam Dân (nay là xã Lạng Sơn) thành xã Lạng Sơn.

Sau phong trào giảm tô năm 1953, xã Lạng Sơn chia thành 4 xã: Cao Sơn, Lĩnh Sơn, Lạng Sơn và Tào Sơn. Xã Cao Sơn gồm 2 làng: Dương Long, Đa Thọ và 4 Giáp: Thường Sơn; Long Điền; Phúc Long; Song Hồ.

Qua quá trình đấu tranh, biến động của lịch sử, những tên đất, tên làng, tên xã cũng thay đổi, tách nhập theo từng giai đoạn. Đã đi vào hoạt động dưới sự lãnh đạo của Đảng.

Trong những năm 1960, dưới ánh sáng nghị quyết của Đảng đưa nhân dân đi xây dựng vùng kinh tế mới, nhiều hộ dân tại các làng: Nam Lĩnh, Xuân Lĩnh, Phú Lĩnh; Đa Thọ nghe theo tiếng gọi của Đảng xung phong đi các vùng kinh tế mới ở các xã: cẩm Sơn, Hùng Sơn, Tào Sơn huyện Anh Sơn và xã Nghĩa Hành huyện Tân Kỳ...

Năm 1965 đến năm 1969  nhân dân 2 xã Cao Sơn và Lĩnh Sơn dời dân vào các vùng: Khe Bùi, Cọc Trâm, Trộc Mới... xã Cao Sơn.

Tháng 4/1973, thực hiện chủ trương phân vùng kinh tế mới cấp huyện, 2 xã Cao Sơn và Lĩnh Sơn phân nhập theo hai vùng kinh tế gồm:

- Vùng đồi chuyên canh cây công nghiệp (Chè) thuộc xã Cao Sơn.

- Vùng lúa, màu ven đường Quốc lộ 7 và dọc Sông Lam giữ tên xã Lĩnh Sơn.

Như vậy vùng đất Cao Sơn đã được hình thành từ lâu đời, đến năm 1953, xã Cao Sơn chính thức thành lập và đến năm 1973 được xác lập địa giới hành chính và phân bổ lại về dân cư.

Theo người xưa kể lại, không biết mảnh đất Gay có tự bao giờ và cũng chẳng biết ai đặt tên cho đất. Nhưng địa danh ấy cũng đủ nói lên nỗi gian nan vất vả của con người trên mảnh đất nơi đây.

Trong công cuộc chống giặc ngoại xâm và chế độ áp bức bất công, lớp lớp nhân dân Cao Sơn đã có những đóng góp to lớn về người và của cho kháng chiến, nhiều người đã hy sinh xương máu cho Tổ quốc, nhiều người đã lập được những chiến công xuất sắc, có người trở thành tướng lĩnh trong quân đội, lão thành cách mạng. Trên mảnh đất này cũng đã ghi danh nhiều con em thành đạt, họ đã trở thành nhiều nhà chuyên môn giỏi, nhiều nhà doanh nghiệp thành đạt. Và không ít người trở thành cán bộ cốt cán trong các cơ quan của Đảng, Nhà nước.... cán bộ lãnh đạo quản lý các cấp được rèn luyện thử thách trong quá trình lịch sử đấu tranh qua hàng chục thế kỷ. Những phẩm chất cao quý của người dân Cao Sơn ngày càng được củng cố, đó là đức tính cần cù chịu khó, năng động sáng tạo trong lao động sản xuất và xây dựng cuộc sống. Vì ruộng ít, đồi nhiều nên từ thuở trước cha ông đã phải lên đồi phát rẫy trồng chè. Cây chè nơi đây có tiếng đậm đà hương vị “Chè Gay”, Cây chè đã gắn bó với con người bao đời nay, được nhiều nơi ca ngợi, nhưng cuộc sống của dân trồng chè vẫn rất cực khổ - lam lũ suốt ngày đêm và hơn hết là nói lên sự lao động cần cù của con người nơi đây. Nỗi vất vả đó được thể hiện bằng những câu ca dao:.

“Ai ơi nhớ lấy Nam Cai,

Thứ nhất cày ruộng thứ hai trồng chè ”.

Hoặc:

“Ai ơi nhớ lấy đất Gay,

Cơm đêm thì có cơm ngày thì không”.

Hay:

“Thương anh em cũng muốn về,

Nhưng về bên nớ sợ gánh chè bầm vai”.

Đây là vùng đất trồng chè thơm ngon nổi tiếng, theo dọc Sông Lam và đường quốc lộ số 7 chè xanh đã toả đi khắp nơi, cùng với những chuyến chè xanh ra đi bao câu chuyện về dân tình, thế sự lại truyền về làm giàu cho cuộc sống quê hương. 

Những truyền thống và phẩm chất đó mãi mãi là vốn quý vô giá của nhân dân Cao Sơn mà các thế hệ nối tiếp nhau không ngừng phát huy góp phần to lớn vào sự nghiệp xây dựng và bảo vệ Tổ quốc.