Cầm Bá Thước sinh tại bản Lùm Nưa, tổng Trịnh Vạn, châu Thường Xuân (nay là xã Vạn Xuân, huyện Thường Xuân, tỉnh Thanh Hóa) trong một gia đình lang đạo nhiều đời. Cha ông là Cầm Bá Tiêu từng được triều vua Tự Đức phong chức Quản cơ.
Năm lên 8 tuổi, cha ông mời thầy về nhà dạy chữ Hán cho ông. Nhờ ông học giỏi và có quan hệ tốt với các quan lại người Việt đang trấn nhậm tại quê ông, nên khi trưởng thành ông được thay cha trở thành thổ ty và được triều đình nhà Nguyễn phong chức Bang tá.
Được giao quyền chỉ huy quân sự[
Ngày 5 tháng 7 năm 1885, quân triều đình tập kích quân Pháp ở đồn Mang Cá thất bại. Quân Pháp phản công, kinh thành Huế bị thất thủ. Tôn Thất Thuyết đưa vua Hàm Nghi lên chiến khu Tân Sở (Quảng Trị) ra dụ Cần Vương kêu gọi toàn dân chống Pháp.
Nhận thấy tương quan lực lượng khá chênh lệch, vào tháng 2 năm 1886, Tôn Thất Thuyết đã để cho hai con trai của mình là Tôn Thất Thiệp và Tôn Thất Đạm tiếp tục duy trì triều đình Hàm Nghi chống Pháp, còn mình cùng với Trần Xuân Soạn và Ngụy Khắc Kiều tìm đường sang Trung Quốc cầu viện nhà Thanh.
Trên đường đi, ông có đến tổng Trịnh Vạn thuộc châu Thường Xuân để gặp Cầm Bá Thước. Trong kế hoạch kháng Pháp, Tôn Thất Thuyết rất chú ý tỉnh Thanh Hóa. Vì vậy, ông đã cử Tống Duy Tân làm Chánh sứ Sơn phòng Thanh Hóa, phong Cầm Bá Thước làm Bang biện quân vụ hai châu Thường Xuân và Lang Chánh và phong Hà Văn Mao làm Tán lý quân vụ, chuẩn bị lực lượng nghĩa quân Mường vùng châu Quan Hóa.
Với danh nghĩa Bang biện quân vụ, Cầm Bá Thước nắm được lực lượng quân sự thổ binh, dân binh của hai châu Thường Xuân và Lang Chánh. Lực lượng này tuy đông nhưng sức chiến đấu không mạnh. Theo kế của cử nhân Tống Nhữ Mai, con trai Tống Duy Tân, ông làm tờ bẩm lên Tri châu Thường Xuân xin mộ quân và huy động lực lượng đóng đồn bảo vệ trị an từ Bái Thượng trở lên đến biên giới Lào. Được sự đồng ý của Tri châu Thường Xuân, Cầm Bá Thước đã cho điều động dân binh, bố trí lại việc canh gác và đóng các đồn suốt từ Bái Thượng lên Cửa Đặt, rồi lên đến Bất Mọt. Dọc theo sông Đặt, Cầm Bá Thước cho xây dựng rất nhiều đồn lũy, lập nhiều căn cứ như căn cứ Bản Lẹ, đồn Đồng Chong, đồn Bù Đồn...Ngoài ra, để tăng cường sức mạnh cho lực lượng, ông đã đề xuất và được phép đem quế đi bán để lấy tiền mua vũ khí cùng lương thực.