Xã Cổ Lũng nằm ở phía tây bắc của huyện Bá Thước, thuộc tả ngạn sông Mã.
- Phía đông giáp xã Ngổ Luông, huyện Tân Lạc, xã Tự Do, huyện Lạc Sơn, tỉnh Hòa Bình và xã Hạ Trung, huyện Bá Thước, tỉnh Thanh Hóa.
- Phía nam giáp các xã Hạ Trung và Ban Công, huyện Bá Thước, tỉnh Thanh Hóa.
- Phía tây giáp xã Lũng Niêm, huyện Bá Thước, tỉnh Thanh Hóa.
- Phía bắc giáp xã Lũng Cao, huyện Bá Thước, tỉnh Thanh Hóa và xã Ngổ Luông, huyện Tân Lạc, tỉnh Hòa Bình.