Được thành lập vào 28/8/1949 tại Thái Nguyên, với ba trung đoàn 88, 36 và 102 trên cơ sở những đơn vị Cứu quốc quân được thành lập trong những ngày Tổng khởi nghĩa tháng Tám năm 1945 và ngày đầu toàn quốc kháng chiến. Đại đoàn 308 là đại đoàn quân chủ lực, binh đoàn cơ động chiến lược đầu tiên của quân đội nhân dân Việt Nam, dưới sự chỉ huy Đại đoàn trưởng kiêm Chính ủy đầu tiên là Đại tá Vương Thừa Vũ đã đánh dấu một bước phát triển mới về mặt quân sự.
Danh hiệu “Quân tiên phong” được xuất phát từ bản Nhật lệnh mà Đại tướng Võ Nguyên Giáp đọc trong ngày thành lập đại đoàn: “Đại đoàn có nhiệm vụ cùng với các binh đoàn chủ lực khác đi tiên phong trên con đường tiêu diệt sinh lực địch, trên con đường chính quy hóa. Đại đoàn phải:
Hễ đánh là thắng;
Đã đánh là tiêu diệt sinh lực địch;
Ngày càng lớn mạnh;
Quyết định chiến trường”.
Trong bản Nhật lệnh còn nêu rõ sự cần thiết phải thành lập đại đoàn chủ lực và trao nhiệm vụ cho đại đoàn. Sự thành lập Đại đoàn 308 ngày ấy (sau năm 1955 được đổi thành Sư đoàn 308) là bước ngoặt lớn trong lực lượng vũ trang, thu hút sự chú ý và sự ủng hộ của đông đao bà con dân tộc những vùng lân cận.
Không phải chỉ đến năm 1949 ta mới có mô hình cấp đại đoàn. Ngay từ đầu năm 1946, 5 Đại đoàn đầu tiên đã được thành lập gồm Đại đoàn bộ binh 1, 2 (ở Bắc Bộ), 23, 27, 31 (ở Trung Bộ). Tuy nhiên các Đại đoàn này nhanh chóng bị giải tán do hạn chế về mặt tổ chức, lãnh đạo, trong điều kiện trang bị kém, khả năng tác chiến tập trung hạn chế. Tổ chức cấp Trung đoàn được sử dụng như giải pháp thích hợp để thay thế. Tiếp đó, đến tháng 8 năm 1947, Đại đoàn Độc lập được thành lập như đơn vị cấp chiến lược tập trung, tuy nhiên đến cuối năm thì bị giải thể do chưa hội tụ đủ những điều kiện cần thiết ở quy mô cấp đại đoàn, đặc biệt trong việc điều động binh lực trong Chiến dịch Việt Bắc năm 1947. Chỉ đến khi quân giải phóng Trung Quốc giành được phần kiểm soát phía biên giới với Việt Nam, có khả năng hỗ trợ về quân sự và cố vấn, trong điều kiện trình độ tác chiến của quân chủ lực Việt Nam được tăng lên qua một số chiến dịch vừa và nhỏ trước đó, yêu cầu cấp thiết về việc thành lập một đơn vị trên cấp trung đoàn lại được đặt ra, Đại đoàn 308 ra đời là sự thiết yếu của lịch sử.
Chiến dịch Biên Giới Thu Đông 1950, là trận đánh lớn đầu tiên sau khi thành lập, đây cũng là chiến dịch Bác Hồ ra tận mặt trận để động viên các chiến sĩ. Trong trận này Đại đoàn 308 ra quân ở quy mô đại đoàn tập trung cùng với sự tham gia của Trung đoàn 174 (Cao Bắc Lạng) và Trung đoàn 209 (Sông Lô) thuộc Bộ Tổng tư lệnh. Được trang bị nhiều loại phương tiện thông tin liên lạc nên mọi mệnh lệnh, chỉ thị của các cấp chỉ huy đều được truyền đạt kịp thời, nhanh chóng và chính xác tới từng đơn vị. Sau 29 ngày đêm với cách đánh táo bạo, kiên quyết đã tiêu diệt hai binh đoàn Lơ Pagiơ và Sactông của Pháp, giải phóng được vùng biên giới Cao Bằng, Lạng Sơn.
Sau chiến dịch Biên giới, Đại đoàn 308 lại liên tiếp tham gia các chiến dịch Trung du (Đông - Xuân 1950 - 1951), Đường số 18 (chiến dịch Hoàng Hoa Thám (Xuân - Hè 1951), chiến dịch Hà Nam Ninh (chiến dịch Quang Trung 1951), chiến dịch Hòa Bình (Đông - Xuân 1951 - 1952), chiến dịch Tây Bắc (Thu - Đông 1952) và chiến dịch Thượng Lào (Xuân - Hè 1953). Sau mỗi trận đánh đại đoàn ngày càng tích lũy được kinh nghiệm chiến đấu và ngày càng trưởng thành. Các hình thức tác chiến ở từng địa bàn, điều kiện được vận dụng một cách sáng tạo, khéo léo, qua đó lập được nhiều chiến công lớn.
Bước vào Đông Xuân 1953 - 1954, sau sự xuất hiện của Navarre với bản kế hoạch tác chiến mới tại Đông Dương, về cơ bản ta đã có những chiến lược đối phó. Ngay khi bắt đầu xây dựng Tập đoàn cứ điểm Điện Biên Phủ, Navarrre đã tính toán một lối thoát bằng cách thiết lập một hành lang an toàn nối Luông Phabăng với Điện Biên Phủ. Đảng ủy chiến dịch quyết định đưa 308 sang Lào nhằm thu hút không quân và lực lượng cơ động địch, tạo điều kiện cho ta đưa pháo ra an toàn và phá vỡ con đường rút lui của địch. Trong trận truy kích này, Đại đoàn 308 mặc dù không được chuẩn bị về hậu cần nhưng đã tiêu diệt và làm tan rã 17 đại đội địch, trong đó có 1 tiểu đoàn lính Lê dương bị tiêu diệt gọn, thu hàng phục tấn vũ khí, đạn dược. Ta giải phóng toàn bộ lưu vực sông Nậm Hu, ước tính 10.000km2, cô lập hoàn toàn Điện Biên Phủ. Hạ tuần tháng 2 năm 1954, Bộ chỉ huy chiến dịch ra lệnh cho 308 ngừng tiến công ở Thượng Lào, bí mật và nhanh chóng quay về Điện Biên Phủ.
Sau khi đã chuẩn bị kỹ càng về mọi mặt, ngày giờ nổ súng tấn công Tập đoàn cứ điểm Điện Biên Phủ được xác định là 17 giờ ngày 13/3/1954 tại Trung tâm đề kháng Him Lam, cửa ngõ phía Đông Bắc. Đại đoàn 308 sau thời gian truy quét địch tại Thượng Lào lực lượng đã có phần bị tiêu hao nên không đánh trận mở màn. Chỉ trung đoàn 88 có nhiệm vụ tiêu diệt trung tâm đề kháng Đồi Độc Lập (phối hợp với Trung đoàn 165 của 312) sau khi đã tiêu diệt được Him Lam. Đây là trung tâm đề kháng được tổ chức trận địa vững chắc và hoàn thiện nhất về mặt chiến thuật, nhưng cũng giống như Him Lam, Độc Lập nhanh chóng bị thất thủ sau vài giờ chiến đấu. Bước vào giai đoạn 2, Đại đoàn 308 được giao nhiệm vụ đào giao thông hào từ Độc Lập đến Tây Mường Thanh và kiềm chế pháo binh địch tại đây, tiêu diệt 2 cứ điểm 106 và 311, thừa cơ tiến công về phía Đông, tiêu diệt lực lượng quân dù địch. Trong khi ta nhanh chóng chiếm được các cứ điểm phía Đông khác, tại A1 cuộc chiến giành giật cao điểm này diễn ra ác liệt, thương vong của cả hai bên khá lớn. Trung đoàn 102 được lệnh thay thế Trung đoàn 174 ngay trong ngày thứ 2 của giai đoạn 2. Trong suốt chiến dịch, Đại đoàn 308 vẫn tiếp tục xây dựng trận địa tiến công và bao vây, phối hợp với các đơn vị bạn chia cắt các cứ điểm địch, hỗ trợ chiến đấu đưa vòng vây của ta ngày càng tiến sâu vào khu trung tâm. Những ngày cuối cùng của chiến dịch, Đại đoàn 308, sau khi chốt giữ phía Tây Mường Thanh, cùng với các cánh quân của ta từ mọi hướng tiến thẳng vào Sở chỉ huy địch. 17 giờ 30 phút ngày 7 tháng 5, toàn bộ địch quân đầu hàng, lá cờ “Quyết chiến quyết thắng” của ta bay trên nóc hầm Đờ Cát, chiến dịch Điện Biên Phủ kết thúc thắng lợi.
Ngay sau khi chiến dịch Điện Biên Phủ kết thúc, Đại đoàn 308 được lệnh hành quân về Thái Nguyên và Bắc Giang để phát triển thắng lợi. Sau này trong kháng chiến chống Mỹ, Đại đoàn còn tham gia nhiều trận đánh quan trọng như chiến dịch Đường 9 - Khe Sanh Hè 1968, chiến dịch Đường 9 Nam Lào, Xuân Hè 1971, chiến dịch Trị Thiên năm 1972 giành những thắng lợi quan trọng góp phần đánh thắng đế quốc Mỹ trong sự nghiệp giải phóng dân tộc, thống nhất đất nước.
Là đại đoàn quân chủ lực đầu tiên, sau này ta thành lập thêm các đại đoàn: 304, 312, 316, 320, 325, 308, với bề dày thành tích trong chiến đấu và xây dựng lực lượng đã cho thấy tính tiên phong, cơ động và anh dũng chiến đấu trong sự phát triển của Quân đội nhân dân Việt Nam. Trong cuộc kháng chiến trường kỳ chống Thực dân Pháp xâm lược, Đại đoàn 308 có vài trò quan trọng góp phần vào chiến thắng chung của cả dân tộc với những tấm gương hi sinh anh dũng bất khuất, kiên cường cùng chung một mục tiêu “Vì nước quên thân, vì dân phục