瓦岗寨最初由翟让、徐世绩（即徐茂公、后改名李绩）、单雄信、王伯当、翟弘、王儒信等人创立，开始时只是抢劫过路客商，后来势力大了后，抢劫漕运船只，但一直被隋将张须陀吊打。
李密因为参与杨玄感叛乱被隋朝通缉，走投无路时投奔了瓦岗寨，然后，他组织了对张须陀的战斗，一战成名，张须陀战死，其手下勇将秦琼、程知节、罗士信等投奔隋将裴仁基，后来裴仁基征讨瓦岗寨不能取胜，被奸臣陷害，一气之下投奔了瓦岗，秦、程、罗等人都上了瓦岗。
后来有道士到瓦岗寨说谶语：“桃李子，皇后绕扬州，宛转花园里，勿浪语，谁道许”，其中桃李：便是逃亡姓李，勿浪语，谁道许，意指密。指出天意是让李密当天子，王伯当又劝翟让说：李密是蒲山公，菖蒲当然只能长在翟（沼泽）里，要求翟让让位李密，翟让信了，让了位。
李密上位后，组织瓦岗军夺取了隋朝的洛口仓，获得大量的粮食，开仓放粮，队伍急剧扩大，四方豪杰纷纷投奔，李密又多次打败隋朝洛阳的主将王世充，瓦岗寨兵强马壮。
随着瓦岗军的壮大，翟弘、王儒信等鼓动翟让夺回权力，被李密知道后，在宴会上杀死了翟让、翟弘和王儒信，徐世绩被砍伤，王伯当救了他，单雄信向李密跪地求饶，保住了性命。但瓦岗分裂的种子已经埋下。
隋炀帝在江都被以宇文化及为首的叛军杀害，宇文化及带领叛军西归关中，隋朝洛阳留守，皇孙越王杨侗估计王世充打不过叛军，就对李密封官许愿，让他去打宇文化及，李密信了，带领瓦岗军死磕叛军，虽然取得胜利，可自己也元气大伤。
回过头来，越王杨侗的许愿因王世充作梗无法兑现，李密对自己的手下败将不屑一顾，轻率地与王世充开战，又委非自己嫡系的单雄信重任并镇守要地，结果，单雄信放任王世充通过要地攻打瓦岗，袖手旁观，瓦岗军一败涂地，单雄信直接投降王世充，受到重用，秦、程、罗、裴仁基父子都被王世充俘虏，李密和王伯当逃脱，因有单雄信先例，他们不敢投奔镇守洛口仓的徐世绩，往西投奔李渊。
李密投奔李渊后，并没有获得他中意的爵位，又萌生反意，和王伯当在往东逃跑时，被唐将盛彦师（他并没有上过瓦岗寨）打败杀死。
秦、程、罗因感到王世充不是干大事的料，在战场上投奔李世民，裴仁基、裴行俨父子阴谋杀死王世充后归唐，被王世充发现后处死。
李世民攻打王世充，胜利后，留在王世充处的瓦岗将领，除单雄信和邴元真被处死外，其余都归顺了唐朝。
刘黑闼也上过瓦岗寨，后来投奔窦建德，在窦建德被李渊处死后，刘黑闼再次起事，给唐朝带来不小的麻烦，最终被李建成平定，刘黑闼被处死。
归顺唐朝的瓦岗军将领中，除王君廓叛逃突厥被杀、张亮谋反被诛外，其他的结局都很好，徐世绩受到李渊重用，赐姓李，改名李绩，成为了与李靖比肩的一代名将，魏征受到李世民重用，成为了一代名相，秦琼、程知节、罗士信（在征讨刘黑闼时战死）也都青史留名。
在正史中留名的瓦岗将领很多，李绩、魏征、秦琼、程知节（即程咬金）、张亮、罗士信、李君羡、牛进达、吴黑闼、李孟尝、郭孝恪、李大亮、李密、翟让、翟弘、王儒信、刘黑闼、单雄信、祖君彦、裴仁基、裴行俨、王伯当、王君廓、邴元真等。
