วัดท่ากระบือ เดิมเป็นเพียงสำนักสงฆ์ ตั้งขึ้นเมื่อ พ.ศ. 2430 ต่อมาจึงยกฐานะเป็นวัด เหตุที่ชื่อว่าวัดท่ากระบือ เนื่องจากบริเวณนี้แต่เดิมเคยเป็นท่าน้ำสำหรับวัวควายลงกินน้ำ และมีการบูรณะมาจนถึงปัจจุบัน พร้อมกับสร้างรูปหล่อหลวงพ่อรุ่งที่มีขนาดใหญ่ที่สุดในโลก ซึ่งหลวงพ่อรุ่งยังเคยเป็นเจ้าอาวาส และเป็นพระเกจิอาจารย์ชื่อดังแถวหน้าของ จ.สมุทรสาคร ซึ่งมีชื่อเสียงด้านผู้เข้มขลังด้านเวทมนตร์คาถา ที่ไม่มีใครไม่รู้จัก

โดยรูปหล่อหลวงพ่อรุ่งสร้างจากเนื้อโลหะ ขนาดหน้าตักกว้าง 9 เมตร 9 เซนติเมตร สูง 12 เมตร 9 เซนติเมตร ที่ประดิษฐาน ณ ลานติสฺสรา นุสรณ์ (ลานจอดรถด้านหน้าวัดท่ากระบือ)

นอกจากนี้ภายในตัววัดเองก็ยังมีถาวรวัตถุอื่น ๆ ให้ชมความงามอีกมากมายไม่ว่าจะเป็น วิหารหลวงพ่อรุ่ง พระอุโบสถ เจดีย์ราย พระปรางค์ 4 องค์ เป็นต้น หรือถ้าใครได้เดินทางมาวันอาทิตย์ก็สามารถเดินชมตลาดริมแม่น้ำท่าจีน ที่ชาวบ้านจะเอาข้าวของมาขายให้ผู้ที่สักการะหลวงพ่อรุ่งได้จับจ่ายอีกด้วย หรือจะให้อาหารปลาที่ท่าน้ำของที่วัด

หลวงพ่อรุ่ง พระเกจิอาจารย์ระดับแนวหน้าของจังหวัดสมุทรสาครอุปนิสัยของท่านเป็นคนเอาจริงเอาจังกับงานมาก ไม่ว่าท่านจะทำอะไรก็ตาม ต้องทำให้สำเร็จไม่ว่าจะมีอุปสรรคอะไรหรือต้องใช้เวลามากน้อยเพียงใด เนื่องจากท่านเป็นคนมีความมานะพยายามสูงมาก เหรียญรุ่นแรกของท่านสร้างเมื่อปี พ.ศ. 2484 มี 2 พิมพ์ คือ พิมพ์ยันต์หยิก (พิมพ์นิยม) กับพิมพ์ยันต์ดวง มีพุทธคุณสูงทางคุ้มครองป้องกันภัย และยังถือเคล็ดจากชื่อของท่าน เมื่อบูชาแล้ว จะพบแต่ความเจริญรุ่งเรืองตลอดไป

หลวงพ่อรุ่ง ติสสโร ท่านเกิดเมื่อปี พ.ศ. 2416 ตรงกับรัชสมัยของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว บิดาชื่อ พวง มารดาชื่อ กิม นามสกุล พวงประพันธ์ พออายุครบ 21 ปี มารดาของท่านได้พามาอุปสมบทที่ วัดน้อย หลังจากศึกษาพระธรรมวินัยที่วัดน้อยได้ระยะหนึ่ง ท่านได้ออกธุดงค์เพื่อศึกษาวิชาความรู้เพิ่มเติมจนกระทั่งท่านได้มาพบวัดท่ากระบือ ซึ่งในขณะนั้นยังเป็นสำนักสงฆ์ที่มีสภาพรกร้าง ท่านจึงคิดพัฒนาให้เป็นสถานปฏิบัติธรรมอันสงบร่มรื่น ชาวบ้านละแวกนั้นเห็นท่านเป็นผู้ปฏิบัติดีปฏิบัติชอบ และเอาจริงเอาจังในการพัฒนาจนสำนักสงฆ์ท่ากระบือกลายเป็นสถานที่ร่มรื่นเหมาะสมแก่การปฏิบัติธรรมเป็นอย่างยิ่ง ต่อมาหลวงพ่อรุ่งได้ขอตราตั้งสำนักสงฆ์ท่ากระบือเพื่อให้กลายเป็นวัด เมื่อได้รับอนุญาตแล้ว ชาวบ้านจึงได้ช่วยกันบริจาคทรัพย์เพื่อสร้างถาวรวัตถุในวัดจนเจริญรุ่งเรืองเป็นลำดับ ได้รับพระราชทานสมณศักดิ์เป็น พระไพโรจน์วุฒาจารย์ ได้ดำรงสมณเพศตราบจนสิ้นอายุขัยเมื่อวันที่ 27 กันยายน พ.ศ. 2500 ในต้นแผ่นดินในหลวง อายุ 84 ปี 63 พรรษา