ทฤษฎีระบบควบคุม (อังกฤษ: control theory) เป็นสาขาหนึ่งของคณิตศาสตร์และวิศวกรรมศาสตร์ ในที่นี้ การควบคุมหมายถึง การควบคุมระบบพลศาสตร์ ให้มีค่าเอาต์พุตที่ต้องการ โดยการป้อนค่าอินพุตที่เหมาะสมให้กับระบบ ตัวอย่างที่เห็นได้ทั่วไป เช่น ระบบควบคุมอุณหภูมิห้องของเครื่องปรับอากาศ หรือ แม้แต่ลูกลอยในโถส้วม ที่เปิดน้ำปิดน้ำโดยอัตโนมัติเมื่อน้ำหมดและน้ำเต็ม

การควบคุมการขับเคลื่อนยานพาหนะ เช่น รถยนต์ ก็ถือเป็นการควบคุมชนิดหนึ่ง โดยผู้ขับขี่เป็นผู้ควบคุมทิศทางและความเร็ว ซึ่งระบบควบคุมประเภทที่ต้องมีคนเข้ามาเกี่ยวข้องนี้ถือว่าเป็น ระบบควบคุมไม่อัตโนมัติ (manual control) แต่ทฤษฎีระบบควบคุมจะครอบคลุมเฉพาะการวิเคราะห์และออกแบบ ระบบควบคุมอัตโนมัติ (automatic control) เท่านั้น เช่น ระบบขับเคลื่อนอัตโนมัติ (cruise control)

ระบบควบคุมยังอาจแบ่งออกได้เป็นระบบควบคุมวงเปิด (open-loop control) คือ ระบบควบคุมที่ไม่ได้ใช้สัญญาณจากเอาต์พุต มาบ่งชี้ถึงลักษณะการควบคุม ส่วนระบบควบคุมวงปิด (closed-loop control) หรือ ระบบป้อนกลับ (feedback control) นั้นจะใช้ค่าที่วัดจากเอาต์พุต มาคำนวณค่าการควบคุม นอกจากนี้ยังอาจแบ่งได้ตามคุณลักษณะของระบบ เช่น เป็นเชิงเส้น (linear) / ไม่เป็นเชิงเส้น (nonlinear) , แปรเปลี่ยนตามเวลา (time-varying) / ไม่เปลี่ยนแปลงตามเวลา (time-invariant) และเวลาต่อเนื่อง (Continuous time) / เวลาไม่ต่อเนื่อง (Discontinuous time)