การวิเคราะห์การถดถอย เป็นวิธีการทางสถิติใช้เพื่อศึกษาความสัมพันธ์ระหว่างตัวแปรตั้งแต่ 2 ตัวขึ้นไป ประกอบด้วย ตัวแปรที่เราทราบค่า เรียกว่าตัวประมาณการหรือตัวแปรต้น (Predictor, Independentvariable, X) และตัวแปรที่เราต้องการทราบค่า เรียกว่าตัวตอบสนองหรือตัวแปรตาม (Response ,Dependent variable , Y) ว่าเป็นตัวแปรที่เป็นปัจจัยหรือเป็นเหตุผลของกันและกันหรือไม่ ตัวอย่างเช่นในบทที่ 3 ตัวอย่างที่ 1 เราได้มีการค านวณหาว่าจ านวนของนกเป็ดน้ าและจ านวนของทารกที่เกิดมีความสัมพันธ์กันหรือไม่ด้วยวิธีการหา Correlation coefficient ซึ่งได้ค่าสัมประสิทธิ์สหสัมพันธ์เท่ากับ 0.9602 หมายถึงตัวแปร
ทั้งสองมีความสัมพันธ์กันโดยมีแนวโน้มขึ้นลงไปในทางเดียวกัน แต่ถ้าต้องการทราบว่าตัวแปรทั้งสองเป็นปัจจัยหรือเป็นเหตุผลของกันและกันอย่างไร เช่น นกเป็ดน้ ามีจ านวน 100 ตัว จะได้ทารกที่เกิดจ านวนของเท่าไหร่เป็นต้น โดยความสัมพันธ์ที่ได้จากการวิเคราะห์ด้วยวิธี Regression แทนด้วยสมการหรือฟังก์ชันคณิตศาสตร์
หรือ
การถดถอย (Regression) หมายถึง การศึกษาเกี่ยวกับความสัมพันธ์ระหว่างตัวแปรตัวหนึ่งที่เรียกว่าตัวแปรถูกอธิบาย (Explained Variable) หรือตัวแปรตาม (Dependent Variable) และอีกตัวแปรหนึ่งหรือมากกว่าหนึ่งตัวแปรที่เรียกว่าตัวแปรอิสระ (Independent Variable) หรือตัวแปรอธิบาย (Explanatory Variable) เช่นนักเศรษฐศาสตร์สนใจที่จะศึกษาความสัมพันธ์ระหว่างปริมาณความต้องการเสนอซื้อสินค้ากับราคาของสินค้านั้นและระดับรายได้ของผู้บริโภค หรือสนใจศึกษาว่าปริมาณการขายสินค้าจะมีความสัมพันธ์กับรายจ่ายในการโฆษณาสินค้าอย่างไร เป็นต้น
เป้าหมายของการถดถอย คือ
1. เพื่อประมาณค่าเฉลี่ยของตัวแปรตามเมื่อกำหนดค่าของตัวแปรอิสระมาให้
2. เพื่อทดสอบสมมติฐานเกี่ยวกับธรรมชาติของตัวแปร โดยมีสมมติฐานภายใต้ทฤษฎีทางเศรษฐศาสตร์
3. เพื่อพยากรณ์ หรือทำนายค่าเฉลี่ยของตัวแปรตาม เมื่อกำหนดค่าของตัวแปรอิสระมาให้
สำหรับการถดถอยเชิงเดี่ยว หมายถึง การศึกษาความสัมพันธ์ระหว่างตัวแปรอิสระเพียงหนึ่งตัวกับตัวแปรตามหนึ่งตัว
มีวิธีทำดังนี