Regresja najmniejszych kwadratów

Porównaj obliczenia

Pobierz

Zawiera Twoje dane wejściowe i wyniki tego obliczenia, a także wszelkie dodatkowe obliczenia, które porównałeś.

Dopasowanie Linii do Rozproszonych Punktów Danych

Regresja metodą najmniejszych kwadratów znajduje jedną prostą linię, która najlepiej pasuje do rozproszenia punktów danych. Wpisz listę par x, y — jedną na linię — a ten kalkulator znajdzie nachylenie i wyraz wolny linii oraz to, jak ściśle punkty faktycznie podążają za tą linią.

Wzór

\vC{m} = \frac{n\sum{xy} - \sum{x}\sum{y}}{n\sum{x^2} - \left(\sum{x}\right)^2}

\vC{b} = \frac{\sum{y} - m\sum{x}}{n}

gdzie $m$ to nachylenie, $b$ to wyraz wolny, a $n$ to liczba punktów danych — razem opisują linię $y = mx + b$ , która minimalizuje całkowitą kwadratową odległość od każdego punktu do linii.

Rozwiązany przykład

Dopasowanie linii przez (1, 1), (2, 2) i (3, 4):

$m = \frac{3(17) - 6(7)}{3(14) - 6^2} = \frac{51 - 42}{42 - 36} = \frac{9}{6} = \vC{1,5}$
$b = \frac{7 - 1,5(6)}{3} = \frac{7 - 9}{3} = \vC{-0,667}$ — dopasowana linia to zatem $y = 1,5x - 0,667$ , ze współczynnikiem korelacji około $0,98$ .

Kluczowe czynniki do rozważenia

Silny współczynnik korelacji niekoniecznie oznacza, że x faktycznie powoduje y. Dwie zmienne mogą być silnie skorelowane, ponieważ jedna naprawdę wpływa na drugą, ponieważ obie są napędzane przez trzeci czynnik, lub czysto przez zbieg okoliczności w małym zbiorze danych — korelacja opisuje siłę zależności liniowej, a nie przyczynę stojącą za nią.
Ta metoda zakłada, że prawdziwa zależność jest liniowa, co nie zawsze jest właściwym założeniem. Jeśli rozrzut punktów faktycznie podąża za krzywą, wymuszenie prostej linii przez te dane może dać technicznie “najlepiej dopasowaną” linię, która nadal słabo opisuje dane — wizualne wykreślenie punktów przed zaufaniem dopasowaniu to dobra praktyka.
Pojedynczy nietypowy punkt (wartość odstająca) może nieproporcjonalnie przyciągnąć dopasowaną linię w swoją stronę. Ponieważ metoda najmniejszych kwadratów minimalizuje KWADRATY odległości, punkt daleko od ogólnego trendu przyczynia się do dopasowania znacznie bardziej niż punkt blisko niego — mały zbiór danych z jedną skrajną wartością odstającą jest na to szczególnie wrażliwy.
Więcej punktów danych generalnie daje bardziej wiarygodne dopasowanie, przy pozostałych czynnikach bez zmian. Linia dopasowana przez zaledwie 3-4 punkty (jak w przykładzie obliczeniowym) może wyglądać przekonująco, ale niesie znacznie więcej niepewności niż ta sama zależność zmierzona na dziesiątkach punktów — sama siła korelacji nie uchwytuje tego, ile danych faktycznie wspiera dopasowanie.

Częste Błędy

Traktowanie wysokiego współczynnika korelacji jako dowodu przyczynowości. Silna wartość r pokazuje jedynie, że punkty skupiają się ściśle wokół linii — nie mówi nic o tym, czy jedna zmienna faktycznie powoduje zmiany w drugiej.
Dopasowywanie prostej linii do danych, które są w rzeczywistości krzywe. Metoda najmniejszych kwadratów zawsze zwraca nachylenie i wyraz wolny, nawet gdy dopasowanie liniowe słabo opisuje leżący u podstaw wzorzec — najpierw wykreśl punkty lub sprawdź, czy współczynnik korelacji nie jest zaskakująco niski, zanim zaufasz wynikowi.
Używanie zbyt małej liczby punktów danych i traktowanie dopasowania jako wiarygodnego. Linia przez zaledwie 3-4 punkty może wyglądać przekonująco, ale niesie znacznie więcej niepewności niż ta sama zależność zmierzona na dziesiątkach punktów.
Pozwolenie, by pojedyncza wartość odstająca zdominowała dopasowanie bez zauważenia tego. Ponieważ metoda najmniejszych kwadratów minimalizuje kwadraty odległości, jeden odległy punkt może przyciągnąć całą linię w swoją stronę — warto sprawdzić, czy usunięcie nietypowego punktu istotnie zmienia wynik.

Warto Wiedzieć

Potrzebujesz oszacować wartość między dwoma znanymi punktami zamiast dopasowywać linię trendu przez wiele punktów? Kalkulator interpolacji liniowej obejmuje ten bardziej bezpośredni przypadek.
Chcesz zobaczyć, jak jedna konkretna wartość wypada na tle ogólnego rozrzutu zbioru danych? Kalkulator wskaźnika Z (z-score) mierzy dokładnie to.
Pracujesz z tą samą listą liczb dla szerszych statystyk podsumowujących? Kalkulator statystyczny obejmuje średnią, medianę, i odchylenie standardowe.

Źródło: Prosta regresja liniowa.

Najczęściej zadawane pytania

Czym jest regresja metodą najmniejszych kwadratów?

Regresja metodą najmniejszych kwadratów znajduje jedną prostą linię, która najlepiej pasuje do rozproszenia punktów danych, minimalizując sumę kwadratów odległości pionowych między każdym punktem a linią. To standardowa metoda opisywania liniowej zależności między dwiema zmiennymi.

Co oznaczają nachylenie i wyraz wolny?

Nachylenie mówi, o ile zmienia się y przy każdym wzroście x o 1 jednostkę -- nachylenie równe 2 oznacza, że y rośnie o 2 za każdym razem, gdy x rośnie o 1. Wyraz wolny to przewidywana wartość y linii, gdy x wynosi 0, czyli miejsce, w którym linia przecina oś pionową.

Co mówi mi współczynnik korelacji (r)?

Współczynnik korelacji mieści się w zakresie od -1 do 1 i mierzy, jak ściśle punkty grupują się wokół dopasowanej linii. Wartość bliska 1 oznacza silną dodatnią zależność (gdy x rośnie, y również niezawodnie rośnie), bliska -1 oznacza silną ujemną zależność, a bliska 0 oznacza niewielką lub żadną zależność liniową. R-kwadrat (r²) to po prostu r pomnożone przez samo siebie i często odczytywane jest jako 'procent zmienności y wyjaśniony przez x'.

Czy silna korelacja oznacza, że x powoduje y?

Nie — korelacja mierzy tylko, jak silnie dwie zmienne poruszają się razem, a nie dlaczego. Silna korelacja może odzwierciedlać rzeczywistą przyczynowość, wspólną przyczynę leżącą u podstaw obu zmiennych, lub zwykły zbieg okoliczności, zwłaszcza w małym zbiorze danych. Nie traktuj samego wysokiego współczynnika korelacji jako dowodu związku przyczynowego.

Co jeśli moje dane w rzeczywistości nie podążają za prostą linią?

Regresja metodą najmniejszych kwadratów zawsze dopasowuje prostą linię, nawet do danych, które faktycznie podążają za krzywą — nadal zwróci nachylenie, wyraz wolny i współczynnik korelacji, ale mogą one słabo opisywać zależność. Wykreślenie punktów z góry lub sprawdzenie, czy współczynnik korelacji jest nieoczekiwanie niski, może zasygnalizować, że dopasowanie liniowe jest niewłaściwym narzędziem dla Twoich danych.