Lineaarinen regressio ja logistinen regressio ovat kaksi kuuluisaa koneoppimisalgoritmia, jotka kuuluvat valvotun oppimistekniikan piiriin. Koska molemmat algoritmit ovat luonteeltaan valvottuja, nämä algoritmit käyttävät merkittyä tietojoukkoa ennusteiden tekemiseen. Mutta tärkein ero niiden välillä on se, miten niitä käytetään. Lineaarista regressiota käytetään regressioongelmien ratkaisemiseen, kun taas logistista regressiota käytetään luokitusongelmien ratkaisemiseen. Molempien algoritmien kuvaus on annettu alla yhdessä erotaulukon kanssa.

Lineaarinen regressio:

• Lineaarinen regressio on yksi yksinkertaisimmista koneoppimisalgoritmeista, joka kuuluu valvotun oppimisen tekniikkaan ja jota käytetään regressioongelmien ratkaisemiseen.
• Sitä käytetään jatkuvan riippuvan muuttujan ennustamiseen riippumattomien muuttujien avulla.
• Lineaarisen regression tavoitteena on löytää paras sovitusviiva, joka voi ennustaa tarkasti jatkuvan riippuvan muuttujan ulostulon.
• Jos ennustamiseen käytetään yhtä riippumatonta muuttujaa, sitä kutsutaan yksinkertaiseksi lineaariseksi regressioksi ja jos riippumattomia muuttujia on enemmän kuin kaksi, niin tällaista regressiota kutsutaan moninkertaiseksi lineaariksi regressioksi.
• Löytämällä parhaan sovitusviivan algoritmi määrittää riippuvan muuttujan ja riippumattoman muuttujan välisen suhteen. Ja suhteen tulee olla luonteeltaan lineaarinen.
• Lineaarisen regression tulosten tulee olla vain jatkuvia arvoja, kuten hinta, ikä, palkka jne. Riippuvaisen muuttujan ja riippumattoman muuttujan välinen suhde voidaan näyttää alla olevassa kuvassa:

Yllä olevassa kuvassa riippuva muuttuja on Y-akselilla (palkka) ja riippumaton muuttuja on x-akselilla (kokemus). Regressioviiva voidaan kirjoittaa seuraavasti:

 y= a<sub>0</sub>+a<sub>1</sub>x+ &#x3B5; 

Missä₀ja a₁ovat kertoimet ja ε on virhetermi.

Logistinen regressio:

• Logistinen regressio on yksi suosituimmista koneoppimisalgoritmeista, joka kuuluu valvotun oppimisen tekniikoihin.
• Sitä voidaan käyttää sekä luokittelu- että regressio-ongelmiin, mutta pääasiassa luokitusongelmiin.
• Logistista regressiota käytetään kategorisen riippuvan muuttujan ennustamiseen riippumattomien muuttujien avulla.
• Logistisen regression ongelman tulos voi olla vain välillä 0 ja 1.
• Logistista regressiota voidaan käyttää, kun vaaditaan kahden luokan välinen todennäköisyys. Esimerkiksi sataako tänään vai ei, joko 0 tai 1, tosi vai taru jne.
• Logistinen regressio perustuu Maximum Likelihood -arvioinnin käsitteeseen. Tämän arvion mukaan havaitun datan pitäisi olla todennäköisin.
• Logistisessa regressiossa syötteiden painotettu summa välitetään aktivointifunktion läpi, joka voi kartoittaa arvot välillä 0 ja 1. Tällainen aktivointifunktio tunnetaan nimellä sigmoiditoiminto ja saatua käyrää kutsutaan sigmoidikäyräksi tai S-käyräksi. Harkitse alla olevaa kuvaa:

• Logistisen regression yhtälö on:

Ero lineaarisen regression ja logistisen regression välillä: