La régression linéaire et la régression logistique sont les deux célèbres algorithmes d'apprentissage automatique qui relèvent de la technique d'apprentissage supervisé. Étant donné que les deux algorithmes sont de nature supervisée, ces algorithmes utilisent un ensemble de données étiquetées pour faire les prédictions. Mais la principale différence entre eux réside dans la manière dont ils sont utilisés. La régression linéaire est utilisée pour résoudre les problèmes de régression tandis que la régression logistique est utilisée pour résoudre les problèmes de classification. La description des deux algorithmes est donnée ci-dessous avec un tableau de différences.

Régression linéaire:

• La régression linéaire est l'un des algorithmes d'apprentissage automatique les plus simples relevant de la technique d'apprentissage supervisé et utilisé pour résoudre des problèmes de régression.
• Il est utilisé pour prédire la variable dépendante continue à l’aide de variables indépendantes.
• L'objectif de la régression linéaire est de trouver la ligne la mieux ajustée capable de prédire avec précision le résultat de la variable dépendante continue.
• Si une seule variable indépendante est utilisée pour la prédiction, elle est appelée régression linéaire simple et s'il y a plus de deux variables indépendantes, une telle régression est appelée régression linéaire multiple.
• En trouvant la droite la mieux ajustée, l'algorithme établit la relation entre la variable dépendante et la variable indépendante. Et la relation devrait être de nature linéaire.
• Le résultat de la régression linéaire ne doit être constitué que de valeurs continues telles que le prix, l'âge, le salaire, etc. La relation entre la variable dépendante et la variable indépendante peut être affichée dans l'image ci-dessous :

Dans l'image ci-dessus, la variable dépendante est sur l'axe Y (salaire) et la variable indépendante est sur l'axe X (expérience). La droite de régression peut s’écrire :

 y= a<sub>0</sub>+a<sub>1</sub>x+ &#x3B5; 

Où un₀et un₁sont les coefficients et ε est le terme d'erreur.

Régression logistique:

• La régression logistique est l'un des algorithmes d'apprentissage automatique les plus populaires relevant des techniques d'apprentissage supervisé.
• Il peut être utilisé aussi bien pour les problèmes de classification que pour les problèmes de régression, mais principalement pour les problèmes de classification.
• La régression logistique est utilisée pour prédire la variable dépendante catégorielle à l'aide de variables indépendantes.
• La sortie du problème de régression logistique ne peut être qu'entre 0 et 1.
• La régression logistique peut être utilisée lorsque les probabilités entre deux classes sont requises. Par exemple s'il va pleuvoir aujourd'hui ou non, 0 ou 1, vrai ou faux, etc.
• La régression logistique est basée sur le concept d'estimation du maximum de vraisemblance. Selon cette estimation, les données observées devraient être les plus probables.
• Dans la régression logistique, nous transmettons la somme pondérée des entrées via une fonction d'activation qui peut mapper des valeurs comprises entre 0 et 1. Une telle fonction d'activation est connue sous le nom de fonction sigmoïde et la courbe obtenue est appelée courbe sigmoïde ou courbe en S. Considérez l'image ci-dessous :

• L'équation de la régression logistique est la suivante :

Différence entre la régression linéaire et la régression logistique :