Cross-Entropy Loss: Cos'è e Come Funziona?

Cross-Entropy Loss: Cos'è e Come Funziona?

📌 Cross-Entropy Loss: Cos'è e Come Funziona?

La Cross-Entropy Loss è una funzione di perdita usata nei modelli di Deep Learning per la classificazione, sia binaria che multi-classe.

🔢 Formula della Cross-Entropy Loss

Classificazione Binaria

Per problemi con due classi (0 o 1), la funzione è:

L = - [ y log(ŷ) + (1 - y) log(1 - ŷ) ]

  • y → Valore reale (0 o 1).
  • ŷ → Probabilità predetta per la classe positiva.

Classificazione Multi-Classe

Se ci sono C classi, la formula diventa:

L = - Σ [ yi log(ŷi) ]

  • yi è 1 solo per la classe corretta, 0 per le altre.
  • ŷi è la probabilità predetta per la classe i-esima.

📊 Esempio Pratico

Immaginiamo di dover classificare un'immagine tra 3 categorie: **Gatto, Cane, Uccello**.

  • 🐶 Il valore reale è Cane → y = [0,1,0]
  • 📊 Il modello prevede: ŷ = [0.2, 0.5, 0.3]

La Cross-Entropy Loss sarà:

L = - log(0.5) = 0.693

📌 Dove si Usa la Cross-Entropy Loss?

  • ✅ Reti neurali convoluzionali (CNNs) per la classificazione di immagini.
  • ✅ Modelli di NLP per analisi del testo e sentiment analysis.
  • ✅ Object Detection (YOLO, SSD) per assegnare categorie agli oggetti rilevati.

Grazie alla Cross-Entropy Loss, i modelli imparano a migliorare la loro capacità di assegnare probabilità corrette alle classi giuste! 🚀

Commenti

Posta un commento

Post popolari in questo blog

SSD (Single Shot MultiBox Detector)

Immagine
SSD (Single Shot MultiBox Detector) - Object Detection SSD (Single Shot MultiBox Detector) – Object Detection in un unico passo SSD (Single Shot MultiBox Detector) è un modello di object detection single-stage , che rileva oggetti e bounding box in un unico passaggio , senza bisogno di un processo separato di region proposal (come Faster R-CNN). 🚀 Come funziona SSD? SSD utilizza una rete convoluzionale (CNN) che genera contemporaneamente: Bounding box degli oggetti nell'immagine. Classi degli oggetti contenuti in ogni bounding box. A differenza di YOLO , SSD genera più bounding box di varie dimensioni e proporzioni, chiamate default boxes o prior boxes . Per ogni bounding box tra le k disponibili in una data posizione, SSD calcola: c punteggi di classe (uno per ciascuna delle classi dell'oggetto). 4 valori di offset (che rappresentano la variazione rispetto alla forma predefinita della box)...
Continua a leggere

Instance Segmentation: Cos'è e Come Funziona

Instance Segmentation: Cos'è e Come Funziona 🎯 Instance Segmentation: Cos'è e Come Funziona 🔍 Introduzione La Instance Segmentation è una tecnica avanzata di Computer Vision che combina Object Detection e Semantic Segmentation. Il suo obiettivo è non solo classificare ogni pixel di un'immagine, ma anche distinguere le diverse istanze di oggetti appartenenti alla stessa classe. 📊 Differenze tra Semantic, Instance e Panoptic Segmentation Tipo Descrizione Semantic Segmentation Assegna la stessa etichetta a tutti i pixel appartenenti a una classe. Instance Segmentation Distingue tra oggetti individuali della stessa classe. Panoptic Segmentation Combina Semantic e Instance Segmentation, distinguendo oggetti e sfondo. A di...
Continua a leggere

U-Net: Architettura per la Segmentazione di Immagini

Immagine
U-Net: Architettura per la Segmentazione di Immagini 📌 U-Net: Architettura per la Segmentazione di Immagini 🔍 Introduzione U-Net è una delle reti neurali più popolari per la segmentazione delle immagini , progettata inizialmente per applicazioni in biomedical imaging. La sua struttura è caratterizzata da un'architettura encoder-decoder con una forma a "U" , da cui deriva il nome. 🏗️ Architettura di U-Net La rete U-Net è composta da tre parti principali: ✅ Encoder : comprime l'immagine ed estrae le caratteristiche principali. ✅ Decoder : ripristina la dimensione spaziale per generare una segmentazione accurata. ✅ Skip Connections : collegano i livelli dell’encoder con il decoder per mantenere i dettagli spaziali. ⚙️ Funzionamento dell'Encoder L'encoder funziona come una CNN classica, composta da blocchi convoluzionali con: ...
Continua a leggere