Glossario
Le parole dell'intelligenza artificiale, spiegate senza giri di parole.
158 terminiA
- MetricaAccuracyProporzione di predizioni corrette sul totale delle predizioni fatte.
- AlgoritmoAdagradOttimizzatore con learning rate adattivo che adatta rate per parametro basandosi su gradienti storici.
- TecnicaAdversarial TrainingTecnica di training migliorando robustezza modello includendo esempi adversarial.
- ConcettoAI GenerativaSistemi di intelligenza artificiale capaci di creare nuovi contenuti originali come testo, immagini, audio, video.
- ConcettoAI MultimodaleSistemi AI che possono processare e correlare informazioni da modalità multiple come testo, immagini, audio e video.
- ArchitetturaAlexNetCNN profonda vincitrice ImageNet 2012, pioniera del deep learning in computer vision.
- ConcettoAlgoritmoUna procedura o formula step-by-step per risolvere un problema o eseguire un task.
- ParadigmaApprendimento Non SupervisionatoUn paradigma di machine learning dove i modelli trovano pattern in dati non etichettati senza supervisione esplicita.
- ParadigmaApprendimento SupervisionatoUn paradigma di machine learning dove i modelli apprendono da dati di training etichettati con coppie input-output.
- ConcettoAttention ScoreSimilarità calcolata tra vettori query e key prima della normalizzazione softmax nell'attention.
- MetricaAUC-ROCArea sotto curva ROC, misurando qualità classificatori binari attraverso tutte le soglie.
- ArchitetturaAutoencoderUna rete neurale addestrata a ricostruire il suo input, apprendendo rappresentazioni compresse nel processo.
- ConcettoAutoregressive ModelModelli che generano output sequenzialmente, dove ogni elemento dipende da quelli precedenti.
- TecnicaAverage PoolingUn'operazione di pooling che calcola il valore medio da ogni finestra della feature map.
B
- AlgoritmoBatch Gradient DescentUna variante di gradient descent che calcola i gradienti usando l'intero dataset di training in ogni iterazione.
- TecnicaBatch NormalizationUna tecnica per normalizzare gli input di ogni layer, stabilizzando e accelerando il training.
- ConcettoBatch SizeNumero di esempi di training processati insieme in un passaggio forward/backward.
- AlgoritmoBeam SearchAlgoritmo di decoding mantenendo top B sequenze più probabili a ogni step.
- ModelloBERTBidirectional Encoder Representations from Transformers - un modello di linguaggio pre-addestrato bidirezionale.
- MetricaBLEU ScoreMetrica per qualità traduzione automatica comparando sovrapposizione n-gram tra traduzioni generate e riferimento.
C
- TecnicaCausal MaskingTecnica di masking prevenendo attention a posizioni future in modelli autoregressivi.
- TecnicaChain-of-Thought PromptingTecnica di prompting incoraggiante LLM a mostrare step di ragionamento intermedi prima di rispondere.
- TaskClassificazioneUn task di apprendimento supervisionato dove l'obiettivo è predire etichette di classe discrete per dati di input.
- ModelloCLIP (Contrastive Language-Image Pre-training)Un modello multimodale addestrato per comprendere relazioni tra immagini e testo.
- TaskClusteringUn task di apprendimento non supervisionato che raggruppa punti dati simili insieme basandosi sulle loro feature.
- ArchitetturaCNN (Convolutional Neural Network)Un'architettura di deep learning specializzata per processare dati a griglia come immagini, usando layer convoluzionali.
- DatasetCOCO (Common Objects in Context)Dataset large-scale per object detection, segmentazione e captioning con 330k immagini.
- ParadigmaContrastive LearningApprendimento self-supervised contrastando coppie positive contro coppie negative.
- ConcettoConvoluzioneUn'operazione matematica che fa scorrere un filtro/kernel sui dati di input per estrarre feature.
- ConcettoCross-EntropyUna funzione di loss comunemente usata per problemi di classificazione che misura la differenza tra distribuzioni di probabilità.
- TecnicaCross-ValidationTecnica di resampling per valutare performance dividendo dati in multipli fold train-test.
D
- TecnicaData AugmentationTecniche per aumentare artificialmente la dimensione del dataset di training attraverso trasformazioni dei dati esistenti.
- ConcettoDatasetUna collezione di esempi di dati usati per training, validation o testing di modelli machine learning.
- ConcettoDati di TestDati tenuti da parte per valutazione finale di un modello trained, mai visti durante training.
- ConcettoDati di TrainingIl sottoinsieme di dati usato per addestrare un modello machine learning.
- TecnicaDepthwise Separable ConvolutionFattorizza convoluzione standard in convoluzioni depthwise e pointwise per efficienza.
- TecnicaDice LossFunzione di loss basata su coefficiente Dice, comunemente usata per task di segmentazione.
- TecnicaDilated ConvolutionConvoluzione con gap tra elementi kernel, aumentando receptive field senza aggiungere parametri.
- TecnicaDropoutUna tecnica di regolarizzazione che disattiva casualmente neuroni durante il training per prevenire overfitting.
E
- TecnicaEarly StoppingUna tecnica di regolarizzazione che ferma il training quando le performance su validation smettono di migliorare.
- TecnicaEmbeddingUna rappresentazione vettoriale densa di entità discrete (parole, immagini) in uno spazio continuo.
- ConcettoEpocaUn passaggio completo attraverso l'intero dataset di training durante il training.
- ConcettoErroreLa differenza tra output predetto e etichetta vera, indicando errori del modello.
- ConcettoEtichettaL'output target o ground truth associato a un esempio di training nell'apprendimento supervisionato.
- ConcettoExploding GradientUn problema dove i gradienti diventano estremamente grandi durante il training, causando aggiornamenti instabili e divergenza.
F
- MetricaF1 ScoreLa media armonica di precision e recall, fornendo una singola metrica bilanciata.
- ConcettoFeatureUna proprietà o caratteristica misurabile individuale dei dati usata come input a un modello.
- ConcettoFeature MapL'output dell'applicazione di un filtro di convoluzione a un input, rappresentando feature rilevate.
- ParadigmaFederated LearningUn approccio di machine learning che addestra modelli su dati distribuiti senza centralizzarli, preservando la privacy.
- ConcettoFiltro / KernelUna piccola matrice di pesi apprendibili che scorre sull'input durante la convoluzione per rilevare feature specifiche.
- TecnicaFocal LossFunzione di loss affrontando sbilanciamento classi down-weighting esempi facili.
- ConcettoFunzione SigmoideUna funzione di attivazione che mappa input a valori tra 0 e 1: f(x) = 1/(1 + e^(-x)).
- ConcettoFunzione SoftmaxUna funzione di attivazione che converte un vettore di valori in una distribuzione di probabilità che somma a 1.
G
- ArchitetturaGAN (Generative Adversarial Network)Un framework dove due reti neurali competono: un generator crea dati falsi e un discriminator cerca di distinguere vero da falso.
- TaskGenerazione del LinguaggioIl task di produrre testo coerente e contestualmente appropriato da parte di un modello AI.
- ModelloGPT (Generative Pre-trained Transformer)Una famiglia di large language model sviluppati da OpenAI che usano l'architettura transformer per la generazione di testo.
- TecnicaGradient ClippingTecnica che limita la magnitudine dei gradienti durante il training per prevenire exploding gradients.
- ConcettoGradienteDirezione e magnitudine dell'aumento più ripido nella funzione loss rispetto ai parametri.
- TecnicaGroup NormalizationNormalizza dividendo canali in gruppi e normalizzando all'interno di ogni gruppo.
- ArchitetturaGRU (Gated Recurrent Unit)Variante RNN semplificata con meccanismi gating, simile a LSTM ma meno parametri.
I
- DatasetImageNetDataset immagini large-scale con 14M immagini attraverso 20k categorie, usato per competizione ILSVRC.
- ArchitetturaInception ModuleBlocco CNN applicando dimensioni filtro multiple in parallelo e concatenando risultati.
- ConcettoInferenceIl processo di usare un modello trained per fare predizioni su nuovi dati.
- TecnicaInizializzazione PesiMetodi per impostare valori iniziali dei pesi della rete neurale prima dell'inizio del training.
- ConcettoInputDati forniti a un modello o rete neurale per elaborazione.
- TecnicaInstance NormalizationNormalizza ogni campione indipendentemente, comunemente usata in style transfer.
- ConcettoIntelligenza Artificiale (AI)Campo dell'informatica focalizzato sulla creazione di sistemi capaci di eseguire task che richiedono intelligenza umana.
- ConcettoIperparametroUna variabile di configurazione impostata prima del training che controlla il processo di apprendimento.
K
L
- ArchitetturaLayer ConvoluzionaleUn layer nelle CNN che applica operazioni di convoluzione per estrarre feature spaziali dai dati di input.
- ArchitetturaLayer di AttivazioneUn layer che applica una funzione di attivazione non lineare element-wise al suo input.
- ArchitetturaLayer di InputIl primo layer di una rete neurale che riceve i dati di input grezzi.
- ArchitetturaLayer di OutputIl layer finale di una rete neurale che produce predizioni o output.
- ArchitetturaLayer di PoolingUn layer di downsampling nelle CNN che riduce le dimensioni spaziali mantenendo feature importanti.
- ArchitetturaLayer Fully ConnectedUn layer di rete neurale dove ogni neurone è connesso a ogni neurone nei layer precedente e successivo.
- ArchitetturaLayer NascostoLayer in una rete neurale tra input e output che apprendono rappresentazioni intermedie.
- TecnicaLayer NormalizationTecnica di normalizzazione che opera su tutti i neuroni in un layer, usata principalmente nei Transformer.
- ConcettoLearning RateIperparametro controllando quanto aggiustare i pesi del modello durante il training.
- TecnicaLearning Rate ScheduleUna strategia per aggiustare il learning rate durante il training per migliorare convergenza e performance.
- ModelloLLM (Large Language Model)Una rete neurale con miliardi di parametri addestrata su enormi dataset testuali per comprendere e generare linguaggio umano.
- TecnicaLoRA (Low-Rank Adaptation)Fine-tuning parameter-efficient aggiungendo matrici trainabili low-rank a pesi congelati.
- ConcettoLossUna misura di quanto sbagliate sono le predizioni del modello, usata per guidare il training.
- ArchitetturaLSTM (Long Short-Term Memory)Un tipo di rete neurale ricorrente capace di apprendere dipendenze a lungo termine in sequenze temporali.
M
- ConcettoMachine LearningUna branca dell'intelligenza artificiale che permette ai computer di apprendere da dati senza essere esplicitamente programmati.
- TaskMachine TranslationTraduzione automatica di testo da una lingua all'altra.
- MetricaMAE (Mean Absolute Error)Funzione di loss misurando differenza assoluta media tra valori predetti e reali.
- TaskMasked Language ModelingTask di pre-training dove token random sono masked e il modello li predice dal contesto.
- ConcettoMatriceUn array 2D di numeri organizzati in righe e colonne.
- ConcettoMatrice di ConfusioneUna tabella usata per valutare le performance di modelli di classificazione mostrando classi vere vs predette.
- TecnicaMax PoolingUn'operazione di pooling che prende il valore massimo da ogni finestra della feature map.
- TecnicaMixupData augmentation creando esempi sintetici mixando coppie di campioni training.
- ArchitetturaMobileNetArchitettura CNN efficiente usando convoluzioni depthwise separabili per deployment mobile.
- ConcettoModelloUna rappresentazione matematica appresa dai dati che fa predizioni o decisioni.
- TecnicaMomentumUna tecnica di ottimizzazione che accelera gradient descent accumulando un vettore velocità in direzioni di riduzione persistente della loss.
- MetricaMSE (Mean Squared Error)Funzione di loss misurando differenza quadratica media tra valori predetti e reali.
- TecnicaMulti-Head AttentionMeccanismo che permette al modello di focalizzarsi su diverse parti dell'input simultaneamente attraverso molteplici teste di attenzione.
N
- TaskNER (Named Entity Recognition)Task NLP identificando e classificando entità nominate (persone, organizzazioni, luoghi) nel testo.
- ConcettoNeuroneUnità computazionale base nelle reti neurali che riceve input, applica pesi e attivazione, produce output.
- TaskNext Sentence PredictionTask di pre-training predicendo se frase B segue frase A.
- CampoNLP (Natural Language Processing)Elaborazione del linguaggio naturale - campo dell'AI che permette ai computer di comprendere e generare linguaggio umano.
- TecnicaNucleus Sampling (Top-P)Generazione testo campionando dal set più piccolo di token la cui probabilità cumulativa supera soglia P.
O
- AlgoritmoOttimizzatore AdamUn algoritmo di ottimizzazione con learning rate adattivo che combina momentum e RMSprop.
- ConcettoOttimizzazioneIl processo di regolazione dei parametri del modello per minimizzare la funzione di loss e migliorare le performance.
- ConcettoOutputIl risultato prodotto da un modello dopo aver elaborato dati di input.
- ConcettoOverfittingQuando un modello apprende i dati di training troppo bene, incluso il rumore, risultando in scarsa generalizzazione su nuovi dati.
P
- TecnicaPaddingAggiungere pixel extra attorno al bordo dei dati di input per controllare la dimensione output nelle operazioni di convoluzione.
- ConcettoParametroValori apprendibili in un modello che sono ottimizzati durante il training (pesi e bias).
- ArchitetturaPerceptronRete neurale più semplice con singolo layer, classificatore binario inventato negli anni '50.
- MetricaPerplexityMisurazione di quanto bene un modello probabilistico predice un campione, per valutare language model.
- ConcettoPesoParametri apprendibili nelle reti neurali che determinano la forza delle connessioni tra neuroni.
- ConcettoPeso di AttenzioneUn valore scalare che indica quanto focus porre su una specifica parte dell'input quando si produce l'output.
- TecnicaPositional EncodingUna tecnica per iniettare informazioni di posizione negli input dei transformer poiché mancano di ordine sequenziale intrinseco.
- AddestramentoPre-trainingIl processo di addestrare un modello su un grande dataset generico prima di fine-tuning su task specifici.
- ConcettoPrecision e RecallMetriche per classificazione: Precision è positivi corretti / positivi predetti; Recall è positivi corretti / positivi reali.
- ConcettoPredizioneL'output prodotto da un modello trained quando riceve nuovi dati di input.
- TecnicaPrompt EngineeringLa pratica di progettare prompt testuali efficaci per guidare i large language model verso output desiderati.
- TecnicaPruningRimuovere pesi/neuroni non necessari per ridurre dimensione modello e costo computazionale.
Q
- TecnicaQuantizzazioneRidurre precisione pesi/attivazioni per abbassare memoria e computazione.
- ConcettoQuery, Key, Value (QKV)Tre vettori usati nei meccanismi di attenzione per calcolare combinazioni pesate di elementi input.
- TaskQuestion AnsweringTask NLP dove il modello estrae o genera risposte a domande basandosi sul contesto.
R
- TecnicaRAG (Retrieval-Augmented Generation)Una tecnica che migliora gli output degli LLM recuperando informazioni rilevanti da knowledge base esterne.
- ConcettoReceptive FieldLa regione dello spazio di input che influenza l'attivazione di un particolare neurone in una rete neurale.
- TaskRegressioneUn task di apprendimento supervisionato dove l'obiettivo è predire valori numerici continui.
- ParadigmaReinforcement LearningUn paradigma di machine learning dove gli agenti apprendono interagendo con un ambiente e ricevendo ricompense o penalità.
- ConcettoReLU (Rectified Linear Unit)Una funzione di attivazione che restituisce l'input se positivo, altrimenti zero: f(x) = max(0, x).
- TecnicaResidual ConnectionUna connessione skip che permette al gradiente di fluire direttamente attraverso la rete, facilitando il training di reti profonde.
- ArchitetturaResNet (Residual Network)Un'architettura CNN che usa connessioni residuali (skip connections) per permettere il training di reti molto profonde.
- ArchitetturaRete ConvoluzionaleUna rete convoluzionale è un tipo di rete neurale progettata per elaborare dati strutturati in griglie, come immagini, attraverso l'uso di operazioni di convoluzione.
- ArchitetturaRete NeuraleUn modello computazionale ispirato alle reti neurali biologiche, composto da nodi interconnessi (neuroni) che elaborano informazioni.
- TecnicaRiduzione DimensionalitàTecniche per ridurre il numero di feature nei dati preservando informazioni importanti.
- AlgoritmoRMSpropAlgoritmo di ottimizzazione con learning rate adattivo usando media mobile di gradienti al quadrato.
- ArchitetturaRNN (Recurrent Neural Network)Un'architettura di rete neurale progettata per dati sequenziali, con connessioni che tornano a stati precedenti.
S
- ConcettoScalareUn singolo valore numerico, un tensore zero-dimensionale.
- TecnicaSelf AttentionIl self attention è un meccanismo di attenzione utilizzato nei modelli di deep learning che consente a una rete neurale di pesare l'importanza di diverse parti di un input rispetto ad altre.
- ParadigmaSelf-Supervised LearningParadigma di apprendimento dove i modelli creano segnale di supervisione da dati non etichettati.
- TaskSentiment AnalysisTask NLP determinando tono emotivo o opinione espressa nel testo.
- AlgoritmoSGD (Stochastic Gradient Descent)Una variante di gradient descent che aggiorna i pesi usando gradienti da un singolo esempio di training random alla volta.
- DatasetSQuAD (Stanford Question Answering Dataset)Dataset reading comprehension con 100k+ domande su articoli Wikipedia.
- ConcettoStrideIl numero di pixel di cui un filtro si muove attraverso l'input durante operazioni di convoluzione o pooling.
T
- TecnicaTemperature (Sampling)Parametro controllante randomicità in generazione testo scalando logit prima di softmax.
- ConcettoTensoreUna struttura dati multi-dimensionale utilizzata per rappresentare dati in deep learning (scalari, vettori, matrici, tensori n-dimensionali).
- ConcettoTermine di BiasUn parametro apprendibile addizionale nelle reti neurali che permette di shiftare la funzione di attivazione.
- TaskText SummarizationTask NLP condensando testo lungo preservando informazioni chiave.
- TecnicaTokenizationIl processo di suddividere il testo in unità più piccole (token) come parole, subword o caratteri per l'elaborazione.
- TecnicaTop-K SamplingTecnica generazione testo campionando solo dai K token successivi più probabili.
- AddestramentoTransfer LearningUna tecnica dove la conoscenza appresa da un task viene applicata a un task diverso ma correlato, riducendo tempo di training e requisiti dati.
- ArchitetturaTransformerUn'architettura di rete neurale basata interamente su meccanismi di attention, senza layer ricorrenti o convoluzionali.
- TecnicaTriplet LossFunzione di loss apprendendo embedding minimizzando distanza anchor-positive e massimizzando anchor-negative.
U
V
- ArchitetturaVAE (Variational Autoencoder)Un modello generativo che apprende una rappresentazione probabilistica nello spazio latente dei dati.
- ConcettoValidation SetUna porzione di dati tenuta da parte durante il training per tuning iperparametri e prevenzione overfitting.
- ConcettoVanishing GradientUn problema nelle reti profonde dove i gradienti diventano estremamente piccoli, impedendo apprendimento efficace nei layer iniziali.
- ConcettoVettoreUn array ordinato di numeri rappresentante un punto nello spazio multi-dimensionale.
- ArchitetturaVGGArchitettura CNN profonda usando filtri piccoli 3x3 ovunque, enfatizzando profondità.
- CampoVisione ArtificialeUn campo dell'AI che permette ai computer di interpretare e comprendere informazioni visive dal mondo.
- ArchitetturaViT (Vision Transformer)Architettura Transformer adattata per computer vision trattando patch immagini come token.
W
Y
Nessun termine trovato.