entropia della sorgente
Mauro Cappelli
Denotata con il simbolo H(X), rappresenta la quantità media di informazione associata a una sorgente discreta che genera N simboli indipendenti Xι con probabilità [...] simmetrica binaria, per es., risulta A={0,1} e p(Xι=1)=1−p(Xι=0)=p=0,5. Lo studio sistematico dell’entropia all’interno della teoria dell’informazione si deve al lavoro di Claude Shannon alla fine degli anni Quaranta del secolo scorso. La definizione ...
Leggi Tutto
entropia di Kolmogorov-Sinai
Angelo Vulpiani
Consideriamo una sequenza xτ1,xτ2,xτ3,..., con xτϚ=x(jτ), ottenuta campionando una traiettoria generata da una condizione iniziale xτ0=x(0) e si introduca [...] dalla traiettoria al tempo τ,2τ, ..., ossia se xτϚ∈aϰ allora iϚ=k. In analogia con la teoria dell’informazione, si può definire l’entropia delle successioni Sν di lunghezza n (per es., se M=2 allora per n=2 si hanno le quattro possibili S2 [1;1];[1;2 ...
Leggi Tutto
negentropia
negentropìa 〈-g✄-〉 [Der. dell'ingl. neg(ative) entropy] [INF] Lo stesso che entropia negativa, termine introdotto intorno al 1950 per indicare la quantità di informazione, in contrapp. con [...] il termine entropia, vista, quest'ultima, come misura dell'ignoranza sulla struttura di un sistema, cioè come la mancanza di informazione. ...
Leggi Tutto
equivocazione
equivocazióne [Der. del lat. aequivocatio -onis "atto ed effetto dell'equivocare", cioè del dare luogo ad ambiguità, da aequivocus (→ equivoco)] [INF] Nella teoria della cifrazione, l'entropia [...] condizionata della chiave (e. sulla chiave) e del messaggio (e. sul messaggio): v. crittografia: II 65 c ...
Leggi Tutto
Shannon Claude Elwood
Shannon 〈šènën〉 Claude Elwood [STF] (n. Gaylord, Michigan, 1916) Dapprima ricercatore nei Bell Telephone Laboratories (1941), poi prof. di elettrotecnica nel politecnico del Massachusetts [...] v. ordine: IV 310 b. ◆ [INF] Teorema di S.: v. informazione, teoria dell': III 200 e. ◆ [INF] Teorema di struttura di S.-McMillan: v. entropia e informazione: II 428 c. ◆ [ANM] Teorema di S.-Whittaker del campionamento: v. analisi armonica: I 128 f. ...
Leggi Tutto
Sistemi dinamici. Origini e sviluppo
Giovanni Jona-Lasinio
La teoria dei sistemi dinamici è un settore della matematica pura e applicata che si è sviluppato intensamente a partire dagli anni Sessanta [...] Pn) una partizione dell'insieme M su cui è definita la misura μ. Definiamo la quantità
[20] formula
entropia della partizione. L'entropia della trasformazione ϕ rispetto alla partizione P è data da
[21] formula
Date n partizioni Pi, la partizione ...
Leggi Tutto
complessita
complessità [Der. di complesso] [FAF] (a) L'essere complesso, il fatto di costituire un sistema di più parti o elementi interdipendenti in relazione funzionale fra di loro; (b) specific., [...] VI 619 f. ◆ [MCS] C. assoluta di una successione: una possibile misura della c. di una successione (v. oltre): v. entropia e informazione: II 427 c. ◆ [ELT] [INF] C. di calcolo: caratteristica quantitativa di un problema o di un algoritmo di calcolo ...
Leggi Tutto
ordine
órdine [Der. del lat. ordo -inis] [LSF] (a) Disposizione regolare di più cose secondo una regola prefissata; (b) il grado più o meno grande di organizzazione interna di un sistema complesso, relativ. [...] ), che, nei sistemi trattabili con i metodi della meccanica quantistica, è in relazione con l'entropia, risultando l'o. tanto maggiore quanto minore è l'entropia: v. ordine; (c) sinon. di comando e, nell'informatica, di istruzione. ◆ [FML] O. a corto ...
Leggi Tutto
additivita
additività [Der. di additivo] [LSF] La proprietà di cui godono gli enti additivi, cioè enti per i quali vale il principio di sovrapposizione, come sono, nell'elettrodinamica lineare, in partic., [...] nel vuoto: II 384 e; magnetismo: III 522 d. ◆ [TRM] A. a coppie: v. stato, equazione di: V 610 d. ◆ [TRM] A. dell'entropia: v. temperatura: VI 103 c. ◆ [ANM] A. finita e numerabile: v. misura e integrazione: IV 2 a. ◆ [CHF] [TRM] Legge di a. dei ...
Leggi Tutto
Notizia, dato o elemento che consente di avere conoscenza più o meno esatta di fatti, situazioni, modi di essere. In senso più generale, anche la trasmissione dei dati e l’insieme delle strutture che la [...] sulla base di considerazioni soggettive indipendenti dalla probabilità. L’autoinformazione utile dell’evento Ai è allora −uilogpi e l’entropia utile di un’esperienza E che possa dare i risultati A1, A2, ..., Ak, dotati di probabilità p1, p2, ..., pk ...
Leggi Tutto
entropia
entropìa s. f. [dal ted. Entropie, comp. del gr. ἐν «dentro» e -tropie «-tropia»]. – 1. In termodinamica, funzione di stato (v. funzione, n. 7) di un sistema la cui variazione nel passaggio del sistema da uno stato a un altro può...
entropico
entròpico agg. [der. di entropia] (pl. m. -ci). – Relativo all’entropia. In termodinamica, diagramma e., diagramma avente in ascissa l’entropia, in ordinata la temperatura assoluta.