Matematico statunitense (Gaylord, Michigan, 1916 - Medford 2001); dapprima ricercatore nei laboratorî della Soc. Bell Telephone, quindi (1958-78) prof. al Massachusetts institute of technology. Fu uno [...] dei fondatori della moderna teoria dell'informazione, che elaborò in vista delle applicazioni alle comunicazioni elettriche; a lui si deve tra l'altro l'introduzione in tale teoria del concetto di entropia. ...
Leggi Tutto
TELECOMUNICAZIONI.
Marina Ruggieri
– Nuove sfide: dalla sorgente informativa all’utenza. Sorgente dell’informazione. Connessione. Utente. Interdisciplinarità come chiave applicata. Bibliografia
Nuove [...] , rendendo necessaria una caratterizzazione e misura dell’informazione (entropia) che tengano conto delle implicazioni della rivoluzione Internet nella generazione e distribuzione dellainformazione stessa.
Nella sua formulazione, la ‘nuova ...
Leggi Tutto
segnali cerebrali, analisi dei
Stefano Panzeri
Una parte importante della conoscenza sulle funzioni cerebrali si basa sulla registrazione dei segnali elettrici neurali. Il segnale così ottenuto è però [...] statistici. Il più diffuso di questi criteri è basato sulla teoria dell’informazione.
Entropia e mutua informazione
Supponiamo che p(s) denoti la probabilità di presentazione dello stimolo s (che appartiene a un insieme S). Supponiamo di voler ...
Leggi Tutto
Potenzialità e limitazioni nella misura della trasmissione dell'informazione neuronale
William Bialek
(Marine Biological Laboratory, Woods Hole, Massachusetts, USA)
Nel tentare di descrivere cosa accade [...] , nel senso precisato dalla teoria dell'informazione. l singoli impulsi possono trasferire grandi quantità di informazione, i tassi di trasmissione dell'informazione sono vicini ai limiti imposti dall' entropiadella sequenza di impulsi o dalla ...
Leggi Tutto
Grandezza che interviene nello studio fisico-chimico delle trasformazioni di un sistema materiale e che dipende unicamente dallo stato del sistema. In termini matematici, si può dire che l’e. è funzione [...] di applicazione lontani dalla fisica, primo tra tutti la teoria dell’informazione.
E. e termodinamica
La grandezza e. fu introdotta dal δ anziché d). La funzione S è l’entropia. Pertanto la variazione dell’e. di un sistema che comunque compia una ...
Leggi Tutto
Notizia, dato o elemento che consente di avere conoscenza più o meno esatta di fatti, situazioni, modi di essere. In senso più generale, anche la trasmissione dei dati e l’insieme delle strutture che la [...] di i. da colui che è meno informato, oppure dal valore del tempo impiegato per l’ottenimento delle i. stesse. Come è sostenuto dai invece opera sempre in modo da ridurre il disordine, creando entropia negativa. In questo senso, dunque, l’i. si ...
Leggi Tutto
entropiaentropia termine mutuato dalla fisica e utilizzato con significato leggermente diverso sia in teoria dell’informazione, dove fu introdotto da C. Shannon nel 1949, sia in probabilità e statistica.
☐ [...] a 1. Si può notare come, identificando frequenza e probabilità, la formalizzazione matematica dell’entropia sia di fatto la medesima in teoria dell’informazione e in statistica. L’indice è prevalentemente utilizzato nel caso di caratteri qualitativi ...
Leggi Tutto
Informazione, trattamento e trasmissione della
FFrancesco Carassa e Emilio Gatti
di Francesco Carassa e Emilio Gatti
Informazione, trattamento e trasmissione della
sommario: 1. Introduzione. 2. Quantità [...] 10/110/111/110/0).
È interessante osservare la connessione del concetto di informazione sopra definito con quello di entropia, quale misura del grado di incertezza della configurazione microscopica di un sistema macroscopico. È ben nota in meccanica ...
Leggi Tutto
entropia di Kolmogorov-Sinai
Angelo Vulpiani
Consideriamo una sequenza xτ1,xτ2,xτ3,..., con xτϚ=x(jτ), ottenuta campionando una traiettoria generata da una condizione iniziale xτ0=x(0) e si introduca [...] occupate dalla traiettoria al tempo τ,2τ, ..., ossia se xτϚ∈aϰ allora iϚ=k. In analogia con la teoria dell’informazione, si può definire l’entropiadelle successioni Sν di lunghezza n (per es., se M=2 allora per n=2 si hanno le quattro possibili S2 ...
Leggi Tutto
INFORMAZIONE, Teoria della
Enzo CAMBI
*
La nozione di informazione, già identificantesi con quella di "comunicazione", "notizia" e simili, ha subìto negli ultimi anni un'evoluzione in virtù della quale [...] definitivamente, in luogo di "incertezza", il termine "entropia", definiremo dunque la quantità di informazione come la differenza fra l'entropia a priori e l'entropia a posteriori.
Una teoria dell'i., di interesse applicativo, deve mettere in grado ...
Leggi Tutto
entropia
entropìa s. f. [dal ted. Entropie, comp. del gr. ἐν «dentro» e -tropie «-tropia»]. – 1. In termodinamica, funzione di stato (v. funzione, n. 7) di un sistema la cui variazione nel passaggio del sistema da uno stato a un altro può...
negentropia
neġentropìa s. f. [dall’ingl. negentropy, cioè neg(ative) entropy «entropia negativa»]. – Nella teoria dell’informazione, la quantità d’informazione contenuta in un messaggio e trasferita dal sistema trasmittente a quello ricevente,...