informazioneinformazióne [Der. del lat. informatio -onis, dal part. pass. informatus di informare "dare forma" e, figurat., "dare notizia", comp. di in- e formare, da forma "forma"] [LSF] Termine nato [...] che si ripetono con una frequenza definita nella successione medesima: v. entropia e informazione: II 426 c. ◆ [MTR] [INF] I. a secondo: unità di misura, di simb. IPS, della potenza di calcolo di un calcolatore, pari alla capacità di elaborare un ...
Leggi Tutto
Il termine complessità è oggi frequentemente usato, in campo scientifico, in contesti diversi. In quello dell'informatica, dell'analisi numerica e dell'ottimizzazione, corrisponde alla caratteristica quantitativa [...] a vicenda.
La teoria dell'informazione è uno strumento con cui è possibile trattare l'incertezza, la sorpresa e l'imprevisto (v. informazione, teoria della, App. III, ed entropia: Entropia e informazione, App. V). Così l'informazione che indica chi è ...
Leggi Tutto
INFORMATICA
Paolo Ercoli
Alberto Marini
Con il termine informatica, neologismo di origine francese, s'indica attualmente una nuova ed emergente disciplina, la quale si occupa di particolari rappresentazioni [...] misurabile, definita su base probabilistica e collegabile al concetto di entropia.
È però da notare che più recentemente si sono proposte delle definizioni di quantità d'informazione basate sul concetto di complessità degli algoritmi (quelli di ...
Leggi Tutto
Storia dei concetti e delle tecniche nella ricerca sulle reti neurali
Jack D. Cowan
(Department of Mathematics, University of Chicago Chicago, Illinois, USA)
In questo saggio descriveremo diverse ricerche [...] in cui le variazioni dei pesi sono basate sulla discesa di gradi ente, massimizzare l'entropiadell'output è equivalente a massimizzare l'informazione mutua tra input e output. Questa procedura di massimizzazione fu chiamata lnfomax da Linsker, che ...
Leggi Tutto
Cibernetica
Ernest H. Hutten
di Ernest H. Hutten
Cibernetica
sommario: 1. Introduzione storica. 2. L'epistemologia delle macchine. 3. La struttura informativadelle macchine. 4. Sistema, processo, informazione [...] di un minimo di capacità di informazione a partire dai numerosi elementi separati che formano il sistema. Affinché un qualsiasi sistema possa formarsi, l'energia dev'essere sempre maggiore dell'entropia, ma la formazione sarebbe altrettanto ...
Leggi Tutto
Computer science
Scott Kirkpatrick
La computer science si colloca con caratteristiche peculiari tra le scienze cosiddette esatte e l’ingegneria, costituendo dal punto di vista accademico un settore [...] per l’alfabeto inglese alla luce della teoria dell’informazione di Shannon e della prescrizione di Huffman per la per i simboli e le frequenze, nella tabella si trova che l’entropiadell’insieme di dati è 4,13 e ciò fornisce un limite inferiore per ...
Leggi Tutto
La vita artificiale
Thomas S. Ray
(ATR Human lnformation Processing, Research Laboratories Kyoto, Giappone)
La vita artificiale (VA) estende il campo di indagine della biologia, permettendo di studiare [...] una configurazione tetraedrica), le leggi della termodinamica (per esempio, l'entropia cresce spontaneamente), e così stesso tipo di rapporto nei confronti dei processi dell' informazione e dell' evoluzione digitale. Infatti, anche il più complesso ...
Leggi Tutto
Sistemi di comunicazione wireless
Sergio Barbarossa
Una delle caratteristiche distintive della società odierna è l’enorme aumento del flusso di informazioni che vengono scambiate quotidianamente. È [...] numero medio minimo di bit per simbolo con cui si può codificare, senza perdite, l’informazione emessa da una sorgente stazionaria è l’entropiadella sorgente, che indicheremo con H(S). Esempi di codifiche di sorgente senza perdite sono la codifica ...
Leggi Tutto
variabile
variàbile [agg. e s.f. Der. del lat. variabilis, da variare "variare"] [ANM] Di una quantità che può assumere valori in un certo insieme numerico, o, più in generale, di un simb. che rappresenta [...] di v. casuali: v. probabilità classica: IV 584 c. ◆ [PRB] [INF] Entropiadella v. aleatoria: v. informazione, teoria dell': III 199 a. ◆ [FSN] Problema dell'ordinamento delle v. dinamiche: v. gravità quantistica: III 82 a. ◆ [PRB] Simmetrie ...
Leggi Tutto
complessita
complessità [Der. di complesso] [FAF] (a) L'essere complesso, il fatto di costituire un sistema di più parti o elementi interdipendenti in relazione funzionale fra di loro; (b) specific., [...] caos: sviluppi recenti: VI 619 f. ◆ [MCS] C. assoluta di una successione: una possibile misura della c. di una successione (v. oltre): v. entropia e informazione: II 427 c. ◆ [ELT] [INF] C. di calcolo: caratteristica quantitativa di un problema o di ...
Leggi Tutto
entropia
entropìa s. f. [dal ted. Entropie, comp. del gr. ἐν «dentro» e -tropie «-tropia»]. – 1. In termodinamica, funzione di stato (v. funzione, n. 7) di un sistema la cui variazione nel passaggio del sistema da uno stato a un altro può...
negentropia
neġentropìa s. f. [dall’ingl. negentropy, cioè neg(ative) entropy «entropia negativa»]. – Nella teoria dell’informazione, la quantità d’informazione contenuta in un messaggio e trasferita dal sistema trasmittente a quello ricevente,...