Θεωρία πληροφορίας: Διαφορά μεταξύ των αναθεωρήσεων

Περιεχόμενο που διαγράφηκε Περιεχόμενο που προστέθηκε
μΧωρίς σύνοψη επεξεργασίας
Geilamir (συζήτηση | συνεισφορές)
Γραμμή 1:
Η '''Θεωρία πληροφορίας''' είναι τμήμα των [[Εφαρμοσμένα μαθηματικά|εφαρμοσμένων μαθηματικών]] και ασχολείται με την ποσοτικοποίηση της [[πληροφορία]]ς. Η θεωρία της πληροφορίας αναπτύχθηκε από τον [[Κλοντ Σάνον]] για να βρει τα θεμελιώδη όρια τις [[Επεξεργασία σήματος|επεξεργασίας σήματος]] σε εφαρμογές όπως η [[συμπίεσηΣυμπίεση δεδομένων|συμπίεση δεδομένων]] και η αξιόπιστη αποθήκευση και μεταφορά δεδομένων. Από τη θεμελίωση της έχει διευρυνθεί ώστε να βρει εφαρμογές σε πολλούς άλλους τομείς, όπως στην επαγωγική στατιστική, στην επεξεργασία φυσικής γλώσσας, στην [[κρυπτογραφία]], στα δίκτυα εκτός των δικτύων επικοινωνίας - όπως και στη νευροβιολογία,<ref>F. Rieke, D. Warland, R Ruyter van Steveninck, W Bialek, Spikes: Exploring the Neural Code. The MIT press (1997).</ref> στην εξέλιξη<ref>cf. Huelsenbeck, J. P., F. Ronquist, R. Nielsen and J. P. Bollback (2001) Bayesian inference of phylogeny and its impact on evolutionary biology, ''Science'' '''294''':2310-2314</ref> και τη λειτουργία<ref>Rando Allikmets, Wyeth W. Wasserman, Amy Hutchinson, Philip Smallwood, Jeremy Nathans, Peter K. Rogan, [http://www.lecb.ncifcrf.gov/~toms/ Thomas D. Schneider], Michael Dean (1998) Organization of the ABCR gene: analysis of promoter and splice junction sequences, ''Gene'' '''215''':1, 111-122</ref> μοριακών κωδικών στην οικολογία, στη θερμική φυσική, στους [[Κβαντικός υπολογιστής|κβαντικούς υπολογιστές]], στην ανίχνευση λογοκλοπής και σε άλλες μορφές ανάλυσης δεδομένων.<ref>
{{Cite web
| author = David R. Anderson
Γραμμή 11:
H βασική μέτρηση της πληροφορίας είναι η [[εντροπία πληροφοριών]], η οποία συνήθως εκφράζεται με το μέσο αριθμό των bits που χρειάζονται για να αποθηκευθεί ή να μεταβιβαστεί ένα σύμβολο σε ένα μήνυμα. Η εντροπία πληροφοριών ποσοτικοποιεί την αβεβαιότητα που εμπλέκεται στην πρόβλεψη της τιμής μίας [[τυχαία μεταβλητή|τυχαίας μεταβλητής]]. Για παράδειγμα, ο προσδιορισμός του αποτελέσματος από μία δίκαιη «ρίψη νομίσματος»(–[[Κορώνα ή γράμματα]] -δύο ισοδύναμα πιθανά αποτελέσματα ) παρέχει λιγότερες πληροφορίες (μικρή εντροπία) από τον προσδιορισμό του αποτελέσματος από μία ρίψη ενός [[ζάρι|ζαριού]](6 ισοδύναμα πιθανά αποτελέσματα).
 
Οι εφαρμογές από τα θεμελιώδη θέματα της θεωρίας της πληροφορίας περιλαμβάνουν την μη απωλεστική συμπίεση δεδομένων (ZIP files), απωλεστική συμπίεση δεδομένων (e.g. [[MP3]]s and [[JPEG]]), και την [[χωρητικότητα καναλιού]] (Ψηφιακή Συνδρομητική Γραμμή DSL). Ο τομέας είναι στην «διασταύρωση» των [[Μαθηματικά|μαθηματικών]], της [[στατιστική]]ς, της [[Επιστήμη υπολογιστών|επιστήμης των υπολογιστών]], της [[φυσική]]ς, της [[νευρολογία]]ς και της [[Ηλεκτρολόγος μηχανικός|ηλεκτρικής εφαρμοσμένης μηχανικής]]. Οι επιπτώσεις του είναι κρίσιμες για την επιτυχία των αποστολών του [[Πρόγραμμα Βόγιατζερ|Voyager]] στο διάστημα, την ανακάλυψη του δίσκου lazer (cd), την υλοποίηση των κινητών τηλεφώνων, την εξέλιξη του [[Διαδίκτυο|διαδικτύου]] (''Internet''), την επιστήμη της [[γλωσσολογία]]ς και της ανθρώπινης αντίληψης, την κατανόηση της [[Μαύρη τρύπα|Μαύρης Τρύπας]] και πολλών ακόμη άλλων πεδίων. Σημαντικά «υπο-πεδία» της θεωρίας πληροφορίας είναι ο [[πηγαίος κώδικας]], [[χωρητικότητα καναλιού]], η αλγοριθμική θεωρία πολυπλοκότητας, η αλγοριθμική θεωρία της πληροφορίας, τα στοιχεία θεωρίας της ασφάλειας, καθώς και τα μέτρα ενημέρωσης.
 
==Επισκόπηση==