Θεωρία πληροφορίας: Διαφορά μεταξύ των αναθεωρήσεων
Περιεχόμενο που διαγράφηκε Περιεχόμενο που προστέθηκε
μ Η χωρητικότητα καναλιού |
|||
Γραμμή 11:
H βασική μέτρηση της πληροφορίας είναι η [[εντροπία πληροφοριών]], η οποία συνήθως εκφράζεται με το μέσο αριθμό των bits που χρειάζονται για να αποθηκευθεί ή να μεταβιβαστεί ένα σύμβολο σε ένα μήνυμα. Η εντροπία πληροφοριών ποσοτικοποιεί την αβεβαιότητα που εμπλέκεται στην πρόβλεψη της τιμής μίας [[τυχαία μεταβλητή|τυχαίας μεταβλητής]]. Για παράδειγμα, ο προσδιορισμός του αποτελέσματος από μία δίκαιη «ρίψη νομίσματος»(–[[Κορώνα ή γράμματα]] -δύο ισοδύναμα πιθανά αποτελέσματα ) παρέχει λιγότερες πληροφορίες (μικρή εντροπία) από τον προσδιορισμό του αποτελέσματος από μία ρίψη ενός [[ζάρι|ζαριού]](6 ισοδύναμα πιθανά αποτελέσματα).
Οι εφαρμογές από τα θεμελιώδη θέματα της θεωρίας της πληροφορίας περιλαμβάνουν την μη απωλεστική συμπίεση δεδομένων (ZIP files), απωλεστική συμπίεση δεδομένων (e.g. [[MP3]]s and [[JPEG]]), και την [[χωρητικότητα καναλιού]] (Ψηφιακή Συνδρομητική Γραμμή DSL). Ο τομέας είναι στην «διασταύρωση» των [[Μαθηματικά|μαθηματικών]], της [[στατιστική]]ς, της [[Επιστήμη υπολογιστών|επιστήμης των υπολογιστών]], της [[φυσική]]ς, της [[νευρολογία]]ς και της [[Ηλεκτρολόγος μηχανικός|ηλεκτρικής εφαρμοσμένης μηχανικής]]. Οι επιπτώσεις του είναι κρίσιμες για την επιτυχία των αποστολών του [[Πρόγραμμα Βόγιατζερ|Voyager]] στο διάστημα, την ανακάλυψη του δίσκου lazer (cd), την υλοποίηση των κινητών τηλεφώνων, την εξέλιξη του [[Διαδίκτυο|διαδικτύου]] (''Internet''), την επιστήμη της [[γλωσσολογία]]ς και της ανθρώπινης αντίληψης, την κατανόηση της [[Μαύρη τρύπα|Μαύρης Τρύπας]] και πολλών ακόμη άλλων πεδίων. Σημαντικά «υπο-πεδία» της θεωρίας πληροφορίας είναι ο [[πηγαίος κώδικας]], η [[χωρητικότητα καναλιού]], η αλγοριθμική θεωρία πολυπλοκότητας, η αλγοριθμική θεωρία της πληροφορίας, τα στοιχεία θεωρίας της ασφάλειας, καθώς και τα μέτρα ενημέρωσης.
==Επισκόπηση==
| |||