Θεωρία πληροφορίας: Διαφορά μεταξύ των αναθεωρήσεων
Περιεχόμενο που διαγράφηκε Περιεχόμενο που προστέθηκε
Γραμμή 130:
Άλλες σημαντικές ποσότητες της θεωρίας πληροφοριών συμπεριλαμβανουν,την εντροπία Renyi(μια γενίκευση της εντροπίας),την διαφορική εντροπία(μια γενίκευση απο ποσότητες πληροφορίας σε συνεχόμενες κατανομές) και την κοινή υπο συνθήκη πληροφορία.
==Θεωρία Κωδίκων==
[[Image:CDSCRATCHES.jpg|thumb|right|A picture showing scratches on the readable surface of a CD-R. Music and data CDs are coded using error correcting codes and thus can still be read even if they have minor scratches using [[error detection and correction]].]]
Η θεωρία κωδίκων ειναι απο τις σημαντικότερες και πιο αμεσες εφαρμογές της θεωρίας πληροφορίας.Μπορεί να υποδιαιρεθεί σε θεωρία πηγαίου κώδικα και σε θεωρία κωδικοποιησης καναλιού.Χρησιμοποιώντας μία στατιστική περιγραφή για δεδομένα,η θεωρία της πληροφορίας προσδιοριζει τον αριθμό των bits που χρειάζεται για να περιγραφούν τα δεδομένα,ο οποίος ειναι η εντροπία πληροφορίας της πης πηγης.
* Συμπίεση δεδομένων:Υπάρχουν δύο αναπτύγματα για το πρόβλημα της συμπίεσης:
#lossless data compression:τα δεδομένα πρεπει να αναδομηθούν ακριβώς
#Lossy compression: κατανεμημενα bits χρειάζονται για να αναδομηθούν τα δεδομένα,μέσα σε ενα καθορισμένο επίπεδο πιστότητας μετρημένο απο μία παραμορφωμένη συνάρτηση.Αυτό το υποσύνολο της θεωρίας της πληροφορίας λέγεται θεωρία παραμόρφωσης-τιμής.
* Κωδικες διόρθωσης σφαλμάτων :Ενώ η συμπίεση δεδομένων αφαιρεί όσο περιττολογία είναι δυνατόν,ένας κώδικας διορθωσης σφαλμάτων προσθέτει ακριβώς το σωστό είδος του πλεονασμύ που χρειάζεται για να μεταδοθούν τα δεδομένα ααποτελεσματικά και έμπιστα στο θορυβώδες κανάλι.
Αυτή η "διαίρεση" της θεωρίας κωδίκων σε συμπίεση και μετάδοση δικαιολογέιται απο τα θεωρήματα πληροφορίας μετάδοσης,ή απο τα θεωρήματα διαχωρισμού πηγής-καναλιού που δικαιολογούν την χρήση των bits σαν το παγκόσμιο "νόμισμα" για την πληροφορία σε πολλές περιπτώσεις.Ωστοσο,αυτά τα θεωρήματα περιέχουν την κατάσταση όπου ένας χρήστης που μεταδίδει επιθυμεί να επικοινωνήσει με έναν χρήστη-αποδέκτη.Σε σενάρια με παραπάνω απο έναν πομπούς,παραπάνω απο εναν αποδέκτη(το τηλεοπτικό κανάλι) ή ενδιάμεσους "βοηθούς" (το αναμεταδιδόμενο κανάλι) ή περισσότερα γενικά δίκτυα,συμπίεση ακολοθούμενη απο μετάδοση δεν μπορεί πλέον να είναι η καλύτερη δυνατή.Η θεωρία πληροφορίας δικτύου αναφέρεται σ αυτά τα μοντέλα επικοινωνίας με πολλούς συντελεστές
==Παραπομπές==
| |||