Θεωρία πληροφορίας: Διαφορά μεταξύ των αναθεωρήσεων

Περιεχόμενο που διαγράφηκε Περιεχόμενο που προστέθηκε
Yuliexi (συζήτηση | συνεισφορές)
Yuliexi (συζήτηση | συνεισφορές)
Γραμμή 30:
 
Το ορόσημο γεγονός που καθιέρωσε τον επιστημονικό κλάδο της θεωρίας της πληροφορίας
και τον έφερε σε άμεση παγκόσμια προσοχή ήτανε η δημοσίευση του [[Κλοντ Σάνον]] ,με τίτλο “
A Mathematical Theory of Communication” στο επιστημονικό περιοδικό Bell System Technical Journal τον Ιούλιο και Οκτώμβρητον Οκτώμβριο του 1948.
 
Πριν απο αυτή την δημοσίευση περιορισμένες πληροφορίες-θεωρητικές ιδέες ειχαν εξελιχθεί στα εργαστήρια Bell labs,ολες υποθετικά σιωπηρά γεγονότα ίσης πιθανότητας.Η δημοσίευση του Harry Nyquist το 1924, με τίτλο «Certain Factors Affecting Telegraph Speed»
,περιέχει ένα θεωρητικό τμήμα που ποσοτικοποιεί την ''νοημοσύνη'' και την ''ταχύτητα γραμμής'' κατα την οποία μπορέι να μεταδοθεί απο ενα συστημα επικοινωνιας,δίνοντας την σχέση
<math>W = K \log m</math> όπου το ''W'' είναι η ταχύτητα μετάδοσης της νοημοσύνης,''m'' ο αριθμός απο διαφορετικά επίπεδα τάσης για να επιλέξουμε σε κάθε χρονικό βήμα και ''K'' είναι μια σταθερά.Η δημοσίευση του Ralph Hartley το 1928 με τίτλο «Transmission of Information» ,χρησιμοποιεί την λέξη ''πληροφορία'' ως μια μετρήσιμη ποσότητα που αντανακλά την ικανότητα του δέκτη να ξεχωρίζει μία σειρά απο συμβολα απο μία οποιαδήποτε άλλη,έτσι ποσοτικοποιεί την πληροφορία <math>H = \log S^n = n \log S</math>,όπου ''S'' ήταν ο αριθμός απο πιθανά σύμβολα και ''n'' ο αριθμός απο σύμβολα σε μία μετάδοση.Η φυσική μονάδα πληροφοριών ήταν επομένως το δεκαδικό ψηφίο,όπου αργότερα μετονομάστηκε σε hartley προς τιμήν του ώς μονάδα ή κλίμακα ή μέτρηση της πληροφορίας.Ο [[Άλαν Τούρινγκ]] το 1940 χρησιμοποίησε παρόμοιες ιδέες σάν κομμάτι μιάς στατιστικής ανάλυσης για το “σπάσιμο” των αλγορίθμων κρυπτογράφησης των Γερμανών κατα τον Δευτερο Παγκόσμιο πόλεμο.
Πολλά απο τα μαθηματικά πίσω″πίσω″ απο την θεωρία της πληροφορίας αναπτύχθηκαν για το πεδίο της θερμοδυναμικής απο τον [[Λούντβιχ Μπόλτσμαν]] και Josiah Willard Gibbs.Οι σχέσεις μεταξύ πληροφορίας-θεωρητικής εντροπίας και της θερμοδυναμικής εντροπίας,συμπεριλαμβανομένων των σημαντικών συνεισφορών,Rolf Landauer την δεκαετία του 1960,διερευνούνται στο άρθρο «Entropy in thermodynamics and information theory»
 
Στην επαναστατική και πρωτοποριακή εργασία,η οποία είχε ολοκληρωθεί στα Bell Labs στα τελη του 1944,ο Σάνον για πρώτη φορά εισήγαγε το ποσοτικό και ποιοτικό μοντέλο επικοινωνίας ως μια στατιστική διαδικασία που στηρίζεται η θεωρία της πληροφορίας,εισάγοντας τον ισχυρισμό ότι:“το θεμελιώδες πρόβλημα της επικοινωνίας είναι αυτό της αναπαραγωγής σε ένα σημείο, είτε ακριβώς είτε κατα προσεγγιση,ενός μηνύματος που επιλέχτηκε σε ένα άλλο σημείο” .
 
Με αυτο κατέληξαν ότιστις επινοήσεις,
 
*ητης [[Εντροπία πληροφοριών|Εντροπίας πληροφοριών]] και ητης Redundancy(ο αριθμός των δυαδικών ψηφίων που χρησιμοποιουνται για την μετάδοση ενός μηνύματος μείον τον αριθμό των δεκαδικών ψηφίων της πραγματικής πληροφορίας σε ένα μήνυμα.) μιάς πηγής,και τη σημασία της μέσω του θεωρήματος του πηγάιου κώδικα
*ηστην κοινή πληροφορία και ητη [[χωρητικότητα καναλιού]] ενός ''θορυβώδους'' καναλιού,συμπεριλαμβανομένης και της υπόσχεσης για τέλεια,χωρίς απώλειες,επικοινωνία που δίνεται απο το θεώρημα του ''θορυβώδους'' καναλιού.
*τοστο πρακτικό αποτέλεσμα του νόμου Shannon-Hartley για την χωρητικότητα του καναλιού ενός Gaussian καναλιού,καθώς επίσης
*τοστο [[bit]]- ένας νέος τρόπος οπτικής για την πιο θεμελιώδη μονάδα πληροφοριών.
 
==Παραπομπές==