نظرية المعلومات
نظرية المعلومات Information theory أحد تخصصات وفروع الرياضيات التطبيقية الذي يتضمن تكمية Quantification (التحويل إلى كميات) البيانات بهدف تمكين نقل أوتخزين البيانات ضمن وسط ما أونقلها عبر قناة اتصال ما بأكبر قدر ممكن . قياس المعلومات يعهد عادة بإنتروبية المعلومات وهوتعبير عن العدد الوسطي من البتات اللازم للتخزين أوالاتصال . مثلا ، إذا كان وصف الطقس اليومي له إنتروبية بمقدار ثلاثة ، فذا يعني انه على مدى عدد كاف من الأيام يمكننا وصف الطقس اليومي يمعدل ثلاثة بتات لليوم الواحد .
تطبيقات نظرية المعلومات الأساسية تتضمن : ضغط البيانات غير المنقوص lossless data compression : مثلا زيب (صيغة ملفات) ZIP ، ضغط البيانات المنقوص Lossy compression مثل إم.بي.ثري MP3 ، تشفير قنوات نقل البيانات وسعاتها channel capacity مثل خطوط دي.إس.إل DSL . يقع هذا الفرع عند حدود الرياضيات والإحصاء ، وعلوم الحاسب والفيزياء والنيوروبيولوجيا والهندسة الكهربائية . تطبيقاتها كانت أساسية ي نجاح مهمات فوياجير الفضائية ، واختراع سي.دي CD ، وتطبيقات الهاتف المحمول ، وتطور الإنترنت. وحتى دراسة اللسانيات والاستشعار الإنساني ، وأيضا فهم ظاهرة الثقوب السوداء وغيرها من الحقول والتطبيقات الفهمية .
انظر أيضا
- نظرية الاتصالات Communication theory
- فلسفة المعلومات Philosophy of information
تطبيقات
- فهم التعمية Cryptography
- تحليل تعموي Cryptanalysis
- الإنتروبية في الترموديناميك ونظرية المعلومات Entropy in thermodynamics and information theory
- ذكاء (تجميع معلومات) Intelligence (information gathering
- مقامرة Gambling
التاريخ
- تاريخ نظرية المعلومات
- الخط الزمني لنظرية المعلومات
- كلاود إيلوود سانون ]]
- رالف هارتلي
- هوبرت يوكي
النظرية
|
|
مصطلحات
|
|
وصلات خارجية
- Gibbs, M., "Quantum Information Theory", Eprint
- Schneider, T., "Information Theory Primer", Eprint
- Srinivasa, S. "A Review on Multivariate Mutual Information" PDF.
- Challis, J. Lateral Thinking in Information Retrieval
- IEEE Information Theory Society and the review articles.
- On-line textbook: Information Theory, Inference, and Learning Algorithms, by David MacKay - gives an entertaining and thorough introduction to Shannon theory, including state-of-the-art methods from coding theory, such as arithmetic coding, low-density parity-check codes, and Turbo codes.
نطقب:Compression Methods
