यदि आप एंट्रोपी की धारणा को स्वयंसिद्ध करने के लिए थे .....

क्या स्वयंसिद्ध हैं कि एन्ट्रापी की एक अच्छी धारणा को संतुष्ट करना चाहिए? कृपया ध्यान दें कि मैं नहीं विभिन्न प्रकार की एन्ट्रापी की परिभाषाओं के लिए पूछ रहा हूं जैसे कि टोपोलॉजिकल एन्ट्रॉपी या उपाय-सिद्धांत संबंधी एन्ट्रोपी या अन्य प्रश्न। अगर, $ X $ एक 'स्पेस' है, तो व्यापक अर्थ में (टोपोलॉजिकल, माप, बीजगणितीय, आदि) और $ \ varphi: X \ rightarrow X $ एक स्व-मानचित्र है, और यदि हम एक अच्छे को परिभाषित करना चाहते हैं $ \ varphi $ की जटिलता को मापने के लिए एन्ट्रापी की धारणा, इस धारणा को क्या स्वयंसिद्ध संतुष्ट करना चाहिए?

संपादित करें: शायद एक अधिक उचित प्रश्न: किसी फ़ंक्शन को पुनरावृत्त करने के लिए दी गई प्रणाली के लिए, एंट्रोपी माप की अच्छी धारणा (अंतरिक्ष के प्रकार के लिए कोई या न्यूनतम संदर्भ के साथ) क्या होना चाहिए?

24
यहां `वर्णकरण 'अनुभाग देखें, Mahdi: en.wikipedia.org/wiki/Entropy_ information_theory)
जोड़ा लेखक vettipayyan, स्रोत
@ मेहदी: समझ गया। जैसा कि मैंने इस प्रश्न को पारित करने में देखा था, मैं केवल सुविचार की टिप्पणी पर ध्यान नहीं दे रहा हूं यह आपके प्रश्न का उत्तर देने के लिए नहीं था, केवल एक संभावित शुरुआती बिंदु का सुझाव देने के लिए ...
जोड़ा लेखक vettipayyan, स्रोत
@ मेहदी: बीटीडब्लू, मुझे यह सवाल पसंद है।
जोड़ा लेखक vettipayyan, स्रोत
मेरी अज्ञानता को क्षमा करें, लेकिन क्या इस तरह के सवालों को लंबे समय से सूचना सिद्धांत में नहीं माना गया है?
जोड़ा लेखक Lord Loh., स्रोत
कैसे "कोलमोगोरोव जटिलता" के बारे में? हो सकता है कि इसके पीछे के विचार उस स्वयंसिद्धता के लिए आवश्यक आधार प्रदान करें जो आप चाह रहे हैं?
जोड़ा लेखक Lord Loh., स्रोत
@ शर्वित: मुझे नहीं पता। यदि आपको किसी संदर्भ का पता है, तो कृपया पोस्ट करें।
जोड़ा लेखक Mahdi Majidi-Zolbanin, स्रोत
@Jon: ऐसा लगता है कि ये स्वयंसिद्ध संभावना अंतरिक्ष के संदर्भ में समझ में आता है, और वे "एक यादृच्छिक चर के साथ जुड़ी अनिश्चितता" को मापते हैं और यह समझ में नहीं आएगा कि क्या $ X $ सिर्फ एक सामयिक स्थान है। फिर भी, एन्ट्रापी को एक टोपोलॉजिकल डायनामिकल सिस्टम में परिभाषित किया जा सकता है ( enwikipedia.org/wiki/Topological_entropy</एक>)। मैं सोच रहा था कि क्या अंतरिक्ष के प्रकार के लिए न्यूनतम संदर्भ के साथ एन्ट्रॉपी की धारणा को चिह्नित करना संभव है?
जोड़ा लेखक Mahdi Majidi-Zolbanin, स्रोत

7 उत्तर

यह एक पूर्ण स्वयंसिद्धता नहीं है, आंशिक रूप से क्योंकि यह थोड़ा अस्पष्ट है, और आंशिक रूप से क्योंकि मैं केवल दो संदर्भों में एन्ट्रॉपी की धारणा से परिचित हूं: टोपोलॉजिकल स्पेस और माप स्थान। फिर भी, उन दोनों मामलों में प्रक्रिया के लिए एक समानता है।

  1. एक स्थान $ X $ से शुरू होता है और एक नक्शा $ f \ colon X \ से X $ होता है।
  2. अपने अंतरिक्ष को एक निश्चित पैमाने पर ले जाएं, ताकि ऑर्बिट सेगमेंट जो बहुत करीब एक साथ हों, अलग-अलग न हों।
  3. गणना करें कि $ n $ लंबाई के कितने पारस्परिक रूप से अलग-अलग कक्षा खंड "महत्वपूर्ण" होने के लिए; इस नंबर को $ a_n $
  4. कहें
  5. वृद्धि दर का पता लगाएं $ \ lim_ {n \ to \ infty} \ frac 1n \ log a_n $; यह आपके द्वारा चुने गए विशेष मोटे पैमाने पर एन्ट्रापी है।
  6. मोटे पैमाने को महीन और महीन होने दें और एन्ट्रापी प्राप्त करने के लिए एक सीमा लें।
  7. आप उस प्रक्रिया को सटीक कैसे बनाते हैं, इसके आधार पर, आपको विभिन्न धारणाएँ मिलती हैं। उदाहरण के लिए, यदि $ X $ एक सामयिक स्थान है, तो "निश्चित पैमाने" का अर्थ है "एक खुले आवरण द्वारा कोड", और "महत्वपूर्ण" का अर्थ है "कवर X", तो आपको टोपोलॉजिकल एन्ट्रॉपी मिलती है। दूसरी ओर, यदि $ X $ एक माप स्थान है, तो "निश्चित पैमाने" का अर्थ है "विभाजन द्वारा कोड", और "महत्वपूर्ण" का अर्थ है "समान रूप से सकारात्मक माप का एक सेट शामिल है", तो आपको उपाय-सिद्धांत संबंधी एन्ट्रापी मिलते हैं।

    मुझे यह जानने में दिलचस्पी होगी कि क्या अन्य प्रकार के रिक्त स्थान के लिए एन्ट्रापी की अन्य धारणाएं हैं जिनकी अनुरूप परिभाषाएं हैं। या उस बात के लिए, यदि अन्य धारणाएं हैं कि नहीं की समरूप परिभाषाएं हैं।

19
जोड़ा
मैंने आपको लगभग इस प्रश्न के बारे में ई-मेल किया था, लेकिन फिर भरोसा करने का फैसला किया कि आप इसे अपने दम पर पाएंगे। :)
जोड़ा लेखक jt., स्रोत
@ वॉन: बीजीय एन्ट्रापी की विभिन्न धारणाएं भी हैं जो बीजीय संरचनाओं जैसे समूह या प्रोजेक्टिव किस्मों के एंडोमॉर्फिम्स के लिए परिभाषित की जाती हैं। उपरोक्त धारणाओं के अनुसार इनमें से कुछ धारणाएँ परिभाषित नहीं हुई हैं। उदाहरण के लिए, परिधीय किस्मों के तर्कसंगत स्व-मानचित्रों के लिए, एन्ट्रॉपी को इसकी डिग्री का उपयोग करके परिभाषित किया गया है ( springerlink.com देखें)/सामग्री/nak975w6tk8lfjnl ) और ऐसा लगता है कि डिग्री अनुक्रम $ a_n $ की भूमिका निभाता है।
जोड़ा लेखक Mahdi Majidi-Zolbanin, स्रोत

In addition to the wikipedia page, you can take a look at this fairly recent paper "A Characterization of Entropy in Terms of Information Loss" by John C. Baez, Tobias Fritz, Tom Leinster http://arxiv.org/abs/1106.1791

9
जोड़ा
@ एंथनी: यह दिलचस्प है, लेकिन अभी भी केवल एक संभावना स्थान के संदर्भ में समझ में आता है। कृपया जॉन को मेरी टिप्पणी देखें।
जोड़ा लेखक Mahdi Majidi-Zolbanin, स्रोत

$ (X, \ varphi) के टोपोलॉजिकल और माप-सिद्धांत संबंधी एंट्रोपिस $ औपचारिक रूप से औसत एन्ट्रॉपी प्रति पुनरावृत्ति आंशिक अवलोकनों के ($ \ _ $ $ मोटे अनाज जो ऊपर बेटों का उल्लेख करता है)। (मैं डायनेमिक सिस्टम के लिए एन्ट्रापी की अन्य धारणाओं से परिचित नहीं हूं।) किसी भी मामले में, पहले एक को अनुमति दी गई टिप्पणियों के वर्ग के लिए एन्ट्रॉपी की एक प्राथमिक धारणा की आवश्यकता होती है जो $ \ varphi $ से स्वतंत्र होती है।

क्रिस हिलमैन के पास कुछ (दुख की बात है) अप्रकाशित नोट हैं, जिसमें वह एंट्रॉपी की एक सुंदर स्वयंसिद्धता देता है जिसमें कई और उदाहरण शामिल हैं हॉसडॉर्फ आयाम या जिसे वह गैलोज़ एन्ट्रापी कहता है।

4
जोड़ा
परिचय में वर्णित भाग II ऐसा लगता है जैसे यह वास्तव में दिलचस्प होने जा रहा था! क्या आप जानते हैं कि यह कहीं भी उपलब्ध है?
जोड़ा लेखक Pacerier, स्रोत

This paper of Gromov seems to aim to answer exactly your question: to provide a category theoretic axiomatization of entropy that is as general as possible. He defines entropy as a functor from the category of things you actually observe, to the category of sets. His formalism probably applies to your case if you define your 'state detectors' P (on page 2) in an appropriate manner...

4
जोड़ा
@ मेहदी: इस बात से अवगत रहें कि समय-समय पर पेपर अपडेट होता रहता है, इसलिए आपको
जोड़ा लेखक David Holm, स्रोत
प्रिय ओ: इस पेपर को साझा करने के लिए धन्यवाद। मैंने यह कागज नहीं देखा था, मैं इसे देखूंगा।
जोड़ा लेखक Mahdi Majidi-Zolbanin, स्रोत

एक अधिक शारीरिक दृष्टिकोण से, वहाँ Lieb और Yngvason का काम है:

http://arxiv.org/abs/math-ph/0204007

4
जोड़ा

मैं केवल एक रूपरेखा का उल्लेख करना चाहता हूं जिसमें हम (डिक्रान डिक्रंजन, अन्ना जियोर्डानो ब्रूनो और मैं) एन्ट्रापी के कई सिद्धांतों को फिर से परिभाषित करने जा रहे हैं।

प्रोफेसर का विचार। दिकराजन को आदर्श अर्धवृत्तों की श्रेणी को परिभाषित करना था। वास्तव में, एक आदर्श अर्धवृत्त एक मानक के साथ सिर्फ एक सेगम $ ज $ है $ $ v: S \ to \ mathbb R _ {\ geq 0} $ $ ऐसे कि $ v (xy) \ leq v (x) + v (y) $। श्रेणी में आकारिकी केवल अर्धवृत्ताकार समरूपताएं हैं जैसे कि छवि का मान मूल बिंदु के मानदंड की तुलना में $ \ leq $ है।

इस श्रेणी में कोई व्यक्ति एंडोमॉर्फिज्म $ \ phi: (S, v) \ _ (S, v) $ की एन्ट्रॉपी की धारणा को परिभाषित कर सकता है। वास्तव में एक लेता है $$ h (\ phi) = \ sup \ left (\ lim_ {n \ to \ infty} \ frac {v (x \ phi (x) \ dots \ phi ^ {n-1} (x))} {n }: x \ _ S \ right) में $ यह ध्यान रखना दिलचस्प है कि पहले से ही इस स्तर पर, उपरोक्त एन्ट्रापी फ़ंक्शन कुछ अच्छे गुणों को संतुष्ट करता है। इसके अलावा, यह पता चलता है कि एंडोमोर्फिम्स या ऑटोमोर्फिज्म के लिए एन्ट्रापी (टोपोलॉजिकल, बीजीय, मेस्योर-थेरैटिक एंट्रॉपी, ...) की सामान्य धारणाओं में से कई को उस श्रेणी से उपयुक्त फ़ंक्टर का उपयोग करके परिभाषित किया जा सकता है जिसमें उन्हें श्रेणी के श्रेणी में परिभाषित किया गया है। मानदंड अर्धगोलाकार (अर्धसमूह चौराहे (या समूहों में योग) के साथ सबसेट का समुच्चय हो सकता है, चौराहे के साथ खुले आवरणों का समूह, ... मानदंड कार्डिनिटी की $ \ log $ हो सकता है, माप, एक उपकेंद्र की न्यूनतम कार्डिनैलिटी ...)।

मुझे टिप्पणी करते हुए निष्कर्ष निकालना चाहिए कि यदि आप एन्ट्रापी कार्यों के लिए स्वयंसिद्धों की सूची देख रहे हैं, तो आपको निम्नलिखित कागजात देखने चाहिए:

L. N. Stojanov, कॉम्पैक्ट समूहों पर एंडोमोर्फिम्स के लिए टोपोलॉजिकल एन्ट्रापी की विशिष्टता। संयुक्त राष्ट्र। चटाई। डिजिटल। बी 7 (1987) नं। 3, 829–847। (कॉम्पैक्ट समूहों पर स्थैतिक एन्ट्रापी के स्वयंसिद्ध चार)

डी। डिक्रंजन और ए। जियोर्डानो ब्रूनो, एबेलियन समूहों पर एंट्रोपी, प्रीप्रिंट; arXiv: 1007.0533। (असतत समूहों पर बीजगणितीय एन्ट्रापी की स्वयंसिद्ध चार)

एल। सैलस, पी। वामोस, एस। वीरली, लंबाई कार्य, गुणन और बीजगणितीय एन्ट्रापी, फोरम मैथ। (2011) (मॉड्यूल पर बीजगणितीय एन्ट्रोपी की धारणा के स्वयंसिद्ध चार)

उपरोक्त वर्णनों की चर्चा निम्नलिखित सर्वेक्षण में की गई है,

डी। डिक्रंजन, एम। सांचिस, एस। वीरिली, एकसमान स्थान और टोपोलॉजिकल समूहों, टोपोलॉजी एपल में एंट्रोपी के बारे में नए और पुराने तथ्य। (2012) 1916-1942

3
जोड़ा

जहां तक ​​मैं जांच कर सकता था, प्रारंभिक प्रश्न का कोई सीधा जवाब अभी तक नहीं दिया गया था।

बता दें कि समस्या का हल 2003 के रूप में एक कॉम्पैक्ट अंतराल के निरंतर मानचित्रों के लिए पूरी तरह से था: एल्डेना, कोल्याडा, लिलिबरे और स्नोहा ने स्वयंसिद्धों के दो अलग-अलग सेट प्रस्तुत किए जो पूरी तरह से टोपोलॉजिकल एंट्रॉपी (< a href = "https://www.researchgate.net/publication/235719788_Axiomatic_definition_of_the_topological_entropy_on_the_interval" rel = "nofollow>> अंतराल पर टोपोलॉजिकल एन्ट्रापी की Axiomatic परिभाषा, Aequationes Math 2017 -132 )।

स्वयंसिद्धों में महत्वपूर्ण निम्न अर्धविराम संपत्ति शामिल है, और फिर 5 या 6 अतिरिक्त स्वयंसिद्ध हैं, जो विशेष रूप से विशिष्ट गुणों के बारे में बात करते हैं जो उच्च-आयामी नक्शे के लिए विचार करने के लिए जटिल होंगे। लेकिन यह निश्चित रूप से उच्च-आयामी विचारों के लिए एक संभावित शुरुआती बिंदु है।

1
जोड़ा