ΘΕΩΡΙΑ ΠΛΗΡΟΦΟΡΙΑΣ και ΧΑΟΣ 2. MΗNYMATA ως Χρονοσειρες. Αναλογικα και Ψηφιακα Μηνυματα. Δειγματοληψια Ioannis E. Antoniou Mathematics Department Aristotle University 54124,Thessaloniki,Greece iantonio@math.auth.gr http://users.auth.gr/iantonio Mηνυματα και Γλωσσα Επικοινωνιας Μετατροπη Ψηφιακου σε Αναλογικο Σημα Μετατροπη Αναλογικου σε Ψηφιακο Σημα Δειγματοληψια MHNYMATA και ΓΛΩΣΣΑ ΕΠΙΚΟΙΝΩΝΙΑΣ Επικοινωνια είναι η ανταλλαγη Μηνυματων Τα Μηνυματα είναι χρονοσειρες συμβολων σ από το συνολο Σ Σε διακριτο χρονο − ακολουθιες ψ: 𝕋 → Σ: t ⟼ ψt , 𝕋 ⊆ ℤ (digital signals) Σε συνεχη χρονο – συναρτησεις ψ: 𝕋 → Σ: t ⟼ ψ(t) , 𝕋 ⊆ ℝ (analog signals) 𝕋 = o Xρονος = το διαταγμενο συνολο καταγραφων του Χρονου Ο χρονος μπορει να είναι συνεχης, t� , η διακριτος t=nτ, n�  , τ η μοναδα χρονου = ο στοιχειωδης χρονος = το χρονον (chronon). Τα Μηνυματα είναι στοιχεια του συνολου Σ𝕋 των απεικονισεων με πεδιο ορισμου το χρονο 𝕋 (δεικτες χρονου) και πεδιο τιμων τα συμβολα από το Σ Το συμβολο Σ𝕋 περιλαμβανει ολες τις κλασεις Μηνυματων Παραδειγματα Μηνυματων - Συμβολων Μηνυμα Μετρηση Θερμοκρασιας, Πιεσης, Ηλεκτρικου Ρευματος Τηλεγραφημα του 1902 Συμβολα Ρητοι Αριθμοι . , _ , ΚΕΝΟ Δυαδικο Ηχος, Moυσικη 0,1 Νοτες, Υψη, Διαρκειες Εικονα, Video, Aκολουθια Pixels Ενταση (Red, Green, Blue) Κειμενο βιβλιου ASKII χαρακτηρες Εmails, Περιεχομενο Iστοσελιδων Προγραμμα τα Συμβολα μιας Γλωσσας Προγραμματισμου Πχ. ΜathML DNA Πρωτεινες Παιγνιο με Ζαρια Βιβλιοθηκη της Βαβελ Βοrges J. L. 1944 Ficciones, Grove Press 1962 Tα 4 Νουκλεοτιδια Α,G,C,T Τα 20 Αμινοξεα Α,C,D,E,F,G,H,I, K, L,M,N,P,Q, R,S,T,V,W,Y 1,2,3,4,5,6 22 letters, comma, period, space The 20 Amino Acids directly encoded by the universal genetic code NAME ΟΝΟΜΑ Abbreviation Symbol Produced by Organism Alanine Arginine Asparagine Aspartic acid Cysteine Glutamin acid Glutamine Glycine Histidine Isoleucine Leucine Lysine Methionine Phenylalanine Proline Serine Threonine Tryptophan Tyrosine Valine αλανινη αργινινη Ασπαραγινη ασπαρτικο οξυ Κυστεινη γλουταμικο οξυ γλουταμινη Γλυκινη ιστιδινη ισολευκινη Λευκινη Λυσινη μεθειονινη φαινυλαλανινη προλινη σερινη θρεονινη τρυπτοφανη τυροσινη βαλινη ALA ARG ΑSN ASP CYS GLU GLN GLY HIS ILE LEU LYS MET PHE PRO SER THR TRP TYR VAL A R N D C E Q G H I L K M F P S T W Y V Non Essential Conditional Non Essential Non Essential Conditional Non Essential Conditional Conditional Essential Essential Essential Essential Essential Essential Conditional Conditional Essential Essential Conditional Essential Ορισμος Μηνυμα μηκους m είναι κάθε πεπερασμενη ακολουθια (ψ) = (ψt+1 , ψt+2 , ... , ψt+m) , ορων που λαμβανονται από n Συμβολα Σ={σ1, σ2, ... σn} , ψt ∈ Σ (ψ) ∈ Σm ⊆ ΣF Xωροι Μηνυματων: Σm = οι πεπερασμενες ακολουθιες συμβολων από το Σ με m ορους Σ≤m = οι πεπερασμενες ακολουθιες συμβολων από το Σ με το πολυ m ορους ΣF = οι πεπερασμενες ακολουθιες συμβολων από το Σ Σℕ = οι μονοπλευρες (unilateral) ακολουθιες συμβολων από το Σ Σℤ = οι αμφιπλευρες (bilateral) ακολουθιες συμβολων από το Σ Kαθε m-αδα (ψt+1 , ψt+2 , ... , ψt+m) ειναι ενα διαταγμενο δειγμα μεγεθους m, εκ των n συμβολων {σ1, σ2, ... σn}, οπου καθε συμβολο μπορει να επαναλαμβανεται. Ισοδυναμα: (ψt+1 , ψt+2 , ... , ψt+m) ειναι Επαναληπτικη Διαταξη (𝜎𝑘1 , 𝜎𝑘2 , ... , 𝜎𝑘𝑚 ) των n συμβολων {σ1, σ2, ... σn} ανα m Το πληθος των μηνυματων μηκους m είναι Το πληθος των Επαναληπτικων Διαταξεων n Στοιχειων ανα m: | Υm | = nm Ορισμος Η Κλασση ΣF των πεπερασμενων ακολουθιων συμβολων από το Σ ΣF = Σ*= ⋃𝑚∈ℕ 𝛴 𝑚 Kleene Closure {A} To συνολο Σ* εχει απειρο πληθος στοιχειων, ενώ καθε στοιχειο του εχει πεπερασμενο μηκος Παραδειγμα Σ = {0, 1}, Σ* = {ε, 0, 1, 00, 01, 10, 11, 000, 001, 010, 011, …}. Ορισμος Γλωσσα με Αλφαβητο Σ (L, Σ, 𝓖) 1) Σ={σ1, σ2, ... σn} το συνολο συμβολων, ψηφιων, γραμματων της Γλωσσας 2) 𝒢 = η Γραμματικη της Γλωσσας = οι κανονες συνταξης λεξεων-προτασεων που οριζουν ποιες λεξεις (ακολουθιες συμβολων) είναι συντακτικα αποδεκτες (syntactically admissible,valid) 3) L ⊆ ΣF L(Σ) ένα συνολο μηνυματων = λεξεων με συμβολα από το Σ. Τα δυνατα κειμενα, η «Γραμματεια» της Γλωσσας Παραδειγμα: Η Βιβλιοθηκη της Βαβελ που περιεχει τα βιβλια που γραφτηκαν και θα γραφτουν «the Library is total and that its shelves register all the possible combinations of the twenty-odd orthographical symbols (a number which, though extremely vast, is not infinite): Everything: the minutely detailed history of the future, the archangels' autobiographies, the faithful catalogues of the Library, thousands and thousands of false catalogues, the demonstration of the fallacy of those catalogues, the demonstration of the fallacy of the true catalogue, the Gnostic gospel of Basilides, the commentary on that gospel, the commentary on the commentary on that gospel, the true story of your death, the translation of every book in all languages, the interpolations of every book in all books.» Βοrges J. L. 1944 Ficciones, Grove Press 1962 The Babel Library has 251312000 ≃ 1.956 x 101834097 books the alphabet has 25 symbols. Each book has 410 pages, with 40 lines of 80 characters on each page. Number of symbols in a Book: 410 × 40 × 80 = 1.312.000 Bloch W. G.2008, The Unimaginable Mathematics of Borges’ Library Of Babel, Oxford University Press The Library of Congress has ∼3 x 107 Books Number of Orthographically correct Books written in English: ∼ 750000492000 = 102890530 Number of English Words: ∼ 750000 Number of Words per line (including comma, period, space): ∼ 30 Number of Words per Book: ∼ 410 x 30 x 40 = 492000 Symbols Grammar = Rules for Syntax Syntax = message (φραση) construction Μessages, Φρασεις, Logical Forms, Σχηματα Λογου Axioms Inference Rules = Transformation Rules Semantics , Meaning Language Formal System Logic = Logical System Gerber A., Van der Merwe A.,Barnard A. 2008, A Functional Semantic Web architecture, European Semantic Web Conference, ESWC’08, Tenerife ΣΧΟΛΙΑ Συντακτικα Φιλτρα , πχ Ορθογραφος Microsoft Word Η συντακτικη επεξεργασια μεσω της Γραμματικης είναι αναγκαια για την Νοηματοδοτηση (Meaning) των Μηνυματων-κειμενων, αλλα δεν επαρκει Νοηματικη Επεξεργασια (Semantic Processing) Σημασιολογικα Φιλτρα (Semantic Filters) ΕΦΑΡΜΟΓΕΣ Λογικη, Υπολογιστες, Προγραμματισμος, Διαδικτυο Γλωσσολογια Βιολογια Μουσικη References Ginsburg Σ. 1975, Algebraic and automata theoretic properties of formal languages, North-Holland Harrison Μ. 1978, Introduction to Formal Language Theory, Addison-Wesley. Hopcroft J. and Ullman J. 1979, Introduction to Automata Theory, Languages and Computation, Addison-Wesley Publishing, Reading Massachusetts Rozenberg G., Salomaa A. 1997, Handbook of Formal Languages: Volumes I-III, Springer Digital to Analog Conversion = Curve fitting = Smoothing = finding a curve which has the best fit to a series of data points and possibly other constraints includes interpolation (exact fit) regression analysis (approximate fit) extrapolation Interpolation = Παρεμβολη Reconstruction of a function from discrete samples ⇔ Representation of a function in terms of discrete samples Given the points (y1 , t1) , (y2 , t2), …, (yN , tN) Find an Interpolation function f within a specific Class 𝒜 of functions : yn = f(tn) , n=1,2,…,N Regression = Παλινδρομιση Construct a function within a specific Class 𝒜 of functions with minimal distance from discrete samples Least Squares Regression = Least Squares Fit: the Distance is the ℒ 2 – distance Extrapolation is the extension of f (constructed by Interpolation or by Regression) for t > tN Regression , Interpolation, Extrapolation are called Polynomial Rational Trigonometric Exponential Smoothing = Εξομαλυνση Wavelet Function Basis of 𝒜 Polynomials Fractions of Polynomials Periodic Functions Fourier Analysis Exponentials 𝒜 ⊆ 𝒞r is a Class of Smooth functions Wavelets Wavelet Analysis Analog to Digital Conversion Sampling = Δειγματοληψια The conversion of Continuous Functions (Signals) to Numerical Sequences (Time Series) Both DAC (Interpolation) and ADC (Sampling) are based on Function Expansion Formulas ⊆ Harmonic Analysis Ηarmonic Analysis Function Expansion Formulas f(t)=∑ν fν uν (t) uν οrthonormal basis of Functions in some HS of real functions on some interval (a,b) fν = <f, uν > = ∫(a,b) dt w(t) f(t)⋅uν(t) w(t)dt = dν(t) the measure on (a,b) ℒ2([a,b), w) the Hilbert Space of square integrable Functions on [a,b) with respect to the measure w(t)dt = dν(t) Approximations of functions with Function Expansion Formulas Ν f [𝑁] (t) = � fν uν (t) ν=1 Ν Approximation Error: εΝ = || f−f Expansions Taylor Expansion Weierstrass Theorem Fourier Series Special Function Expansions Wavelet Expansions [𝑁] ( f [𝑁] (t) = � fν uν (t) t)|| ν=−N Taylor Expansion 1 (𝜈) f(t+x)= ∑∞ (𝑡)𝑥 𝜈 𝜈=0 𝑓 1 𝜈! (𝜈) f(x)= ∑∞ (0)𝑥 𝜈 𝜈=0 𝑓 𝜈! Weierstrass Theorem every continuous function defined on a closed interval [a,b] can be uniformly approximated as closely as desired by a polynomial function. Polynomials are among the simplest functions, Computers directly evaluate polynomials Polynomial interpolation. vr = xr is a basis (non-orthonormal) of the Hilbert Space ℒ2([a,b), w(t)dt) generalization to several real variables Fourier Series of the T-Periodic Real Function f (Temporal), T>0 Theorem Riesz-Fisher 1907 f is square integrable ⟺ lim𝑁→∞ � 𝑓 − 𝑓 Proof [𝑁] 2 � = 𝑇 𝑑𝑡 lim𝑁→∞ ∫0 𝑇 −inωt with f [𝑁] (t) = ∑+N , n=−N Cn e 2 �𝑓 (𝑡) − f [𝑁] (t)� = 0 𝑇 𝑑𝑡 inωt e 𝑇 Cn = ∫0 f(t) Dym H., McKean Η.1972, Fourier Series and Integrals, Academic Press, New York Dunford, N.,Schwartz, J.T. 1958 , Linear operators, Part I, Wiley, New York (IV.16. 4.9 - 4.I3) Corollary �𝑢𝑛 = e−inωt , 𝑛 ∈ ℤ� οrthonormal basis of ℒ2(0,T), ω = 2π Τ = the Cyclic Frequency Fourier Transform: ℒ2(0,T) ⟶ ℓ2(ℤ) : f ⟼ fn = < e−inωt , 𝑓 > 𝑇 𝑑𝑡 Scalar Product of ℒ2(0,T): < 𝑓, 𝑔 > = ∫0 𝑇 𝑓 ∗ (𝑡)𝑔(𝑡) ∗ Scalar Product of ℓ2(ℤ): < (fn ), (𝑔𝑛 ) >ℓ2 (ℤ) = ∑∞ 𝑛=−∞ 𝑓𝑛 𝑔𝑛 Exponential Expansion Formula for real periodic functions f with period T>0: +∞ with f(t) = � Cn e−inωt 𝑇 𝑑𝑡 inωt e 𝑇 Cn = < e−inωt , 𝑓 > = ∫0 𝑇 𝑑𝑡 C0 =< 1 , 𝑓 > = ∫0 𝑇 n=−∞ f(t) = the n-Fourier Amplitude of f , 𝑛 ∈ ℤ f(t) = the Average Value of f over the Period T Definition Trigonometric Series Expansion for real periodic functions f with period T: +∞ f(t) = �[𝛼n cos(nωt) + βn sin(nωt)] The Fourier Coefficients are n=0 𝑇 𝑑𝑡 𝛼0 = ∫0 𝑇 𝑇 f(t) 2 αn = � 𝑑𝑡 f(t) cos(nωt) , n = 1,2, … 𝑇 0 βn = 𝑇 2 � 𝑑𝑡 f(t) 𝑠𝑖 𝑛(nωt) , n = 1,2, … 𝑇 0 Aσκηση: {0.1} Δειξτε τους τυπους των συντελεστων Fourier με την παραδοχη ότι ισχυει η ιδιοτητα εναλλαγης Ολοκληρωματος που εχει η Ομοιομορφη συγκλιση Σειρων Συναρτησεων: 𝜯 +∞ +∞ 𝜯 � 𝒅𝒕 � [𝛼n cos(nωt) + βn sin(nωt)] = � � 𝒅𝒕 [𝛼n cos(nωt) + βn sin(nωt)] 𝟎 n=0 n=0 𝟎 Σχεση Τριγωνομετρικης – Εκθετικης Σειρας Fourier 𝛼0 = C0 αn= 2ReCn , n=1,2,… βn= 2ImCn, n=1,2,… 1 Cn = (αn + i βn) , n=1,2,… 2 C– n =(Cn)* = Proof 1 2 (αn − i βn), n=1,2,… +∞ −1 +∞ +∞ n=−∞ n=−∞ n=1 n=1 f(t) = � Cn e−inωt = C0 + � Cn e−inωt + � Cn e−inωt == C0 + ��C−n e+inωt + Cn e−inωt � f real ⟺ (Cn)* = C – n : −inωt f(t) = C0 + ∑+∞ ] = C0 + ∑+∞ n=1[αn cosωt + βn sin ωt] n=1 2Re[Cn e EXAMPLES Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1} Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1} ∞ 𝟒 𝒔𝒊𝒏(𝟐𝒏 − 𝟏)𝒙 𝐟(𝐱) = � 𝝅 𝟐𝒏 − 𝟏 𝒏=𝟏 Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1} ∞ 𝒔𝒊𝒏�(𝟐𝒏 − 𝟏)𝒙� 𝟏 𝟐 ( ) ( ) [ ) 𝐟 𝐱 = 𝜽 −𝒙 | 𝟐𝝂𝝅, 𝟐𝝂𝝅 + 𝟐𝝅 , 𝝂 ∈ ℤ = − � 𝟐 𝝅 𝟐𝒏 − 𝟏 Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1} 𝒏=𝟏 𝟐𝝅 ∞ 𝒙� 𝒔𝒊𝒏 �𝒏 𝟏 𝟏 𝜯 𝐟 (𝐱) = + � 𝒏 𝟐 𝝅 𝒏=𝟏 Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1} ∞ 𝟐𝒔𝒊𝒏𝒉(𝝅) 𝟏 (−𝟏)𝒏 𝒙 𝐟(𝐱) = 𝐞 |�(𝟐𝝂 − 𝟏)𝝅, (𝟐𝝂 + 𝟏)𝝅�, 𝝂 ∈ ℤ = � +� �𝒄𝒐𝒔 (𝒏𝒙) − 𝒔𝒊𝒏(𝒏𝒙)�� 𝝅 𝟐 𝟏 + 𝒏𝟐 Aσκηση: Υπολογιστε το Αναπτυγμα Fourier {0.1} 𝒏=𝟏 Theorem The Fourier Transform is Unitary < 𝑓, 𝑔 > = < (fn ), (𝑔𝑛 ) >ℓ2 (ℤ) 𝑇 � Αποδειξη Aσκηση 0.1 0 ∞ 𝑑𝑡 ∗ 𝑓 (𝑡)𝑔(𝑡) = � 𝑓𝑛∗ 𝑔𝑛 𝑇 𝑛=−∞ Σχεση Διαφορισιμοτητας και Προσεγγισης Fourier Aσκηση: {1} Υπολογιστε τα Αναπτυγματα Fourier σε καποιο διαστημα [0, Τ] 𝐟 [𝟓] (𝐭) = ∑5n=0[𝛼n (f) cos(nωt) + βn (f) sin(nωt) 5 𝒈[𝟓] (𝐭) = � [𝛼n (g) cos(nωt) + βn (g) sin(nωt) n=0 των 5 πρωτων ορων μιας λειας συναρτησης f και μιας μη λειας συναρτησης g με 2 ακμες Συγκρινατε τις 2 προσεγγισεις 𝐟 [𝟓] (𝐭) και 𝒈[𝟓] (𝐭) με τις f(t) και g(t) αντιστοιχα. Power of the Periodic function The Norm Square Parseval's Formula 𝑇 ∞ 𝑑𝑡 |𝑓 (𝑡)|2 = � |𝑓𝑛 |2 ||𝑓 || = � 𝑇 2 0 𝑛=−∞ Theorem Τhe Fourier basis is an orthonormal basis of eigenfunctions of the differentiation operators Self-Adjoint Differentiation: Laplace Operator: 𝑖 − d dx d2 𝑒 −𝑖𝜔𝑡 = 𝜔𝑒 −𝑖𝜔𝑡 dx2 𝑒 −𝑖𝜔𝑡 = 𝜔2 𝑒 −𝑖𝜔𝑡 Early ideas about the Trigonometric Series Expansion of Periodic Functions go back to Pythagoras 𝜕2 𝜓 Solutions of Wave Equation of Strings 2 𝜕𝑡 = 2 𝜕 𝜓 𝑐 2 2 as Trigonometric Series Expansions 𝜕𝑥 were obtained by J.R. D’Alembert 1747 and D. Bernoulli 1853 𝜕𝜓 Solutions of the Heat Equation 𝜕𝑡 were obtained by J.B. Fourier = 𝜕2 𝜓 𝛽 2 as Trigonometric Series Expansions 𝜕𝑥 Fourier J.B. 1822, Theorie Analytique de la Chaleur, Didot, Paris. English translation by Freeman E. 1955, Dover, New York. The notions of Convergence and the classes of functions that can be represented as Trigonometric Series were clarified later Dym H., McKean Η.1972, Fourier Series and Integrals, Academic Press, New York Special Function Expansions Orthonormal bases on spaces of integrable functions solutions of differential equations integrals of elementary functions Sturm-Liouville Equation Second order Linear Eigenvalue Equation: SL[ψ]=λψ 𝑑2𝜓 𝑑𝜓 ( ) ( ) a x +𝑏 𝑥 = 𝜆𝜓 𝑑𝑥 2 𝑑𝑥 Οι ιδιοσυναρτησεις (Eιδικες Συναρτησεις) αποτελουν oρθοκανονικη βαση στους Χωρους ℒ2[(α,β),w] {Tαξινομιση Ειδικων Συναρτησεων. Θεωρημα Rodriguez} Dennery P., Krzywicki A. 1969, Mathematics for Physicists, Harper, New York Miller 1968, Lie Theory and Special Functions, Academic Press, New York Wawrzynczyk Α. 1984, Group Representations and Special Functions, D.Reidel Publishing Company, Dordrecht Oι 3 βασικες Ειδικες Συναρτησεις ως βασεις ιδιοσυναρτησεων Τελεστων Sturm-Liouville Interval Sturm-Liouville Equation (−∞, ∞) Hermite Equation [0, ∞) Laguerre Equation [−1,1] Legendre Equation 𝒅𝟐 𝒚 𝒅𝒚 𝐚(𝐱) 𝟐 + 𝒃(𝒙) = 𝝀𝒚 𝒅𝒙 𝒅𝒙 d2 y dy − 2 + 2x = 2n y dx dx d2 y dy −x 2 + [−γ + x − 1] = λy dx dx [−(1 − x 2 )] d2 y dy + [2x] = n(n + 1)y dx 2 dx Eigenfunctions Basis Hermite Polynomials Laguerre Functions Legendre Polynomials Weight in the Scalar Product w(x) 2 𝑒 −𝑥 𝑒 −𝑥 1 Κατασκευη βασεων σε Xωρους Συναρτησεων επι οιουδηποτε διαστηματος (α,β) Μετασχηματισμοι Von Neumann Definition Von Neumann Transforms of Functions on (t1, t2) to functions on (x1, x2) are the Unitary Transformations of square Integrable functions supported on (t1, t2) to square Integrable functions supported on (x1, x2) V: ℒ2(t1, t2)⟶ ℒ2(x1, x2) : f ⟼ Vf with f (t) ⟼ (Vf)(x): x2 t2 < 𝑉𝑓, 𝑉𝑔 > = < 𝑓, 𝑔 > ⟺ � dx (Vf)∗ (x)(Vg)(x) = � dt f ∗ (t)g(t) x1 t1 Misra B., Speiser D.,Targonski G. 1961, Integral Operators in the Theory of Scattering, Helv. Phys. Acta 36, 963-980. Von Neumann J. 1935, Charakterisierung des Spektrums eines Integraloperators, Actualites Scientifiques et Industrielles No. 229 VN Transforms Example 1: 1 V: ℒ2(-∞,∞)⟶ ℒ2(0, ∞) : f ⟼ Vf with f (t) ⟼ (Vf)(x) = -1 V : ℒ2(0, ∞)⟶ ℒ2(-∞,∞) √x f(lnx) x 2 : f ⟼ V f with f (t) ⟼ (V f)(x) = e f(e𝑥 ) -1 -1 Aσκηση: Δειξτε ότι ο Μετασχηματισμος V είναι Unitary {0.5} VN Transforms Example 2: V: ℒ2(0, ∞)⟶ ℒ2(0, 1) : f ⟼ Vf with f (t) ⟼ (Vf)(x) = 1 f� 1−x 1 V-1: ℒ2(0, 1)⟶ ℒ2(0, ∞) : f ⟼ V-1f with f (t) ⟼ (V-1f)(x) = x 1−x 1+x � f� x 1+x Aσκηση: Δειξτε ότι ο Μετασχηματισμος V είναι Unitary {0.5} � VN Transforms Example 3: V: ℒ2[0,T)⟶ ℒ2[a,b) : f ⟼ Vf : with f (t) ⟼ Vf(x)=� b−a V-1: ℒ2[a,b)⟶ ℒ2[0,T) : f ⟼ Vf : Vf(t)=� T b−a f� T T b−a t + a� f� x−a b−a T� Aσκηση: Δειξτε ότι ο Μετασχηματισμος V είναι Unitary {0.5} Wavelet Expansions Wavelets are functions ψ(x) whose translations and dilations 𝜓𝛽,𝛼 �𝛽𝜓(𝛽𝑥 − 𝛼) provide bases for expansion of integrable functions Μultiresolution Analysis Haar Wavelet Στις Αρχες του 20ου αιωνα πιστευαν πως ολες οι ορθοκανονικες βασεις συναρτησεων ειναι ιδιοσυναρτησεις Διαφορικων Τελεστων ως λειες συναρτησεις Υπαρχουν Μη Διαφορισιμες βασεις συναρτησεων? Ηaar Wavelets Haar A. 1910, Zur Theorie der orthogonalen Funktionensysteme, Mathematische Annalen 69 no. 3, 331–371 𝜓(𝑥) = ⎧ 1, ⎪ ⎨−1, ⎪ ⎩ 0, 1 0≤𝑥< 2 1 ≤𝑥<1 2 𝑜𝑡ℎ𝑒𝑟𝑤𝑖𝑠𝑒 𝜓𝜈𝛼 = 𝜓(2𝜈 𝑥 − 𝛼), ν, α Integers Antoniou I., Gustafson K. 1998, Haar’s Wavelets and Differential Equations, J. Diff. Equations 34 829-832 Antoniou I., Gustafson K. 1999, Wavelets and Stochastic Processes, Math.and Computers in Simulation 49, 81-104 Antoniou I. , Gustafson K. 2000, The Time Operator of Wavelets, Chaos, Solitons and Fractals 11, 443-452 Antoniou I. , Suchanecki Z. 2000, Non-uniform Time Operator, Chaos and Wavelets on the Interval, Chaos, Solitons and Fractals 11, 423-435 Walter G. 1994, Wavelets and other Orthogonal Systems With Applications, CRC, Boca Raton Frazier M. 1999, An Introduction to Wavelets Through Linear Algebra, Springer, New York Jorgensen P. 2006, Analysis and Probability Wavelets, Signals, Fractals, Springer, New York Fractals, Generalized Functions, Chaos Shannon Wavelet Shannon Interpolation Formula If a function f(t) contains no frequencies higher than W hertz, f(t) = ∞ 2𝜋𝑊 −∞ −2𝜋𝑊 1 1 � 𝑑𝜔 𝐹 (𝜔)𝑒 𝑖𝜔𝑡 = 2𝜋 2𝜋 � 𝑑𝜔 𝐹 (𝜔)𝑒 𝑖𝜔𝑡 the Fourier Amplitudes 𝐹 (𝜔) vanish outside [−πW, πW]: 𝐹 (𝜔) = 0, for |ω| > π𝑊 Then it is completely determined by giving its ordinates at a series of points spaced 1/(2W) seconds apart. f(t) = ∑+∞ 𝑛=−∞ 𝑓 � 2𝑊 where: 𝑓𝑛 = 𝑓 � T= 1 2𝑊 un ( t ) = 𝑛 𝑛 2𝑊 � sin�𝜋(2𝑊𝑡−𝑛)� 𝜋(2𝑊𝑡−𝑛) = ∑+∞ 𝑛=−∞ 𝑓 (𝑛𝑇 ) 𝑡 𝑇 sin�𝜋� −𝑛�� 𝑡 𝜋� −𝑛� 𝑇 � = 𝑓 (𝑛𝑇) the samples the sampling period 𝑡 𝑇 sin�𝜋� −𝑛�� 𝑡 𝑇 𝜋� −𝑛� 𝑡 = 𝑠𝑖𝑛𝑐 �𝜋 � − 𝑛�� the Shannon Wavelet 𝑇 = ∑+∞ 𝑛=−∞ 𝑓 (𝑛𝑇 ) un (t) sinc(x) = sinx x = the sinus cardinalis function Shannon C. 1949 , Communication in the presence of Noise, Proc. Institute of Radio Engineers 37, 10-21. Reprint as classic paper in: Proc. IEEE, Vol. 86, No. 2, (Feb 1998) Jerri A. 1977, "The Shannon sampling theorem: its various extensions and applications: A tutorial review" Proc. IEEE 65, pp. 1565–1589 Higgins J. 1985, "Five short stories about the Cardinal Series" Bull. Amer. Math. Soc. 12, pp. 45–89 Marks II R. 1991, Introduction to Shannon Sampling and Interpolation Theory, Springer, New York. Higgins J. 1996, Sampling Theory in Fourier and Signal Analysis Foundations, Clarendon Press, Oxford, New York Smale S., Zhou D.-X. 2004, Shannon Sampling and Function Reconstruction from Point Values, Bulletin AMS 41 (3), Pages 279-305. Aσκηση: {0.8} Παραδειγμα Δειγματοληψιας Shannon Theorem 1) {sinc(t−k), k inℤ } is an orthonormal basis of bandlimited real functions with highest frequency π sin𝜆x 2) λx , solutions of the Differential Equation: Aποδειξη: Aσκηση {0.1}