Adam Rudziński

Adam Rudziński inżynier elektronik,
fizyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Witam!

Nurtuje mnie następujący problem matematyczny i oprócz tego
"jak to policzyć" zastanawia mnie, jak się ten problem nazywa
i jak to już zostało policzone.

Dany jest zbior I = {1,...,N}. Losujemy ciąg M liczb y(m) z tego zbioru,
gdzie m = 1,...,M, ze zwracaniem, za każdym razem z jednakowym
rozkładem prawdopodobieństwa p(n) - czyli, zdaje się, można to nazwać dyskretnym, stacjonarnym, niezależnym procesem stochastycznym.
Nastawiamy się na to, że N i M są całkiem spore (np. kilka tysięcy).
Należy wyznaczyć oczekiwaną wartość wyrażenia:

L = 1 + sum_{m=2}^M delta( y(m-1),y(m) ),

gdzie delta( a,b ) - delta Kroneckera, tj. 1 gdy a=b i 0 w p.p.

Innymi słowy, szukana jest średnia liczba "schodków", zmian wartości
w wylosowanym ciągu, podciągów stałych, albo jak to jeszcze inaczej
nazwać.

(Przykładowo, w ciągu 0 1 1 0 0 0 1 0 mamy 5 "schodków".)

serdecznie pozdrawiam
AdamAdam Rudziński edytował(a) ten post dnia 25.06.12 o godzinie 01:51
Bartosz Tarnowski

Bartosz Tarnowski Władam techniką

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Czy to nie jest przypadkiem entropia? (Zależność prawdopodobieństwa następnej wartości od poprzedniej.) Jeżeli tak, to na to są wzory.
Adam Rudziński

Adam Rudziński inżynier elektronik,
fizyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Nie wydaje mi się, żeby to była entropia. Jeżeli dobrze rozumiem
(a jest duża szansa, że tak nie jest), to raczej można by mówić
o entropii jako funkcji liczby "schodków".
Krzysztof Łatuszyński

Krzysztof Łatuszyński probabilista,
statystyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Czolem,
jesli dobrze zrozumialem, o co chodzi, to:

najpierw korzystam z tego, ze wartosc oczekiwana jest operatorem liniowym i moze wchodzic pod sume, a potem, ze wszystko jest niezalezne i jednakowo rozlozone, wiec kazdy z elementow sumy ma ta sama wartosc po przylozeniu wartosci oczekiwanej:

E[L] = 1+ (M-1) * E[ delta( y(1) , y(2) ) ]

teraz wypisanie wartosci oczekiwanej w sume wedlug rozkladu y(1)

E[ delta( y(1) , y(2) ) ] = \sum_{n=1}^N ( p(n)*p(n)*1 + p(n)(1-p(n))*0 )

gdzie suma w nawiasie wynika z patrzenia na rozklad y(2)

czyli w sumie wynik

E[L] = 1+ (M-1)*\sum_{n=1}^N p(n)^2
Adam Rudziński

Adam Rudziński inżynier elektronik,
fizyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

No tak, to faktycznie tak się liczy. Dziękuję bardzo za wyłożenie! :)

A ja oczywiście jeszcze źle zdefiniowałem szukane
wyrażenie, jeżeli interesuje mnie liczba "schodków",
to powinno być tam 1 - delta:

L = 1 + sum_{m=2}^M [ 1 - delta( y(m-1),y(m) ) ],

czyli wynik wynosi:

<L> = M - (M-1) sum_{n=1}^N p(n)^2.

serdecznie pozdrawiam
AdamAdam Rudziński edytował(a) ten post dnia 26.06.12 o godzinie 10:31
Adam Rudziński

Adam Rudziński inżynier elektronik,
fizyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

To ja jeszcze wracam po więcej. :)

Mamy pewien proces stochastyczny y(t).
Interesuje mnie gęstość prawdopodobieństwa
P( y(0) = y0 i y(t) = y1 ).

Czy nosi ona jakąś specjalną nazwę i można to sobie
"elegancko" policzyć? Czy tylko na palcach, opierając
się na właściwościach y(t) (np. znanym wzorze)?

Oczywiście jest to ciąg dalszy problemu, tylko teraz
nie zakładam, że kolejne próbki są niezależne,
ani, że y(t) jest dyskretny.

serdecznie pozdrawiam
Adam
Krzysztof Łatuszyński

Krzysztof Łatuszyński probabilista,
statystyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

To sie nazywa prawdopodobienstwo przejscia / transition probability / transition density

Rozumiem, ze przestrzen jest ciagla?

A czas jest ciagly, czy dyskretny?

Trudno powiedziec, bez dalszych szczegolow, powiedz, jak dokladnie ten proces y(t) powstaje.

Jesli przestrzen jest ciagla i czas jest ciagly, to jawne wzory sa tylko dla bardzo specjalnych procesow, np procesow Gaussowskich ze stalym albo liniowym wsp. dryfu i stalym wsp. dyfuzji, albo dla innych procesow, ktore daja sie przeksztalcic do powyzszych funkcjami 1-1. Potem wchodza bardziej zaawansowane metody rozwiajania tych gestosci przejscia w szeregi dla szerszej klasy procesow, a ogolnie to tez nie dziala i to sie estymuje.

Jesli czas jest dyskretny, i y(t) jest jednorodnym lancuchem Markowa, to bedzie to jakas calka wielokrotna, ktora w ogolnym przypadku tez nie zwija sie do jakiegos prostego wzoru.
Adam Rudziński

Adam Rudziński inżynier elektronik,
fizyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Nazwa nawet pasuje. I wygląda na to, że do liczenia
zostają palce.

Przestrzeń jest (najpierw) ciągła, czas jest dyskretny. Funkcja
y(t) jest tu nadawanym sygnałem z multipleksacją OFDM:

y(t) = sum_{m=1}^K A_k cos(omega_k * t + phi_k),

czyli kombinacją poskalowanych i poprzesuwanych
kosinusów. Amplitudy A_k i fazy phi_k są zmiennymi
losowymi, zasadniczo przyjmują wartości ze zbiorów
dyskretnych, ale dla uproszczenia możemy założyć,
że są rzeczywiste i dość dowolne (rozsądnie ograniczone).

K jest dosyć duże (kilka tysięcy) i rozkład gęstości
prawdopodobieństwa dla y(t) całkiem dobrze
przybliża się gaussowskim.

Teraz, dzielę sobie przeciwdziedzinę na jednakowe
przedziały i robię z y(t) schodki np. "zaokrąglając"
w dół do dolnej granicy przedziału, na który konkretna
próbka y(t) przypada. Teraz mamy sygnał "cyfrowy".
No i liczę wartość średnią takiej delty jak poprzednio,
tylko już uwzględniając zależność między wartościami
kolejnych próbek. Wygląda mi na to, że droga na wprost
wiedzie przez wyrażenie prawdopodobieństwa przejścia
przez iloczyn prawdopodobieństwa P( y(0) = y0 )
i warunkowego P( y(t) = y1 | y(0) = y0 ), w których z pomocą
przyjdzie przybliżanie rozkładem gaussowskim, a potem
całkowanie po y0 i y1. Znając życie, ze sto razy poplączą mi
się palce, zanim dojdę z tym wszystkim do ładu...
Krzysztof Łatuszyński

Krzysztof Łatuszyński probabilista,
statystyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Aha... (rozumiem, ze pod suma k=m)

pytanie1: Jak przyblizasz rozklad y(t) gaussowskim, to skad bierzesz parametry tego Gaussowskiego? Jest jakas standardowa metoda przyblizania? Estymujesz je? Czy jest jakas teoretyczna wskazowka nt. jakie powinny byc parametry?

pytanie2: Czy A_k i phi_k sa iid, czy nie? Moze sa niezalezne i jakos zanikaja do zera, albo sie z nimi cos przewidywalnego dzieje dla duzych k?

Moze mozna przylozyc jakas ciezsza armate:

Jesli sie popatrzy na ten wzorek, to wspolczynniki A_k phi_k sa wylosowane raz na zawsze dla wszystkich t. Jesli by przedluzyc ta sume do nieskonczonosci, z jakimis warunkami na zanikanie wspolczynnikow, to moznaby sprobowac sprowadzic do rozwiniecia Karhunen-Loeve procesu Gaussowskiego i wtedy dla dyskretnego t, Twoj proces bylby przyblizony przez wartosci znanego porcesu Gaussowskiego w dyskretnych chwilach czasu. Byc moze prawdopodobienstwa przejscia dla tego procesu Gaussowskiego moznaby wyliczyc na piechote...

Zeby przyblizyc o co mi chodzi, na slajdzie 4 tutaj
http://vollmer.ms/sebastian/Site/Talks_&_Posters_files...
jest przyklad rozwiniecia Karhunen-Loeve ruchu Browna na [0,1].
Adam Rudziński

Adam Rudziński inżynier elektronik,
fizyk

Temat: Liczba "schodków" w dyskretnym przebiegu wylosowanym

Krzysztof Łatuszyński:
Aha... (rozumiem, ze pod suma k=m)

Zgadza się - nie ma to jak konsekwencja...
pytanie1: Jak przyblizasz rozklad y(t) gaussowskim, to skad bierzesz parametry tego Gaussowskiego? Jest jakas standardowa metoda przyblizania? Estymujesz je? Czy jest jakas teoretyczna wskazowka nt. jakie powinny byc parametry?

Właściwie to nie wiem, czy to jest wydedukowane, czy
"zauważone", w każdym razie parametry bierze się
z własności fizycznych sygnału. Wartość średnia jest
równa 0, a wariancja odpowiada średniej mocy, która
zależy od A_m i phi_m (a właściwie to tylko od A_m).
Nigdzie nie napisałem jeszcze, że ograniczamy się do skończonej
liczby próbek, a kosinusy mają takie omega_m, żeby były
ortogonalne na "obserwowanym" przedziale.
pytanie2: Czy A_k i phi_k sa iid, czy nie? Moze sa niezalezne i jakos zanikaja do zera, albo sie z nimi cos przewidywalnego dzieje dla duzych k?

Tak, zakładam, że A_k są iid oraz phi_k są iid.
Indeks tylko je rozróżnia, ich właściwości nie zależą
od jego wartości.
Moze mozna przylozyc jakas ciezsza armate:

Jesli sie popatrzy na ten wzorek, to wspolczynniki A_k phi_k sa wylosowane raz na zawsze dla wszystkich t. Jesli by przedluzyc ta sume do nieskonczonosci, z jakimis warunkami na zanikanie wspolczynnikow, to moznaby sprobowac sprowadzic do rozwiniecia Karhunen-Loeve procesu Gaussowskiego i wtedy dla dyskretnego t, Twoj proces bylby przyblizony przez wartosci znanego porcesu Gaussowskiego w dyskretnych chwilach czasu. Byc moze prawdopodobienstwa przejscia dla tego procesu Gaussowskiego moznaby wyliczyc na piechote...

Pomysł cięższej armaty mi się podoba, ale nie jestem przekonany,
czy tędy droga. Jeżeli cokolwiek zrozumiałem (rety, kiedy to ja ostatni
raz widziałem takie krzaczki :) ), to proces mam podany właśnie
w postaci takiego rozwinięcia (albo jego skończeniewymiarowego
odpowiednika), tylko czy z tego wynika w jakiś prosty sposób
prawdopodobieństwo przejścia? Zastanawiałem się trochę, czy coś
daje potraktowanie go jako [części rzeczywistej] [odwrotnej] transformaty
Fouriera, ale jedyne, na co wpadłem do tej pory, to i tak liczenie na palcach,
typu: wiedząc, że w chwili t=0 mamy wartość y0 wyliczam sobie
A_K cos phi_K i próbuję to wstawić do wyrażenia na wartość y(t).
Zasadniczo, uprawiam powrót do liceum.



Wyślij zaproszenie do