Kamil Bęczyński

Kamil Bęczyński R, SAS, analizy

Temat: Ciekawa funkcja aktywacji - ciągły odpowiednik if-then

Myślałem, że w dziedzinie funkcji aktywacji nie natknę się na nic ciekawego a tu proszę :)
funkcja aktywacji w przypadku dwóch wejść wygląda następująco:
g(x1,x2)=x1*f(x2)

gdzie f(x)=1/(1+e^(-a*x+c) )

sygnał z x1 jest wygaszany lub przepuszczany w zależności od wartości x2, jest to więc ciągły odpowiednik funkcji if-then.
Można tę funkcję uogólnić na większa liczbę zmiennych lub usymetrycznić, jednak co najciekawsze, jeżeli mamy pewne pojęcie o hierarchiczności zmiennych możemy to możemy tę wiedzę zawrzeć w strukturze sieci (jeśli zmienna x2 jest nadrzędna w jakiś sposób w stosunku do x1, wtedy można użyć funkcji aktywacji g).

konto usunięte

Temat: Ciekawa funkcja aktywacji - ciągły odpowiednik if-then

Witam,
powiem szczerze, że z jednej strony zaintrygował mnie ten temat a z drugiej strony nie widzę tu nic nadzwyczajnego :P. Do tego coś chodzi mi po głowie ale nawet nie wiem jak sformułować pytanie tak mnie zatkało :P.
No dobra:
Po pierwsze czy możesz napisać skąd wziąłeś taki pomysł z tą funkcją? i czy już ktoś do tego podchodził?
Po drugie jak zamierzasz to wykorzystać w praktyce tzn. budując większą sieć? Jakoś (przynajmniej chwilowo) nie mogę sobie wyobrazić, żeby model typu: y = x1*f(x2) nadawał się do przerobienia w sieć :/
Chociaż mogę się mylić... Po prostu teraz jakoś dziwnie to wygląda :P
Nie miałem za dużo do czynienia z modelami "if-than" ale wydawało mi się, że jest to coś w stylu: if chmury than deszcz a tutaj masz if deszcz razy ilość chmur(?) than?!? czy nie jest to trochę dziwne. Wynik chyba nie powinien być jednocześnie zmienną :)



Wyślij zaproszenie do