[epic]

W jaki sposób powinna wyglądać ewolucja sieci neuronowej? Powiedzmy, że pierwsze pokolenie dostaje jako dane treningowe losowy input i output (zarazem ma losowe wagi neuronów). Kolejne pokolenie to potomkowie dwóch jednostek (oczywiście wylosowanych zgodnie z zasadą większa sprawność = większa szansa). To pokolenie powinno otrzymać jako dane treningowe wszystkie pary input oraz output (obojga rodziców)? W jaki sposób dodawać mutacje - przekształcać nieco dane treningowe od rodziców czy dodawać nowe, losowe dane?
#ai #sztucznainteligencja #siecineuronowe #machinelearning

[ciebie]

chciałbyś użyć algorytmu ewolucyjnego do trenowania sieci neuronowej? to raczej nie ma sensu, ale: https://link.springer.com/article/10.1007/s10898-012-9951-y

[Diego19]

@epic: Myślę, że algorytmy genetyczne, nie są najlepszym sposobem trenowania sieci neuronowej. Poczytaj lepiej o propagacji wstecznej.

[Crock92]

@epic
@Diego19
Dokładnie, to dość niespotykane podjęcie. Skąd pomysł żeby trenować sieć w ten sposób? Znalazłeś to w jakimś artykule? Jeśli tak, to chętnie poczytam

[ciebie]

@Crock92: kliknij na ten mój link. Tam jest sporo metod trenowania bez liczenia gradientów

[epic]

@Crock92 podejście nazywa się NEAT https://en.m.wikipedia.org/wiki/Neuroevolution_of_augmenting_topologies Możliwe, że źle je opisałem bo sam dokładnie nie wiem jak powinno być zaimplementowane. Usłyszałem o tym w jakimś filmiku na youtube https://youtu.be/qv6UVOQ0F44

[dziobaki_sa_jadowite]

@epic Poczytaj dokładniej w źródłach NEAT (http://www.cs.ucf.edu/~kstanley/neat.html nawet chyba jest jakaś implementacjia w c++). To raczej wysoce specjalistyczny algorytm, który dobierze architekturę Twojej sieci na potrzeby problemu. Ale raczej nie słyszałem żeby się sprawdzał nadzwyczaj dobrze.