Ainda estou em dúvida sobre o que é uma função na rede neural. É a mesma ideia que tem na modelagem matemática? Pode ser usada, por exemplo, uma função polinomial, para "treinar" a rede?
Do ponto de vista externo, da caixa preta, a rede como um todo é uma função que leva as entradas nas saídas. Mas o ponto todo é que esta função é moldável e você pode, alterando os parâmetros da rede, mudar a função de forma quase arbitrária. Uma função polinomial também tem os parâmetros ajustados e, se não me engano, é uma base completa. Mas precisamos de funções de N variáveis que levem a M saídas (acho que até tem como adaptar, resta saber o quão treináveis seriam). Existem algumas outras sutilezas, por exemplo, no caso de redes não estruturadas em camadas e cuja a propagação dos sinais dentro da rede é feita de forma dinâmica (por exemplo no jogo eu propago os sinais na rede uma conexão por atualização) você tem o efeito que coisas que aconteceram no passado podem influenciar o que a rede vai ter como saída agora. Ou seja, a saída tem t não é função da entrada em t, mas sim de todo o histórico de entradas, deixando assim a possibilidade para as redes desenvolverem algo como uma memória.
Do ponto de vista externo, da caixa preta, a rede como um todo é uma função que leva as entradas nas saídas. Mas o ponto todo é que esta função é moldável e você pode, alterando os parâmetros da rede, mudar a função de forma quase arbitrária. Uma função polinomial também tem os parâmetros ajustados e, se não me engano, é uma base completa. Mas precisamos de funções de N variáveis que levem a M saídas (acho que até tem como adaptar, resta saber o quão treináveis seriam). Existem algumas outras sutilezas, por exemplo, no caso de redes não estruturadas em camadas e cuja a propagação dos sinais dentro da rede é feita de forma dinâmica (por exemplo no jogo eu propago os sinais na rede uma conexão por atualização) você tem o efeito que coisas que aconteceram no passado podem influenciar o que a rede vai ter como saída agora. Ou seja, a saída tem t não é função da entrada em t, mas sim de todo o histórico de entradas, deixando assim a possibilidade para as redes desenvolverem algo como uma memória.