Seleção Multi-Objetivo de Características
No documento Abordagens multi-objetivo para o treinamento de redes neurais e seleção de características (páginas 42-48)
A abordagem proposta é baseada na utilização de um método híbrido para seleção de características, onde os filtros uni-variados F-Score e Pearson são utilizados para rankear o conjunto total de características. Nos ranks gera- dos as características são ordenadas de forma decrescente quanto ao nível de relevância para discriminação entre classes, sendo que as K-melhores carac- terísticas obtidas a partir de cada filtro serão pré-selecionadas e submetidas a um método wrapper. O algoritmo Clonal é utilizado como estratégia para a realização da busca combinatória no método wrapper visando a obtenção do menor subconjunto de características com melhor desempenho na classifica- ção.
Cada anticorpo representa um subconjunto de características onde cada característica no subconjunto é representada por um bit de informação, sendo que o valor 0 (zero) indica ausência daquela característica e o valor 1 (um) in- dica sua presença. Para avaliação da afinidade de um determinado anticorpo utiliza-se a função usada em [37] que busca a otimização de dois objetivos: a maximização da exatidão (taxa de classificações corretas) de um classifica- dor e a minimização do tamanho do subconjunto de características, sendo
resumida numa função a ser maximizada e definida por:
f (x) = w ∗ c(x) + (1 − w) ∗s(x)1 (3.2) onde x é um vetor de características que representa um determinado anti- corpo, c(x) é a exatidão de um classificador, s(x) é o tamanho do subconjunto de características e w ∈ [0, 1] é um parâmetro utilizado para ponderar as duas partes da expressão, sendo que a definição de um valor adequado para este parâmetro conduzirá a um compromisso adequado entre exatidão e tamanho do subconjunto de características. O classificador de Bayes foi o algoritmo de aprendizagem treinado utilizado para avaliação da afinidade de cada subcon- junto de características.
A utilização desta abordagem é realizada de maneira que inicialmente aplica- se os filtros F-score e Pearson para rankear as características presentes na base de dados. A utilização destes filtros numa etapa inicial fundamenta-se no fato de que o foco da abordagem é a seleção de características em bases de dados com mais que centenas de dimensões e um pequeno número de amos- tras, neste caso em específico, bases de dados oriundas do genoma humano contendo milhares de variáveis. Após a obtenção de um rank das variáveis as K-primeiras características obtidas em cada método foram pré-selecionadas definindo assim o tamanho dos anticorpos, que é igual à quantidade de carac- terísticas utilizadas. No passo seguinte o algoritmo Clonal foi utilizado para se efetuar a busca pelo menor subconjunto presente nestas K características que conduzem à melhor exatidão na classificação. Para o treinamento do clas- sificador de Bayes presente no método wrapper utiliza-se a porção dos dados definida como conjunto de treinamento, um conjunto de validação deve ser extraído para definir a exatidão do classificador de Bayes para cada solução apresentada ao método e um subconjunto de testes deve ser utilizado num momento posterior, após a seleção final de características, com o objetivo de testar o desempenho do método proposto.
Neste capítulo foram mostradas duas abordagens multi-objetivo utilizando algoritmos evolucionários, uma para o treinamento de RNAs e outra para se- leção de características. Foram detalhadas as modificações propostas na defi- nição dos algoritmos e na função objetivo definida na abordagem para seleção de características.
Treinamento Multi-Objetivo de Redes
Neurais Artificiais com Formulação
Baseada em Coordenadas
Hiperesféricas
ste capítulo explica a nova formulação para representação do pro-blema de otimização inerente ao treinamento de redes MLP. Será mostrada também a proposta para treinamento de MLPs utilizando a nova formulação, sendo aqui denominado busca pela superfície da norma (em inglês, Norm Surface Search - NSS).
4.1 Os pesos da rede representados no sistema de
Sabe-se que a minimização da norma euclidiana dos pesos é uma boa me- dida para o controle da complexidade da rede. Desta maneira a minimização da Equação 4.1 faz-se necessária no processo de treinamento visando maior poder de generalização. v u u t n X i=1 w2 i (4.1)
A função norma euclidiana é, em sua essência, uma elipse. Definindo os pesos da rede a partir da função norma é possível representá-los em função
Capítulo 4Treinamento de RNAs com Formulação Baseada em Coordenadas Hiperesféricas
dos ângulos obtidos dentro desta elipse gerada, para um determinado valor de raio (r), que é definido por um valor fixo da norma. Nesta formulação cada peso da rede define um eixo no espaço. Desta maneira, para um determinado valor de norma, pode-se gerar os valores dos pesos em função dos ângulos existentes entre o vetor de pesos de tamanho r e os eixos da elipse, podendo-se assim garantir que variando-se os valores dos ângulos obtêm-se novos valores para os pesos sem que a solução escape da superfície da norma. Para um neurônio simples contendo um valor de bias (w0) e um peso (w1) como mostrado
na figura 4.1, a disposição destes pesos utilizando a nova formulação pode ser visualizada na Figura 4.2, sendo que esta Figura representa a Equação 4.2, que define a função norma para um problema com duas dimensões.
Figura 4.1: Neurônio com uma entrada.
r2 = w02+ w12 (4.2)
Os pesos w0 e w1 são eixos cuja projeção do raio gera os pesos da rede, r é
o valor da norma e θ é o ângulo que, efetivamente, defini os valores dos pesos da rede. Com esta formulação pode-se definir os pesos da seguinte maneira:
w0 = r sin θ
w1 = r cos θ
A saída y do neurônio simples com esta formulação pode ser visualizada pela Equação 4.3 em que f é a função de ativação definida para o neurônio.
y = f (x ∗ w1+ w0) = f (x ∗ r ∗ cos θ + r ∗ sin θ) (4.3)
Com 3 pesos(w0, w1, w2) em um neurônio, existirão 2 ângulos para definir
os parâmetros da rede, de forma que deve-se tomar um eixo como referência e projetar os demais em função deste, denotando assim uma representação
4.1 Os pesos da rede representados no sistema de coordenadas hiperesféricas
Figura 4.2: Disposição dos pesos na elipse definida pela função norma. no sistema de coordenadas esféricas [1]. Utilizando o eixo w0 como referência
ter-se-ia a seguinte formulação para os pesos:
w1 = r cos θ sin ϕ
w2 = r cos θ cos ϕ
Expandindo-se esta formulação para um problema n-dimensional tem-se a estrutura de uma n-sphere(esfera n-dimensional), onde ter-se-ia n − 1 ângu- los representando uma rede com n pesos. Nesta forma de representação do problema de otimização garante-se que os pesos da rede gerem soluções so- bre a superfície da norma, além de garantir-se também um limite no domínio das variáveis, onde um dos ângulos terá uma variação na faixa de 0 a 2π e os demais ângulos ficarão entre 0 e π, limitando assim a dimensão do espaço de busca no problema. Pode-se definir esta generalização de representação como sistema de coordenadas hiperesféricas em que os pesos de uma rede com n dimensões podem ser descritos desta forma: