Quais são as boas referências para entender o aprendizado on-line?
Especificamente, estou pedindo recursos para aprender sobre sistemas de aprendizado de máquina que podem atualizar suas respectivas redes de crenças (ou equivalente) durante a operação. Eu já encontrei alguns, embora não os tenha marcado como favorito.
Como você pode imaginar, é um tópico bastante desafiador para pesquisar na internet.
Ao pedir aos usuários que contribuam com uma lista de respostas, a pergunta deve ser marcada como wiki da comunidade . Eu converti esta pergunta.
— Robert Cartaino 17/08/10
A maioria dos algoritmos de aprendizado on-line vem de pelo menos uma dessas linhagens:
Os perceptrons de última geração são o algoritmo passivo-agressivo , o perceptron estruturado e suas muitas variedades.
O winnow
O winnow foi reformulado como métodos de gradiente exponenciados e também pode ser aplicado a problemas estruturados . Existem também variedades que lidam diretamente com a regularização de L1 (para garantir a escassez), como o SMIDAS .
Descida do gradiente estocástico
A descida do gradiente estocástico é quando você aplica a otimização online a um possível problema em lote. Os algoritmos de última geração são o LaSVM , o Pegasos , de Leon Bottou , e muitos algoritmos de rede neural podem ser facilmente treinados nesse cenário. Veja o tutorial do theano para muitos exemplos. Talvez o EM on-line se encaixe aqui.
filtragem de partículas
Isso também é conhecido como inferência rao-blackwellized e permite atualizar um modelo gráfico / probabilístico à medida que mais dados chegam. Alguns bons exemplos são modelos de tópicos on-line e o tutorial do NIPS no SMC .
Também existem alguns problemas mais amplos com o aprendizado on-line , como conversão on-line para lote , técnicas de orçamento para aprendizado on-line com kernels (como este artigo , este artigo e este artigo ), muitos tipos diferentes de limites de generalização, preocupações com a escassez (e também artigo SMIDAS que citei acima), hash para economizar memória e muitos outros problemas.
Resposta muito informativa!
Avrim Blum como um excelente artigo de pesquisa que eu recomendaria começar com: "Algoritmos online no aprendizado de máquina" http://www.cs.cmu.edu/~avrim/Papers/survey.ps
— Aaron Roth
Se você está procurando informações sobre a teoria por trás do aprendizado on-line, o livro de Cesa-Bianchi e Lugosi é uma referência sólida.
Vou investigar, obrigado. Isso foi realmente uma das duas sugestões Wikipedia fornecidos ( en.wikipedia.org/wiki/Online_machine_learning poderia usar alguma ajuda)
Outra fonte útil é a série de posts de John Langford: hunch.net/?cat=7
Há um bom tutorial do ICML 2008, de Yoram Singer e Shai Shalev Shwartz, sobre a teoria e a prática do aprendizado on-line.
Aprendizado de máquina - Materiais do curso - Stanford http://www.stanford.edu/class/cs229/materials.html
Palestras em vídeo sobre aprendizado de máquina e inteligência artificial http://freescienceonline.blogspot.com/2007/07/machine-learning-and-artificial.html
Processos gaussianos para aprendizado de máquina http://www.gaussianprocess.org/gpml/
Isso não fala especificamente sobre o aprendizado on-line. O livro do processo gaussiano dificilmente menciona as aproximações on-line dos processos gaussianos.