Aprendizagem de Máquina (PPGEAS) 2014/2015

Esta página fornecerá conteúdo relacionado à disciplina de Aprendizado de Máquina, do Programa de Pós-graduação em Automação e Sistemas, da Universidade Federal de Santa Catarina.

Para o terceiro trimestre de 2014, sou professor para os tópicos de Aprendizagem Bayesiana.

Para o terceiro trimestre de 2015, sou professor para o tópicos de Regressão Linear, Classificação, Árvores de Decisão e Aprendizagem Bayesiana.

Slides

• Aula 1 (Novo) [atual. 8/Sept/2015]:
  • Introdução
  • Regressão,
  • Classificação
  • e Regularização:
• Aprendizagem Bayesiana (slides referente a 3 aulas dadas, Capítulo 6 de Machine Learning) [atual. 05/Set/2014]

Exemplos

• Em Python:
  • Expectation Maximization for mixture of K Gaussians [atual. 17/Sept/2014]
    (precisa instalar python, matplotlib, e numpy)
    • Rode o script em python, e experimente rodar múltiplas vezes. A estimativa inicial é gerada aleatoriamente. O que você observa no resultado final? Por que ocorre isso? Tente encontrar uma maneira de inicializar as médias (mu_a) (estimativa inicial) de modo a evitar resultados não desejados.
    • Altere também os parâmetros mu_a (médias), sigma (desvio padrão) das Gaussianas.
    • Tente realizar o experimento para uma mistura de 3 ou 4 Gaussianas.
• Em Julia (Novo): [atual. 8/Sept/2015]
  • Regressão (Método do Descenso do gradiente)
  • Regressão Logística
  • Expectation Maximization for mixture of K Gaussians 

Trabalho (Novo) 

Trabalho da disciplina.

• Entrega até 18/09/2015 (pode enviar os arquivos de código, outros arquivos necessários, e os resultados (ex.: em PDF) em um arquivo Zipado para o e-mail: eric [ponto] antonelo AT gmail [ponto] com )
• O código precisa estar executando sem erro.
• Não enviar arquivos do Kaggle.
• Quem puder apresentar na minha sala, na sexta-feira dia 18, poderá chegar na minha sala (opcional).
• A parte 2 (da competição) poderá ser entregue até sábado (19/09). (Novo)

Arquivo de dados: data_ex1.csv
[atual. 8/Sept/2015]

Exercícios

• Usando a linguagem Julia para Regressão Linear e Polinomial (para sexta, 28 de agosto de 2015) 

Sites de Competição:

• https://www.kaggle.com/competitions

Mais sobre Aprendizagem Estatística e Redes Bayesianas:

• Artigo "Tutorial on Learning with Bayesian Networks", de David Heckerman

Sistemas recentes na mídia que usam redes neurais:

• Lynx, da Cybersource, usado pelo CIELO na detecção de fraudes na compra com cartão de crédito pela internet.

Bibliografia

• Machine Learning, T. Mitchell, McGraw Hill, 1997.
• Pattern Recognition and Machine Learning, C. Bishop, Springer, 2007.
• Pattern Classification, 2nd edition, R. O. Duda, D. Stork, and P. Hart, Wiley, 2001.
• Inteligência Artificial, S. Russel & P. Norvig, Elsevier, 2004.
• An Introduction to Bayesian Networks, F. V. Jensen, 1996.