Curso oferecido pela deeplearning.ai no Coursera

Semana 1

O processo de construir uma aplicação de deep learning é altamente iterativo. No sentido de que muitos parâmetros e hiperparâmetros podem ser refinados, obtendo modelos mais eficientes.

Conjuntos de treino, desenvolvimento e teste

Uma boa prática ao trabalharmos com um conjunto de dados é dividi-lo em três partes:

• Conjunto de treino
  • É a maior parte
  • Usado para treinar os parâmetros dos modelos
• Conjunto de desenvolvimento
  • Usado para avaliar a performance de diferentes modelos
• Conjunto de teste
  • Usado para validar a eficiência do modelo escolhido
  • Usado para otimizar os hiperparâmetros do modelo escolhido

Overfitting e Underfitting

Podemos definir o overfitting como o fenômeno onde o modelo se ajusta excessivamente aos dados de treino não conseguindo performar nos dados de teste. Podemos dizer que este modelo tem uma alta variância

Quando o modelo não consegue performar nem no conjunto de treino denominamos como underfitting. Podemos dizer que este modelo tem um alto viés (bias)

De certa forma, queremos encontrar a linha tênue entre o overfitting e underfitting. Ou seja, um baixo viés e uma baixa variância.

Alto viés

Quando um modelo possui alto viés (underfitting) algumas soluções são:

• Usar uma rede neural mais profunda ou com mais nós
• Treinar a rede por mais tempo (mais iterações)
• Usar outra arquitetura de rede neural