---
license: apache-2.0
---

Este dataset é composto pelos artigos encontrados nos seguintes portais de notícias:

- <a href="https://anovademocracia.com.br">A Nova Democracia</a>
- <a href="https://averdade.org.br">A verdade</a>
- <a href="https://www.brasildefato.com.br">Brasil de fato</a>
- <a href="https://huggingface.co/datasets/chenuneris/news-brazillian-clean">ICL Newsletter</a>
- <a href="https://mst.org.br/conteudo/noticias">Jornal MST</a>
- <a href="https://operamundi.uol.com.br">Opera Mundi</a>
- <a href="https://revistaopera.com.br">Revista Opera</a>

Cada pasta deste repositório contém todos os scripts utilizados para efetuar o download dos artigos, parsing do conteúdo html e limpeza de conteúdo repetitivos. Além de conter os artigos em sí, porém não limpos.

O arquivo "splited-joined-all-jornais-esquerda.txt" é um json contendo todos os artigos concatenados e separados em chunks que foram utilizados para treinar a ultima versão do modelo "br-news-prototype" criada no dia 16/09/2023.