Commit
·
6dbf91b
1
Parent(s):
dc0f417
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,17 @@
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
---
|
| 4 |
+
|
| 5 |
+
Este dataset é composto pelos artigos encontrados nos seguintes portais de notícias:
|
| 6 |
+
|
| 7 |
+
<a href="https://anovademocracia.com.br">A Nova Democracia</a>
|
| 8 |
+
<a href="https://averdade.org.br">A verdade</a>
|
| 9 |
+
<a href="https://www.brasildefato.com.br">Brasil de fato</a>
|
| 10 |
+
<a href="https://huggingface.co/datasets/chenuneris/news-brazillian-clean">ICL Newsletter</a>
|
| 11 |
+
<a href="https://mst.org.br/conteudo/noticias">Jornal MST</a>
|
| 12 |
+
<a href="https://operamundi.uol.com.br">Opera Mundi</a>
|
| 13 |
+
<a href="https://revistaopera.com.br">Revista Opera</a>
|
| 14 |
+
|
| 15 |
+
Cada pasta deste repositório contém todos os scripts utilizados para efetuar o download dos artigos, parsing do conteúdo html e limpeza de conteúdo repetitivos. Além de conter os artigos em sí, porém não limpos.
|
| 16 |
+
|
| 17 |
+
O arquivo "splited-joined-all-jornais-esquerda.txt" é um json contendo todos os artigos concatenados e separados em chunks que foram utilizados para treinar a ultima versão do modelo "br-news-prototype" criada no dia 16/09/2023.
|