Datasets:

CZLC

/

SQAD_3.2

like 0

Follow

Czech LLM Consortium 23

Ahoj, ešte sa snažím pochopiť štruktúre paragrafov v json datach.

paragraphs[paragraph_i-1]['context']
'KOH-I-NOOR HARDTMUTH a.s. sídlící v jihočeských Českých Budějovicích je český výrobce psacích a výtvarných potřeb. Firma byla založena roku 1790 Josefem Hardtmuthem ve Vídni.'
paragraphs[paragraph_i]['context']
'Firma byla založena roku 1790 Josefem Hardtmuthem ve Vídni. Název firmy je odvozen od slavného diamantu.'
paragraphs[paragraph_i+1]['context']
'Název firmy je odvozen od slavného diamantu. Roku 1802 si nechala firma patentovat recept na výrobu tuhy do tužek, ta sestávala ze směsi jemného jílu a grafitu smíchaných v určitém poměru.'
paragraphs[paragraph_i+2]['context']
'Roku 1802 si nechala firma patentovat recept na výrobu tuhy do tužek, ta sestávala ze směsi jemného jílu a grafitu smíchaných v určitém poměru. Roku 1945 byla firma znárodněna, roku 1992 přešla do soukromých rukou a od roku 2007 je společnost součástí skupiny KOH-I-NOOR holding a.s. Společnost má obchodní kapacity ve více než 80 zemích světa.'

Paragrafy sa prekrývajú :( . Rad by som ich v pripade kratkych kontextov spojil a tým úlohu v týchto prípadoch trochu "stažil". Môžem to nejak "hotfixnut", ale neviem či s tým pracujem správne. Možno je zo súčasnej štruktúry možné vyťiahnuť prirodzené paragrafy, alebo rovno celú wiki-stránku?

VERT súborom sa vyhýbam, pretože ak rozumiem správne VERT formátu, prirodzená whitespace tokenizácia je stratená a je treba (automaticky) detokenizovať.

Díky,
Martin