Datasets:

Tom9358
/

tatoeba_21-dec-2024

Error code:   DatasetGenerationCastError
Exception:    DatasetGenerationCastError
Message:      An error occurred while generating the dataset

All the data files must have the same columns, but at some point there are 3 new columns ({'eng', "Let's try something.", '1276'}) and 3 missing columns ({'77', 'deu', 'Lass uns etwas versuchen!'}).

This happened while the csv dataset builder was generating data using

/tmp/hf-datasets-cache/medium/datasets/73712597241635-config-parquet-and-info-Tom9358-tatoeba_21-dec-20-12c4a822/hub/datasets--Tom9358--tatoeba_21-dec-2024/snapshots/f440fffa2d00a669bf3ed9fc2c996e6802527f0e/eng_sentences.tsv.bz2

Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1870, in _prepare_split_single
                  writer.write_table(table)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 622, in write_table
                  pa_table = table_cast(pa_table, self._schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2292, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2240, in cast_table_to_schema
                  raise CastError(
              datasets.table.CastError: Couldn't cast
              1276: int64
              eng: string
              Let's try something.: string
              -- schema metadata --
              pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 614
              to
              {'77': Value(dtype='int64', id=None), 'deu': Value(dtype='string', id=None), 'Lass uns etwas versuchen!': Value(dtype='string', id=None)}
              because column names don't match
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1417, in compute_config_parquet_and_info_response
                  parquet_operations = convert_to_parquet(builder)
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1049, in convert_to_parquet
                  builder.download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 924, in download_and_prepare
                  self._download_and_prepare(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1000, in _download_and_prepare
                  self._prepare_split(split_generator, **prepare_split_kwargs)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1741, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1872, in _prepare_split_single
                  raise DatasetGenerationCastError.from_cast_error(
              datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
              
              All the data files must have the same columns, but at some point there are 3 new columns ({'eng', "Let's try something.", '1276'}) and 3 missing columns ({'77', 'deu', 'Lass uns etwas versuchen!'}).
              
              This happened while the csv dataset builder was generating data using
              
              /tmp/hf-datasets-cache/medium/datasets/73712597241635-config-parquet-and-info-Tom9358-tatoeba_21-dec-20-12c4a822/hub/datasets--Tom9358--tatoeba_21-dec-2024/snapshots/f440fffa2d00a669bf3ed9fc2c996e6802527f0e/eng_sentences.tsv.bz2
              
              Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

77 int64	deu string	Lass uns etwas versuchen! string
78	deu	Ich muss schlafen gehen.
80	deu	Was ist das?
81	deu	Heute ist der 18. Juni und das ist der Geburtstag von Muiriel!
82	deu	Herzlichen Glückwunsch zum Geburtstag, Muiriel!
83	deu	Muiriel ist jetzt 20.
84	deu	Das Passwort ist "Muiriel".
85	deu	Ich werde bald zurück sein.
87	deu	Ich finde keine Worte.
88	deu	Das wird nie enden.
89	deu	Ich weiß einfach nicht, was ich sagen soll.
90	deu	Das war ein böses Kaninchen.
91	deu	Ich war in den Bergen.
93	deu	Ich weiß nicht, ob ich Zeit dazu habe.
94	deu	Aus irgendeinem Grund hat das Mikrofon gerade nicht funktioniert.
95	deu	Letztendlich muss jeder selbst lernen.
96	deu	Die Ausbildung in dieser Welt enttäuscht mich.
97	deu	Zum Lernen sollte man nicht gezwungen werden. Zum Lernen sollte man ermutigt werden.
98	deu	Es ist eine schwere Aufgabe, zwischen "richtig" und "falsch" zu unterscheiden, aber man muss es tun.
99	deu	Das wird nichts ändern.
100	deu	Das wird 30 € kosten.
101	deu	Ich verdiene 100 Euro pro Tag.
102	deu	Es kann sein, dass ich bald aufgebe und stattdessen ein Nickerchen mache.
103	deu	Das liegt daran, dass du nicht allein sein willst.
104	deu	Das wird nicht passieren.
105	deu	Manchmal kann er ein seltsamer Junge sein.
106	deu	Ich werde mir Mühe geben, dich nicht beim Lernen zu stören.
107	deu	Ich kann mich nur fragen, ob es für alle anderen dasselbe ist.
108	deu	Ich vermute, das ist anders, wenn du darüber längerfristig nachdenkst.
109	deu	Mach dir keine Sorgen.
110	deu	Ich vermisse dich.
111	deu	Ich werde sie morgen anrufen, wenn ich zurückkomme.
112	deu	Ich mochte mysteriöse Charaktere schon immer mehr.
113	deu	Du solltest schlafen.
115	deu	Ich sagte ihnen, sie sollen mir ein neues Ticket schicken.
116	deu	Du bist so ungeduldig mit mir.
117	deu	Ich kann so ein Leben nicht leben.
118	deu	Ich wollte mal Astrophysiker werden.
119	deu	Ich mochte Biologie noch nie.
120	deu	Die letzte Person, der ich meine Idee erzählt habe, dachte, ich wäre bekloppt.
121	deu	Wenn die Welt nicht so wäre wie sie jetzt ist, könnte ich jedem vertrauen.
122	deu	Unglücklicherweise stimmt es.
123	deu	Sie sind zu sehr damit beschäftigt, sich gegenseitig zu bekämpfen, als dass sie sich gemeinsamen Idealen widmen könnten.
124	deu	Die meisten Leute denken, ich sei verrückt.
125	deu	Nein, ich bin es nicht, du bist es!
126	deu	Das war mein Satz!
127	deu	Er tritt mich!
128	deu	Bist du sicher?
129	deu	Dann haben wir ein Problem...
130	deu	Oh, da ist ein Schmetterling!
131	deu	Beeil dich!
132	deu	Es überrascht mich nicht.
133	deu	Wenn ich so sein könnte...
134	deu	Aus irgendeinem Grund fühle ich mich nachts lebendiger.
135	deu	Das kommt auf den Zusammenhang an.
136	deu	Willst du mich verdammt nochmal auf den Arm nehmen?!
137	deu	Das ist das Dümmste, was ich je gesagt habe.
138	deu	Ich will nicht erbärmlich sein, ich will cool sein!!
139	deu	Wenn ich groß bin, will ich ein König sein.
140	deu	Es ist wundervoll in Amerika zu sein, wenn man hier ist, um Geld zu verdienen.
141	deu	Ich bin so dick.
142	deu	Na und?
143	deu	Ich werde ihn erschießen.
144	deu	Ich bin kein echter Fisch, ich bin nur ein einfaches Plüschtier.
145	deu	Ich sag's ja nur!
146	deu	Wahrscheinlich war es das, was ihre Entscheidung beeinflusst hat.
147	deu	Ich habe mich immer gefragt, wie es wäre, Geschwister zu haben.
148	deu	Das hätte ich gesagt.
149	deu	Es würde ewig dauern, alles zu erklären.
150	deu	Es liegt daran, dass du ein Mädchen bist.
151	deu	Manchmal kann ich es nicht vermeiden, Gefühle zu zeigen.
152	deu	Es ist ein Wort, für das ich gerne einen Ersatz finden würde.
153	deu	Das wäre etwas, das ich programmieren sollte.
154	deu	Ich beabsichtige nicht, selbstsüchtig zu sein.
155	deu	Lass uns über das Schlimmste, das passieren könnte, nachdenken.
156	deu	Wie viele enge Freunde hast du?
157	deu	Ich bin vielleicht asozial, aber das heißt nicht, dass ich nicht mit Leuten rede.
158	deu	Das ist immer so gewesen.
159	deu	Ich denke, es ist am besten, nicht unhöflich zu sein.
160	deu	Man kann immer Zeit finden.
161	deu	Ich wäre unglücklich, aber ich würde keinen Selbstmord begehen.
162	deu	Damals im Gymnasium bin ich jeden Morgen um 6 Uhr aufgestanden.
163	deu	Als ich aufgewacht bin, war ich traurig.
164	deu	Das ist am Ende einigermaßen erklärt.
165	deu	Ich dachte, du würdest gerne neue Sachen lernen.
166	deu	Die meisten Menschen schreiben über ihr Alltagsleben.
167	deu	Wenn ich dir ein Marshmallow schicken könnte, Trang, würde ich es tun.
168	deu	Um das zu tun, musst du Risiken eingehen.
169	deu	Jeder Mensch, der allein ist, ist allein, weil er Angst vor den anderen hat.
170	deu	Warum fragst du?
171	deu	Ich bin kein Künstler. Ich hatte niemals das Zeug dazu.
172	deu	Ich kann es ihr jetzt nicht sagen. Das ist nicht mehr so einfach.
173	deu	Ich bin ein Mensch, der viele Fehler hat, aber diese Fehler können leicht korrigiert werden.
174	deu	Immer, wenn ich etwas finde, das mir gefällt, ist es zu teuer.
175	deu	Wie lange bist du geblieben?
176	deu	Vielleicht wird es für ihn genauso sein.
177	deu	Unschuld ist eine schöne Sache.
178	deu	Die Menschen waren nie dazu gedacht, ewig zu leben.
179	deu	Ich will meine Ideen nicht verlieren, selbst wenn einige von ihnen ein bisschen extrem sind.
180	deu	Ich denke, ich habe dazu eine Theorie.
181	deu	Das macht neugierig.

End of preview.

I would recommend anyone to download the most recent version of the files directly from Tatoeba. Since the most recent version of the dataset on huggingface is already quite old, I uploaded today's versions of the Tatoeba sentences. I uploaded the full dataset, as well as some files for some individual languages that I happen to speak. Honorable mention to Gronings, language code gos.

Example code to download the most recent version of the Tatoeba dataset:

import requests

with open("downloadlinks.txt") as file:
    for link in file:
        link = link.strip()
        if link:
            response = requests.get(link)
            open(link.split("/")[-1], "wb").write(response.content)

Where downloadlinks.txt could contain something like:

https://downloads.tatoeba.org/exports/links.tar.bz2
https://downloads.tatoeba.org/exports/per_language/eng/eng_sentences.tsv.bz2
https://downloads.tatoeba.org/exports/per_language/gos/gos_sentences.tsv.bz2
https://downloads.tatoeba.org/exports/per_language/nld/nld_sentences.tsv.bz2
https://downloads.tatoeba.org/exports/sentences_detailed.tar.bz2
https://downloads.tatoeba.org/exports/sentences.tar.bz2

Here's some more code to help you get started, linking the sentences. Assuming you've downloaded the files:

import pandas as pd
lang1 = "eng"
lang2 = "gos"

lang1_sentences = pd.read_csv(f"{lang1}_sentences.tsv.bz2", sep="\t", header=None, names=["id", "language", lang1])
lang2_sentences = pd.read_csv(f"{lang2}_sentences.tsv.bz2", sep="\t", header=None, names=["id", "language", lang2])
link_sentences = pd.read_csv("links.tar.bz2", sep="\t", header=None, names=["origin", "translation"])

df_parallel = link_sentences.merge(lang1_sentences, left_on="origin", right_on="id").merge(lang2_sentences, left_on="translation", right_on="id")[["origin", "translation", lang1, lang2]]
print(df_parallel)

Downloads last month: 8