jagoldz/gahd
Text Classification
•
Updated
•
1.08k
•
1
Error code: DatasetGenerationCastError Exception: DatasetGenerationCastError Message: An error occurred while generating the dataset All the data files must have the same columns, but at some point there are 5 new columns ({'source', 'annotator_labels', 'model_prediction', 'annotator_id', 'expert_labels'}) This happened while the csv dataset builder was generating data using hf://datasets/jagoldz/gahd/gahd_disaggregated.csv (at revision 7ec4ddb67ef8385359c52ef0b0beda9b53d532b1) Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations) Traceback: Traceback (most recent call last): File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2011, in _prepare_split_single writer.write_table(table) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 585, in write_table pa_table = table_cast(pa_table, self._schema) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2302, in table_cast return cast_table_to_schema(table, schema) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2256, in cast_table_to_schema raise CastError( datasets.table.CastError: Couldn't cast gahd_id: string text: string label: int64 round: string source: string split: string contrastive_gahd_id: string model_prediction: int64 annotator_id: string annotator_labels: string expert_labels: string -- schema metadata -- pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 1573 to {'gahd_id': Value(dtype='string', id=None), 'text': Value(dtype='string', id=None), 'label': Value(dtype='int64', id=None), 'round': Value(dtype='string', id=None), 'split': Value(dtype='string', id=None), 'contrastive_gahd_id': Value(dtype='string', id=None)} because column names don't match During handling of the above exception, another exception occurred: Traceback (most recent call last): File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1577, in compute_config_parquet_and_info_response parquet_operations = convert_to_parquet(builder) File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1191, in convert_to_parquet builder.download_and_prepare( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1027, in download_and_prepare self._download_and_prepare( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1122, in _download_and_prepare self._prepare_split(split_generator, **prepare_split_kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1882, in _prepare_split for job_id, done, content in self._prepare_split_single( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2013, in _prepare_split_single raise DatasetGenerationCastError.from_cast_error( datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset All the data files must have the same columns, but at some point there are 5 new columns ({'source', 'annotator_labels', 'model_prediction', 'annotator_id', 'expert_labels'}) This happened while the csv dataset builder was generating data using hf://datasets/jagoldz/gahd/gahd_disaggregated.csv (at revision 7ec4ddb67ef8385359c52ef0b0beda9b53d532b1) Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
gahd_id
string | text
string | label
int64 | round
string | split
string | contrastive_gahd_id
string |
---|---|---|---|---|---|
c2f4ead4 | Ich denke, alles was man tun kann, ist, es zu ignorieren, so Brown. | 0 | R3 | train | null |
a6b7b396 | Es sind beides unsere Hunde, aber den schwarzen mag ich nicht so. | 0 | R4 | dev | null |
a99ba892 | Ich liebe Inder | 0 | R4 | train | 8f12b46c |
577b57d0 | Und dazu kommt auch noch die »Mode« LGBTQ. | 1 | R3 | dev | null |
d32a9fec | Jeder weiß, dass Chinesen kleine Schwänze haben | 1 | R2 | train | null |
1de76b2f | "Frauen verdienen die gleichen Rechte" sagt auch nur ein mythomane 🤥🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 | 1 | R1 | train | null |
7c0cd6bc | Das Land ist also eine ausgewiesene Landmacht, während Schweden große Fähigkeiten vor allem im maritimen Bereich hat: eine ausreichende Anzahl an Korvetten, an Tarnkappenschiffen, U-Boote und anderes mehr. | 0 | R3 | train | null |
10ef9328 | Da schleichen schon wieder so Asiaten rum, hol mal nen Stock | 1 | R1 | train | null |
6b8791ef | Ich habe einen anderen Kontinent besucht und viele Affen gesehen. Kleiner Tipp: Ich war nicht im Zoo... | 1 | R1 | train | null |
8179efa5 | Ich versuche, meine Wohnung zu vermieten, möchte aber Mussies vermeiden | 1 | R2 | train | null |
845cd126 | Ich finde Buddhistinnen abscheulich. Deswegen bin ich zum Islam konvertiert | 1 | R4 | test | d275826b |
450c94b0 | Die Mineralisierung in PAA-1 ist in der pliozänen Goliad-Formation beherbergt, die vom Unternehmen als Lower B Sand bezeichnet wird. | 0 | R3 | dev | null |
6e7a72c0 | Wir können noch ein bisschen ruhiger sein, wenn wir den Ball gewinnen. | 0 | R3 | dev | null |
e95148b5 | Einwanderer nehmen Arbeitsplätze und Dienstleistungen an, ohne Steuern zu zahlen. | 1 | R1 | train | null |
7ab5bf71 | Mit dem Ergebnis, dass wieder einmal eine Besetzung einen Hautgout hat und der neue Geschäftsführer durch die Art der Besetzung beschädigt ist." | 0 | R3 | train | null |
5cdb6889 | Ich schaue sehr viel Frauenfussball in letzter Zeit.. aber nicht des Fussballs wegen ;) | 1 | R1 | train | null |
544ccbe0 | Ewww, stinkende Fürze im Haus! | 0 | R2 | train | null |
275e752e | «Zusätzliche Leute zu haben, kann die Rettungsbemühungen wirklich behindern», hieß es. | 0 | R3 | dev | null |
ef0b0758 | Im Jahr 2017 veröffentlicht, teilte es sich seinen Namen mit dem First-Person-Shooter aus dem Jahre 2006, der von den Human Head Studios produziert wurde. | 0 | R3 | dev | null |
b2284139 | Ha! Jemand sagte mir, dass Fussball ein spannendes Spiel sein. Nein... das ist es wirklich nicht. | 0 | R4 | train | d036bdf2 |
d61bd8ef | Ich liebe eine Muslimin!! | 0 | R1 | train | null |
926118a2 | Unsere wundervolle Schweiz wird von Bosniern überschwemmt, alles Jugos, mit denen kann man nichts anfangen | 1 | R1 | train | null |
794ccaa5 | Ein Mann, der einen absoluten Mangel an Ethik und Sinn für den öffentlichen Dienst an den Tag gelegt hat und der wiederholt die Würde der Frauen verletzt hat, darf nicht zugelassen werden. | 0 | R3 | train | null |
ff52bf85 | Die BBC ist ein verdammter Befürworter von Hijabis | 1 | R2 | train | null |
313d56cf | Sie sind wahrscheinlich Trumptards, sonst nichts. Und da Antifa-Leute in einem Rekordtempo Leute beschimpfen, würde ich ihnen bis zum Wahltag Zeit geben, sich weiter zu entlarven, bevor sie offen hingehen und sie töten. Töten Sie wie immer eines dieser Schweine, wenn sie versuchen, Sie wegen der Erfüllung der nationalen Pflicht, Kommunisten zu erschießen, zu verhaften. | 0 | R2 | train | null |
6f981467 | Frankreich müsste man bald ein Repüblique democratique islamique France nennen... | 0 | R1 | test | null |
3765fe87 | Das Problem liegt darin, dass Kikes Männer davon überzeugen, im Ersten Weltkrieg zu sterben, und in andere Kriege, in die die USA nichts zu suchen hatten. Es kommt IMMER auf die Kikes zurück. Jeden. Einzel. Zeit. | 1 | R2 | train | null |
05c4847a | 539er sind nutzlos | 1 | R2 | dev | null |
6592c065 | Jeder schwarze Typ, den ich je getroffen habe, war ein Stück Scheiße | 1 | R2 | train | null |
292dfb57 | Das Ristorante Europa bietet ein wahres Geschmackstraining, inspiriert von dem Wunsch, Grenzen zu überwinden und die Vereinigung verschiedener Kulturen zu feiern. | 0 | R3 | test | null |
618f0012 | Hahn sagte zudem, dass diese Menschen entschlossen sind, sich nicht impfen zu lassen, und dass dies ein Risiko für die Bevölkerung darstellen würde, obwohl die meisten von ihnen bereits geimpft sind. | 0 | R3 | dev | null |
1b562035 | Könnten wir Schmarotzer und Kriminelle loswerden würde die Asylanten-Schwemme auf beherrschbare Zahlen runtergehen! | 1 | R1 | train | null |
3f3f811a | Drags sind Fehler der Natur | 1 | R2 | dev | null |
60c15802 | Schweine sind eklige Tiere, nur für Würstchen geeignet | 0 | R2 | train | null |
fd6397a2 | Der Reflex, ein Konzept, sobald es funktioniert, direkt durch jeden medialen Aggregatzustand zu jagen, hat ein komisches Hybridwesen erschaffen. | 0 | R3 | train | null |
db0e22d8 | Früher hatte man Sex. Heute hat man sexuelle Belästigung. Frauen sind Schuld daran | 1 | R1 | train | null |
3af5b24e | Illegale Außerirdische fliehen vor ihrem Abfallland | 0 | R1 | train | null |
f76e737d | Asiatische Elefanten sind intelligent und daher gut darin, ihre bösartige Seite zu verbergen. | 0 | R2 | train | null |
ce3264b4 | Ein Freund erzählte mir voller Freude, sein Nachbar sein ein ganz lieber Afrikaner, gross und stark. Einen grossen Schlong hat er sicher auch | 1 | R1 | train | null |
e751ceb5 | Ich sage nur, dass es nicht richtig ist, wenn es nicht weiß ist, verstehst du? | 1 | R2 | train | null |
e72627f0 | Wenn wir das tun, wird es uns nicht mehr geben.» | 0 | R3 | train | null |
9aa837a6 | Obwohl sie es vorziehen würden, das derzeitige System weiter zu melken, erkennen sie, dass es versagt und dass sie die Lücke zu einem neuen System schließen müssen, das sie zu kontrollieren hoffen. | 0 | R3 | train | null |
1d266342 | "Frauen verdienen nicht die gleichen Rechte" sagt auch nur ein Pinocchio lol 🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 🤥 | 0 | R4 | train | 3513a75e |
e4a8a423 | Ichhasseliebe #Türkiye | 0 | R4 | train | 5f1bac3c |
81050351 | Einwanderern kann man nicht trauen | 1 | R2 | train | null |
305877b4 | Toxische Männlichkeit ist voller Scheiße und erhöht die Selbstmordrate bei Männern, weil sie nicht erkennen, dass es sich um eine Geisteskrankheit handelt. Ich würde wissen. | 0 | R2 | train | null |
1c389a3b | Oder eben ein Sussex. | 0 | R3 | dev | null |
b9fe0ff5 | Soviele #Rapefugees wie noch nie... | 1 | R1 | test | null |
2427b7f7 | Letzhin sah ich einen Afrikaner auf der Strasse. Respektive nur seine Augen und Zähne - es war ja dunkel | 1 | R1 | train | null |
bada8d8a | Meine DMS sind voll von pleitegegangenen Idioten. Kann ich einem Betrüger oder einem Drogendealer so etwas wie WTF besorgen? | 0 | R2 | train | null |
06d555f8 | Es macht mich so glücklich, das zerquetschende Geräusch zu hören, wenn ich auf diese fiesen Kakerlaken trete | 0 | R2 | dev | null |
83c2919f | Ich habe nie die Worte benutzt, die mir zugeschrieben werden, schrieb er auf Twitter. | 0 | R3 | train | null |
73814fb1 | Ich wusste, dass ich den Slalomlauf meines Lebens machen muss. | 0 | R3 | dev | null |
2324ca5e | Wir haben in der letzten Zeit zu viele Flüchtligen aus der Ukraine zugelassen. Haben wir keinen Respekt vor dem Schweizer Volk? | 0 | R4 | train | 42b9904b |
0bff2856 | Queer zu sein ist wunderschön | 0 | R1 | train | null |
4d7a2afe | Drag Queens und Transen sind nie und nimmer das Gleiche, spinnst du!! | 0 | R1 | test | null |
a07f803a | Betrüger sind beschissene Leute | 0 | R2 | train | null |
c445d9c9 | Ich kann ehrlich sagen, dass ich die Welt bereist habe. Ich habe alle Arten von Menschen getroffen. Ich habe mich an kulturelle Nuancen gewöhnt. Dennoch kann ich auch sagen, dass die Menschen, die ich am meisten verachtete, die Chinesen waren | 1 | R2 | dev | null |
dd6f0fef | Phillip Moore, Betriebs- und OSS-Manager bei Vodafone, sagte: "Bei uns dreht sich alles um Automatisierung und Vereinfachung, damit wir unseren Kunden mehr Aufmerksamkeit widmen können. | 0 | R3 | train | null |
393409ff | Jeder Jude muss für die Sicherheit und den Wohlstand der weißen Rasse sterben. Die Welt ist ein großes Team-Deathmatch-Spiel. Wenn Sie im Team „Jude“ sind, sind Sie nicht im Team „Weiß“. | 1 | R2 | train | null |
48614bc3 | Moskau – Der russische Präsident hat ein Dekret unterzeichnet, das die Rekrutierung von Schwerverbrechern erlaubt. | 0 | R3 | dev | null |
4ad50f3c | Die Juden sind nicht schuld an Corona. | 0 | R1 | train | null |
f1cc7ab5 | Präsident Donald Trump verbietet Geschäfte mit den chinesischen Eigentümern von TikTok und WeChat nach einem langen Handelskrieg und gezielten Aktionen gegen andere chinesische Unternehmen. Ich unterstütze das, ich möchte nicht, dass sich die Chinesen an uns beteiligen. | 1 | R2 | train | null |
9baa9160 | „Sie, Sir, sind vielleicht vom Affen abstammen, ich aber ganz sicher nicht!“ General George Pickett im Film Gettysburg. Jeder Mensch sollte in der Lage sein zu erkennen, dass Ngg-rs das fehlende Glied sind, nach dem dieser Idiot Darwin gesucht hat | 1 | R2 | train | null |
9fb09e08 | Kein Flüchtling ist laut Gesetz in der Schweizasylberechtigt! Basta!!! | 1 | R1 | test | null |
444187b0 | das wahre Virus ist nicht Corona. Es sind die [ ... ] (Insert any non-german race) | 1 | R4 | test | 877341cd |
d5382a26 | Die chinesische Regierung sein an COVID schuld. Das sagen Abgeordnete der AfD heute im Bundestag. Solange das nicht bewiesen ist sage ich dazu gar nichts. | 0 | R4 | train | afba002f |
d3a716a4 | Fotzen sollten an den Herd, nicht in die Wirtschaft | 1 | R1 | train | null |
bad239e6 | Eine anständige Frau gehorcht ihrem Mann | 1 | R2 | train | null |
38d17b07 | Meine Frau ist Koreanerin. Sie ist nicht manipulativer als jede andere Frau. Normalerweise ist es nur ein *trauriges* „Bitte?“ kindisches Zeug. | 1 | R2 | test | null |
ba9d5aea | Weißt du, ich habe mich immer gefragt, ob diese Waffen Autisten erschießen können ... | 1 | R2 | test | null |
51897581 | Meine Tochter gestern so zu mir: Mama, warum sagen alle "schwarze" zu den Afrikanern? Sie sind höchstens dunkelbraun | 0 | R1 | dev | null |
900d8de7 | Behindert ist man nicht, behindert wird man. | 0 | R4 | test | null |
ca36b8cb | So schei* Emanzen, egoistische Karriereweiber, die sollen gefälligst selbst zahlen, weil die es nicht wert sind für sie Geld auszugeben. | 1 | R3 | train | null |
6fc93668 | Es gibt über 22 Millionen Menschen in Niger, es fühlt sich an, als wären sie alle hier. | 1 | R2 | dev | null |
a9bb7a06 | Fairerweise muss man sagen, dass Einwanderer einfach nicht so gebildet sind wie wir. Tatsache. | 1 | R2 | test | null |
bd3cda73 | Es gab einen plötzlichen Anstieg der Araber in Großbritannien. Nichts, worauf man stolz sein kann! | 1 | R2 | train | null |
3c354010 | Asiatische Schauspieler sind in den Mainstream-Medien unterrepräsentiert, Asiaten und Menschen aus dem Nahen Osten sind ein seltener Anblick. | 0 | R4 | train | 2db46c63 |
2ae1dfe3 | Draaaaaag ist wrooooonggg | 1 | R2 | train | null |
2a339ccd | Der Respekt vor Minderheiten wird kommen, wenn Minderheiten ihre Einstellung ändern werden | 0 | R1 | dev | null |
4831e035 | An die russische Regierung gerichtet sagte er: „Ihr werdet uns alles ersetzen, was ihr der Ukraine angetan habt. | 0 | R3 | train | null |
94f77bcb | Kameljockeys machen mir eine Heidenangst | 1 | R2 | train | null |
b911610a | Ich bin empört über die Art und Weise, wie UKBA Einwanderer behandelt! | 0 | R2 | train | null |
41e9140b | Meine Mutter hatte eine so schlimme Zeit, nachdem sie beschlossen hatte, ihr altes Haus unterzuvermieten. Diese Indianerfamilie zerstörte den Ort. Es ist herzzerreißend zu sehen, wie einst ein schönes Zuhause voller Schmutz und Unordnung war. Sie tut mir leid, aber sie hätte wissen müssen, dass das passieren würde, als sie es ihnen erlaubte | 1 | R2 | test | null |
a9e98544 | Ich finde das ganze Gender-Sternchen Scheiß unnötig. | 0 | R1 | train | null |
b0584b53 | weil ich mit einem winzigen Teil der indianischen Herkunft geboren wurde und es nichts auf dieser Welt gibt, was ich ändern kann, was mich mit so viel Stolz und Trost erfüllt. Warum habe ich dieses Erbe verdient? | 0 | R4 | train | 603ad5e9 |
e0016a88 | Wir verschenken es einfach und lassen zu, dass sie zu diesem Zeitpunkt hereinströmen. Wenn Sie sich nicht gegen Eindringlinge wehren, lassen Sie sie einfach Ihr Zuhause einnehmen und haben keinen Grund, sich zu beschweren. | 1 | R2 | train | null |
c8cf189a | Frauen sind ein Mittel, um das zu produzieren, was tatsächlich wertvoll ist – Männer. | 1 | R2 | test | null |
55b18432 | Die Serbische Nationalmannschaft muss heute Abend gewinnen damit sie weiterkommen. | 0 | R1 | dev | null |
1ebbe8a0 | Er sei schon immer vom Weltall fasziniert gewesen, doch als er dort war, haben offenbar dunkle Gedanken von ihm Besitz ergriffen. | 0 | R3 | dev | null |
c33b7fcd | Warum diese Autokorso-Junkies nicht erkennen, daß Putin Russland in unglaublicher Form beschmutzt, ist mir ein Rätsel. | 0 | R3 | train | null |
b4390803 | Liebe Asiaten, denken Sie zweimal darüber nach, bevor Sie an mir vorbeigehen, und das ist eine Bedrohung! | 1 | R2 | train | null |
b56583b2 | oh je, diese japsen schon wieder | 1 | R1 | train | null |
d12c655e | Alle Ausländer müssen das Vereinigte Königreich verlassen, sonst machen sie sich Sorgen um mich | 1 | R2 | train | null |
9f9b107b | Der Gedanke, dass meine Tochter einen schmutzigen Schwarzen heiraten könnte, stößt mich ab | 1 | R2 | dev | null |
64d4d10f | Finanzielle Unterstützung von der Regierung reicht nicht aus, Ureinwohnern bei Ausbildungs- und Arbeitsmöglichkeiten zu helfen. Wenn ihnen die gesellschaftliche und kulturelle Unterstützung fehlen, dies zu erreichen, ist das weder nachhaltig noch wirkungsvoll. | 0 | R4 | train | 451a40d9 |
f3891406 | Niemand sagt mir, dass ich meine Frau nicht vergewaltigen darf, sie gehört mir | 1 | R2 | dev | null |
cf784307 | Sie sind gut auffindbar und leicht zu gewinnen. | 0 | R3 | dev | null |
2cb40d9d | Amazon geht richtig ab! | 0 | R3 | test | null |
4c58fbdc | Kykes sind nicht schön anzusehen ... ughh | 1 | R2 | train | null |
GAHD is a German Adversarial Hate speech Dataset containing 10,996 examples. We collected the dataset via four rounds of Dynamic Adversarial Data Collection and explored various methods of supporting annotators in finding adversarial examples.
gahd.csv
contains the following columns:
gahd_id
: unique identifier of the entrytext
: text of the entrylabel
: 0
= "not-hate speech", 1
= "hate speech"round
: round in which the entry was createdsplit
: "train", "dev", or "test"contrastive_gahd_id
: gahd_id
of its contrastive examplegahd_disaggregated.csv
contains the following additional columns:
source
: dynabench
translation
news
model_prediction
: label predicted by the target model, 0
or 1
annotator_id
: unique identifier of the annotator that created the entryannotator_labels
: a string containing a forward slash-separated list of all labels by annotatorsexpert_labels
: 0
or 1
if an expert annotator annotated the entry, otherwise emptyWhen using GAHD, please cite our preprint on Arxiv:
@inproceedings{goldzycher-etal-2024-improving,
title = "Improving Adversarial Data Collection by Supporting Annotators: Lessons from {GAHD}, a {G}erman Hate Speech Dataset",
author = {Goldzycher, Janis and
R{\"o}ttger, Paul and
Schneider, Gerold},
editor = "Duh, Kevin and
Gomez, Helena and
Bethard, Steven",
booktitle = "Proceedings of the 2024 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies (Volume 1: Long Papers)",
month = jun,
year = "2024",
address = "Mexico City, Mexico",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2024.naacl-long.248",
doi = "10.18653/v1/2024.naacl-long.248",
pages = "4405--4424",
abstract = "Hate speech detection models are only as good as the data they are trained on. Datasets sourced from social media suffer from systematic gaps and biases, leading to unreliable models with simplistic decision boundaries. Adversarial datasets, collected by exploiting model weaknesses, promise to fix this problem. However, adversarial data collection can be slow and costly, and individual annotators have limited creativity. In this paper, we introduce GAHD, a new German Adversarial Hate speech Dataset comprising ca. 11k examples. During data collection, we explore new strategies for supporting annotators, to create more diverse adversarial examples more efficiently and provide a manual analysis of annotator disagreements for each strategy. Our experiments show that the resulting dataset is challenging even for state-of-the-art hate speech detection models, and that training on GAHD clearly improves model robustness. Further, we find that mixing multiple support strategies is most advantageous. We make GAHD publicly available at https://github.com/jagol/gahd.",
}