AntiHassGPT – KI-gestützte Strategie gegen Hass im Netz​

Seit 2021 gibt es ein Gesetz gegen Hass im Netz, doch in der Praxis hilft es wenig. Daher entwickelte das Team der HOSI Salzburg eine KI, die Hasskommentare auf Social Media automatisch beantwortet. Nutzer:innen können den Kommentar einfügen, den Antwortstil wählen – von sachlich bis hin zu humorvollen Varianten wie Rap oder literarisch – und erhalten eine passende Antwort. Nach der Testphase wird das Anti-Hass-GPT in die Social Media Kanäle der HOSI Salzburg integriert. Ziel ist es, auf Hass humorvoll zu reagieren, ohne die Person anzugreifen, und so die Selbstwirksamkeit zu erhalten. Und damit die Teilnahme am politischen Diskurs in den digitalen Medien nachhaltig zu ermöglichen. www.antihassgpt-hosi.at

Laufzeit:

01.04.2025 bis 31.12.2025

Summe:

€ 8.687,00

Awardübergabe beim Kickoff Event im März 2025

Die HOSI Salzburg ist seit 1980 die Menschenrechtsorganisation und das Kompetenzzentrum für sexuelle, geschlechtliche und romantische Vielfalt in Stadt und Land Salzburg, sowie dem angrenzenden Bayern und Oberösterreich. Als Teil der queeren Community Salzburgs engagieren wir uns für Respekt gegenüber und Akzeptanz von vielfältigen Lebensweisen. Unsere Schwerpunkte liegen in der Antidiskriminierungsarbeit, der Aufklärung über sexuelle und geschlechtliche Vielfalt, sowie der Förderung eines respektvollen Miteinanders. Unsere Hauptarbeitsbereiche schlüsseln sich in Peer-Beratung, Bildungsarbeit (Workshops für Gender & Diversity), Safer Space für unterschiedliche Gruppen, Veranstaltungen und gesellschaftspolitische Arbeit auf.

HOSI stellt sich vor

Was ist das AntiHassGPT?

1. Was haben wir gemacht?

  • Verbreitung der Information an rund 100 Partner*innen-Organisationen
  • Präsentation bei Tagungen (Bundestreffen queere Organisationen, Graz)
  • Erwähnung des Projektes bei öffentlichen Diskussionsrunden
  • Pressearbeit ORF, SN, Interviews Fernsehen, Radio
  • laufende Betreuung von User-Anfragen,
  • Anregung zu Projekt „Digitale Autodoorwerbung“ Kooperation mit Progress-Außenwerbung,
  • Fach-Workshop zum Thema Digitale-Zivilcourage Pride Festival Salzburg

Zur Projektplattform:

AntiHassGPT

2. Was ist herausgekommen?

  • Bekanntheit und Nutzung über die queere Bubble hinaus (Ö+D)
  • Großes Medien-Interesse Österreich
  • Rückmeldungen von Nutzerinnen nur positiv
  • Perfekter Ausgangspunkt um mit unkritischen Social-Media-User*innen zu diskutieren
  • Großes Detailinteresse bei Diskussionen und beim Workshop (digitale Zivilcourage)
  • Verändert hat sich in unserem Umfeld das Verhalten im Umgang mit Hass-Kommentaren – siehe nachstehend bei learnings

3. Was haben wir gelernt?

Veröffentlichung des Projektes lief sehr gut, geprägt von großem Interesse
Auch die Verbreitung lief anfangs sehr gut.
Für bestimmte Arbeitsschritte waren vertiefte Kompetenzen notwendig, die über die vorhandene Qualifikation hinausgingen.

Die unmittelbaren Learnings liegen in einem veränderten Reaktionsverhalten bei Hasskommentaren. Wir empfehlen – ergänzend zur AntiHass-GPT – eine konsequente Haltung = löschen, wenn möglich; Direktnachricht an Hater; Meldung bei Meldestellen; zivilrechtliche Klage, wenn nötig und möglich;

Wir versuchen das grundsätzliche Problem nicht mehr auf der persönlichen Ebene zu lösen, sondern möchten einen Beitrag leisten, damit die Social-Media-Plattformbetreiber (Meta, …) entsprechende Maßnahmen ergreifen.
Sinnbild für diese Veränderung: „Karthago muss fallen“