Kicue

Erkennung von KI-Agenten und Bots

Mechanismus zur Erkennung von Auto-Antworten durch KI-Agenten wie ChatGPT sowie von Bots und Mehrfachantworten über Headless-Browser.

In letzter Zeit häufen sich Fälle, in denen Teilnehmende ihre Fragebögen an KI-Agenten wie ChatGPT, Claude oder Gemini delegieren und sich die Antworten automatisch erstellen lassen. kicue verfügt über eine spezielle Erkennungsfunktion für das KI-Zeitalter und blockiert derartige Manipulationen zusammen mit klassischen Bot- und Duplikat-Erkennungen.

Erkennung von KI-Agenten

Ein spezialisiertes Modell bewertet, ob ein Verhalten auf eine Beantwortung durch einen LLM-Agenten wie ChatGPT / Claude / Gemini hindeutet. Beispiele für die ausgewerteten Signale:

  • Stilmuster in Freitextantworten: zu lange, übertrieben höfliche Texte, unnatürlich fehlende Ambiguität, einseitige Synonymwahl
  • Verzerrungen bei den Antwortoptionen: wiederholte neutrale oder unverbindliche Antworten, wie sie für LLMs typisch sind
  • Auffälligkeiten im Interaktionslog: überhaupt keine Mausbewegungen oder Tastatureingaben während der gesamten Beantwortung

Erkannte Antworten werden im Status pending markiert und können nach Prüfung aus der Auswertung ausgeschlossen werden.

Bot- und Duplikat-Erkennung

Zusätzlich zu den KI-Agenten werden auch reine Automatisierungs-Tools erkannt.

  • Erkennung von Headless-Browsern: typische Fingerprints von über Puppeteer oder Playwright gesteuerten Browsern werden identifiziert
  • Auffälliges Verhalten von Automatisierungstools: fehlende Maus-Events, maschinell gleichmäßige Zeitabstände
  • Mehrfachantworten über VPN: Anhand einer Kombination aus IP-Adresse, Cookies und Browser-Fingerprint wird geprüft, ob dieselbe Person den VPN wechselt und mehrfach antwortet

Diese Prüfungen erfolgen sowohl beim Aufruf der öffentlichen URL als auch direkt nach Abschluss der Beantwortung.

Umgang mit erkannten Antworten

  • Sie erscheinen in der Flag-Liste auf dem Monitoring-Bildschirm, jeweils mit Kategorie
  • Der Flag-Status kennt drei Stufen: pending / confirmed / dismissed
  • Als confirmed markierte Einträge lassen sich aus der Auswertung ausschließen (siehe Flag-Verwaltung & Ausschluss aus der Auswertung)

Zur Erkennungsgenauigkeit

  • Machine-Learning-basierte Entscheidungen sind nicht zu 100 % korrekt. Graubereich­antworten bleiben im Status pending, die finale Entscheidung trifft immer der Administrator
  • Das Modell wird kontinuierlich aktualisiert und auf neue KI-Agenten angepasst
  • Um Falscherkennungen (bei denen echte Teilnehmende geflaggt werden) zu vermeiden, werden statt eines einzelnen Signals mehrere Signale kombiniert ausgewertet