Halluzinierte Literaturangaben

Szenario: Nutzer:innen suchen nach Titeln, die von generativer KI halluziniert worden sind.

• So kannst Du vorgehen:
  • bei Titellisten: Frage nach der Quelle der Referenzen (Wurde diese mithilfe von KI erstellt?)
  • bei Einzeltiteln: Prüfe den Titel mit bekannten Methoden (Existiert der Titel oder wurde er von KI halluziniert?) 
    
    • Titel existiert: Wenn möglich (Zugriff auf PDF?): Prüfe gemeinsam mit Nutzer:in, ob der Titel inhaltlich tatsächlich auch inhaltlich zum Thema passt.
    • Titel von KI halluziniert: Kläre Nutzer:in darüber auf, dass der gesuchte Titel nicht existiert. Erkläre der Person, weshalb das der Fall ist → Generative KI erzeugt sprachlich korrekte Texte (und somit auch Titelangaben), ohne jedoch zu prüfen, ob der erzeugte Inhalt falsch oder richtig ist.
      
  • Erläutere - je nach Interesse des Studierenden (und eigenem Wissen) - die grundlegende Funktionsweise von generativen Sprachmodellen
    
    • Wieso halluziniert die KI? (→ Was ist eine generative KI?)
    • Weshalb sollten keine Quellen durch KI abgefragt werden, solange der Chatbot keinen Zugriff auf echte Datenbestände hat? Stichworte: "People Pleaser", keine Datengrundlage (→ Was sind typische Probleme von generativer KI?)