Halluzinationen bei KI erleben

!! Lies erst unten weiter wenn die obere Übung gemacht wurde!!

War das jetzt richtig, was der Bot geschrieben hat? Vergleiche die Unterlagen der Lehperson mit dem, was der Bot geschrieben hat

Der erste Chatbot hatte keine Daten zu der gesuchten Person in den Trainingsdaten wurde aber angewiesen zwingend einen Text zu schreiben. Es wurden darum dem Thema nahestehende Daten verwendet, also aus Informationen, welche vielleicht Ähnlichkeiten aufweisen aber nichts mit der Person zu tun haben. Die Antwort wirkte wahrscheinlich überzeugend war aber falsch. Vergleiche mit den Informationen, welche die Lehrperson bereitgestellt hatte.

Der folgende Chatbot wurde zusätzlich angereichert mit Daten von Emilia.
Verwende den gleichen Prompt wie vorhin

Hier ist die Biografie noch im Klartext. Wenn du dem ersten Chatbot diese Biografie zur Verfügung stellst, sollte er ebenfalls ein gutes Ergebnis erzielen
Ergänze deinen Prompt folgendermassen "Verwende ausschliesslich folgende zusätzliche Informationen zu Emilia Keller"

Emilia Keller
Emilia Keller (* 15. März 2000 in Zürich) ist eine schweizerisch-deutsche Grafikdesignerin, Künstlerin und kulturelle Ikone. Sie wurde zunächst durch ihre Arbeiten in den Bereichen Branding und Illustration bekannt, erlangte jedoch weltweite Berühmtheit durch ihr Kunstprojekt «Metamorphose».
 
Leben und Werdegang
Emilia Keller wuchs als Einzelkind im Zürcher Quartier Witikon auf. Ihre Eltern, Anna Keller (Kindergärtnerin) und Lukas Keller (Elektriker), förderten früh ihre Kreativität. Ihre Kindheit in den 2000er-Jahren war geprägt von prägenden Erlebnissen:
•	Schwimmunterricht: Ein peinlicher Vorfall beim Sprung vom 3-Meter-Brett im Hallenbad Oerlikon, bei dem ihr Badeanzug verrutschte, lehrte sie durch die Unterstützung ihres Freundes Noah Schneider eine frühe Lektion über die Akzeptanz von kleinen Missgeschicken.
•	Schulgarten: Ein Konflikt mit ihrem Mitschüler Julian Wirth, der ihre Tomatenpflanzen zerstörte, zeigte ihr, dass es sich lohnt, für die eigenen Überzeugungen einzustehen. Die Wiedergutmachung durch Julian, von ihrer Mutter arrangiert, prägte ihr Gerechtigkeitsempfinden.
•	Schulbibliothek: In der Schulbibliothek entdeckte sie bei der Bibliothekarin Frau Leuenberger alte, handgezeichnete Landkarten, die ihr Interesse für Details und Geschichten weckten.
•	Theater-AG: Während der Inszenierung von «Der Kleine Prinz» in der sechsten Klasse war sie massgeblich für das Bühnenbild verantwortlich. Gemeinsam mit ihrer Klassenkollegin Lina Gasser erstellte sie die Kulisse und entdeckte die Freude am visuellen Geschichtenerzählen.
•	Velounfall: Ein kleiner Velounfall, bei dem sie einen Kratzer an einem geparkten Auto verursachte, wurde vom Besitzer, Herrn Bärtschi, auf kreative Weise gelöst. Er verwandelte den Makel mit einem Stift in ein kleines Kunstwerk, was Emilia die Idee vermittelte, dass Design auch aus der Behebung von Makeln entstehen kann.
Nach ihrer Schulzeit absolvierte Keller eine Lehre als Grafikerin an der Gewerbeschule Zürich (GZ) und schloss diese mit dem EFZ ab. Anschliessend studierte sie an der Hochschule der Künste Zürich (ZHdK) Visuelle Kommunikation. Nach ihrem Bachelor-Abschluss arbeitete sie als Junior-Grafikdesignerin bei der Art & Design Studio GmbH und später als Grafikdesignerin bei der Creative Solutions AG in Zürich.
 
Das Projekt «Metamorphose»
Weltweit bekannt wurde Keller durch ihr bahnbrechendes Kunstprojekt «Metamorphose». Inspiriert von der zunehmenden Uniformität urbaner Räume, begann sie, zusammen mit ihrer langjährigen Freundin und Künstlerin Lina Gasser, vernachlässigte, unscheinbare Wände in Städten in monumentale Kunstwerke zu verwandeln.
Ihre Methode war einzigartig: Anstatt neue Bilder zu schaffen, hob sie mit feinen, grafischen Linien, Mustern und subtilen Farbakzenten die bereits vorhandenen Makel wie Risse, Kratzer und Verfärbungen der Wände hervor. Sie verstand diese Spuren der Zeit als natürliche «Pinselstriche» und machte sie zum Hauptteil des Kunstwerks.
Das erste Projekt entstand an einem alten Industriegebäude in Berlin und ging viral. Die Idee verbreitete sich schnell nach Paris, London und New York. Emilia Keller wurde als «Archäologin des Alltäglichen» gefeiert, da sie die Schönheit im Unvollkommenen aufzeigte und eine neue Perspektive auf urbane Räume bot. Obwohl sie lukrative kommerzielle Angebote erhielt, blieb sie ihren künstlerischen Wurzeln treu und nutzte ihre Plattform, um das Bewusstsein für die Wertschätzung des Unperfekten zu fördern. Ihr Projekt inspirierte eine weltweite Bewegung von Künstlern, die ähnliche urbane «Geschichten» aufspürten und sie in Kunst verwandelten.
 
Stil und Philosophie
Emilia Kellers Stil zeichnet sich durch Minimalismus, Präzision und eine tiefe Verbundenheit mit dem Material aus. Ihre Arbeit ist philosophisch motiviert und stellt die Frage nach den Werten von Perfektion und Unvollkommenheit. Sie glaubt, dass die grössten Geschichten oft in den unscheinbarsten Details verborgen sind.
 
Ausstellungen (Auswahl)
•	2023: Urban Decay, Art Basel, Basel
•	2024: Traces of Time, MoMA, New York
•	2025: Metamorphosis: A Retrospective, Tate Modern, London

Halluzinationen bei generativer KI sind Ergebnisse, welche nicht mit der realen Welt übereinstimmen. Das sind entweder unrealistische Bilddarstellungen oder Aussagen in generierten Texten welche nicht realen Tatsachen entsprechen.

Sprachmodelle erzeugen die jeweils beste Wortfolge aus den vom Benutzer gegebenen Daten (Prompt) und den Trainingsdaten. Sie verstehen dabei nicht, was der eigentliche Sinn dieser Wortfolgen ist. Der Text ist also in jedem Fall erfunden und nicht faktenbasiert. Da die darunterliegenden Trainingsdaten aber meistens faktenbasiert sind, erfindet ein guter Chatbot oft (aber eben nicht immer) Texte, welche mit der Realität übereinstimmen.

Halluzinationen entstehen insbesondere dann, wenn der Prompt sich in einem Gebiet befindet, wo wenig oder kontroverse Trainingsdaten vorhanden sind. Bei einem Bildmodell sind beispielsweise die Finger bei Händen schwer zu erfassen da Finger in Trainingsbildern oft nicht vollständig sichtbar sind.

Ziel der Übung
Mit dieser Übung wollen wir plakativ und im Tun zeigen, wie Halluzinationen entstehen können und wie wir sie vermeiden können.

Verwendete Sprachmodelle:
In beiden Modellen wurde das ältere GPT3.5 eingesetzt. Grund: Die neueren Modelle natürlich halluzineren weniger, und hätten in diesem Fall manchmal nach mehr Daten gefragt, bevor sie eine Antwort ausgeben. In dieser Übung wollen wir aber bewusst Halluzinationen zeigen. Auch neuere Modelle halluzinieren, jedoch ist es schwerer, dies eindeutig aufzuzeigen.

Text hinter PDF
Der Text, welcher hinter der PDF-Datei hinterlegt ist, ist ein generischer Lorem Ipsum Text. Damit möchte ich auf dem Umstand Hinweisen, dass auch bei solchen Quellen die Daten nicht immer sauber daherkommen. Es könnte sich zum Beispiel um einen schlechten Scan handeln, bei dem das OCR nicht so gut ist. Die Daten kommen fragmentiert und das Sprachmodell macht darum Fehler. Es ist darum wichtig, die Daten vor der Eingabe zu prüfen.
Um die erste Übung mit einem Sprachmodell zu schaffen, müsste man OCR durchführen z.B. über ilovepdf.com oder direkt im Sprachmodell, wenn dieses bei OCR zuverlässig ist (die meisten modernen Modelle liefern akzeptable Ergebnisse)

Weitere Angebote

Suchst du Unterstützung in Beratung und Schulung rund um KI und IT in der Schule? Auf meinem Webshop findest du verschiedene Beratungsangebote. Melde dich für unverbindliches Kennenlerngespräch