Gemäss des deutschen Zentrums für KI ist ChatGPT keine Faktensuchmaschine. Der Algorithmus sei trainiert, plausible Texte zu verfassen, d. h. der Text muss gut tönen. Blind vertrauen darf man dem Roboter daher nicht: Er ist anfällig für Fakes, Fantasieantworten, Irrtümer und Manipulationen.
Gemäss KI-Experten recherchieren Chatbots im gigantischen Gratis-Internet, in Online-Foren, Blogs, digitalisierten Büchern oder Wikipedia. Aber auch in unseriösen Websites, vor allem in populärwissenschaftlichen, aber nicht bei Paywall-geschützten Qualitätsquellen. Wissenslücken füllen Bots mit Fiktion (Halluzinationen). Sie liefern falsche oder erfundene Infos. Beispielsweise nennt Gemini auf die Frage nach gesunden tierischen Fetten Nüsse und Samen. Schwachstellen sind oft auch die unklare Aktualität sowie teilweise fehlende oder nutzlose Quellenangaben.
Wenn bei umstrittenen Themen tendenziöse Antworten entstehen, liegt es wohl an einseitiger Datengrundlage. Oder gemäss dem englischen Sprichwort: «garbage in – garbage out». Ausserdem lernen Textroboter auch aus Werbetexten und Eingaben der Nutzer. Das macht sie anfällig für Manipulationen, so etwa wenn Lobbyisten bewusst Falsch-Behauptungen eingeben.
Dazu KI-Experte Matthias Horx: «Generative KI ist ein Papagei, der immer nur nachplappert, was bereits existiert. Dies führt zu einem evolutionären Paradox: Je weiter sich KI entwickelt, desto dümmer wird sie.» In der Tat: Der unkontrollierte Lernprozess der KI leidet an selbstverstärkender Rückkoppelung: Sie lernt aus Texten, die sie selber generierte. Bei der Wissensabfrage erscheinen daher mit der Zeit immer mehr solche Teufelskreis- Resultate. Auch Fakenews verstärken sich.
Roboter sind auch nur Menschen
Ausserdem können die Antworten unausgewogen sein beziehungsweise nicht repräsentativ. Denn der Algorithmus setzt die Priorität bei der Internetpräsenz statt bei der Relevanz. Je stärker Lobbygruppen im Internet auftreten, desto höher gewichtet er sie. Eine schwache Datenlage und der einseitige Algorithmus können Antworten stark verzerren. Derzeit sind beispielsweise Veganer viel aktiver im Internet als traditionelle Metzgereien und professionelle Ernährungsexperten. Fragt man, wie die Eisenzufuhr in der Ernährung verbessert werden könne, erhält man unausgewogene Informationen. Alle Bots nennen nur pflanzliche Lebensmittel. Ein menschlicher Experte dagegen würde primär Fleischprodukte wie Blutwurst und Leber nennen, die viel mehr und besser resorbierbares Eisen enthalten.
Wer trotzdem Fakten sucht, sollte variierende Fragen stellen, den Bot rückfragen, bis Klarheit herrscht und Quellen konsultieren. Ferner mehrere Bots parallel verwenden, dies auch auf Englisch und Fakteninfos mit Wikipedia und klassischen Suchmaschinen verifizieren. Solange eine Fachperson die KI-Elaborate prüft, korrigiert und ergänzt, ist der Nutzen gross und das Risiko kontrollierbar. Auch traditionellen Suchmaschinen kann man Fragen stellen und erhält ausformulierte Antworten, aber nur kurze. Chatbots leisten mehr. Will etwa ein Firmengründer einen Businessplan erstellen, liefert der Chatbot auf die Frage nach Chancen und Risiken fundierte Antworten innert Sekunden. Bei Unklarheiten oder Einwänden kann man mit dem Bot chatten und das Ergebnis nachbessern.
Kreativ und sehr schnell
Die Stärke der Chatbots liegt in der Kreativität und dem Detaillierungsgrad, auch wenn man eher das Gegenteil erwartet. Wenn man beispielsweise den Bot beauftragt, einen Fantasienamen für eine neue Wurst zu kreieren, die zu je 50 Prozent aus Fleisch und Gemüse besteht, erhält man als brauchbaren Vorschlag «Fleisch- Gemüse-Fusion». Vor allem eignen sich KI-Bots gut für die Rezeptentwicklung. Da es Rezepte zuhauf im Internet gibt und sie klar strukturiert sind, eignen sie sich besonders gut, um von der KI verarbeitet zu werden.
Erfolgreiche Projekte sind daher Produktkreationen. Zwei Beispiele: Die Hamburger Manufaktur Ankerkraut liess von ChatGPT eine Gewürzmischung kreieren – inklusive Fantasienamen (Parikanova), KI-Bilder, Werbetexte und Pressemitteilung. Der Auftrag lautete: «Entwickle eine trendige Gewürzmischung. Kreiere einen passenden, kreativen Produktnamen und einen Claim. Entwickle ein Rezept für ein Gericht. Schreib Social-Media-Posts, um das Gewürz zu bewerben». Die KI habe ihre Aufgaben reibungslos erfüllt.
Und die Eglisauer Firma Vivi Kola kreierte das neue Süssgetränk «Vivi Nova» mit ChatGPT. Die KI erstellte ein innovatives Rezept aus Saft von Limetten, Haskap-Beeren, Ingwer und Chicoréewurzel. Von der Idee bis zum Design brauchte der Bot nur zwei Tage. Lediglich die Deklarationen und Nährwertberechnungen mussten von Menschen erarbeitet werden.
Bei professioneller Nutzung ist Vorsicht geboten. So hat beispielsweise Emmi eine KI-Richtline erarbeitet für Mitarbeitende im Umgang mit KI-Text-Generatoren sowie KI-Bild-Generatoren (Dall-E2 oder Midjourney). Darin sind Regeln definiert, wie mit vertraulichen Informationen, Ergebnissen oder Registrierungen umzugehen ist. Emmi-Sprecherin Simone Burgener sagt: «Emmi unterstützt die Nutzung neuer Technologien in allen Bereichen, wenn diese einen Mehrwert generieren. So auch Chatbot-Lösungen. Chatbots benötigen Know-how und Konfigurationsaufwand. Herausforderungen bestehen bei Governance und Datenschutz.»
Und die Migros-Industrie richtete einen Ideen-Hub ein, bei dem unternehmensfördernde Ideen eingereicht werden können, dazu gehört auch KI. Dazu Migros-Sprecher Patrick Stöpper: «Konkret prüfen wir in der Migros-Industrie, wie wir ChatGPT sinnvoll einsetzen können und welche Risiken bestehen. Dafür setzen wir auf Enterprise- Lösungen.» Die Migros nutzt KI erst punktuell, vor allem in der Industrie für «predictive production», Überwachung des Dampfverbrauchs und für Bilderkennung im Fleischbereich (Klassifizierung von Fleischprodukten – mit Deep Learning). Stöpper betont, öffentliche Chatbots sollten nur wie eine Suchmaschine genutzt werden. Das Eingeben von geschäftsrelevanten oder sensitiven Daten sei nicht erlaubt. Aktuell liege der Fokus darauf, die Mitarbeitenden für die sichere Nutzung zu sensibilisieren. Ein Regelwerk für KI-Anwendungen sei vorhanden und es gebe spezifisch ausgebildete Fachleute als Ansprechpersonen.
Dr. Guido Böhler, Lebensmittel- Technologe ETH
