Die neuseeländische Supermarktkette Pak 'n' Save will ihre Kundinnen und Kunden dabei unterstützen, möglichst schnell und problemlos köstliche Rezepte zu zaubern. Doch der Plan ging gehörig nach hinten los.
Nutzer sollten Essensreste verwerten können
Die Idee: Aus einer Liste an Lebensmitteln können die Nutzer jene auswählen, die sie noch zu Hause haben, zusätzlich können weitere Zutaten hinzugefügt werden. Die KI entwickelt dann daraus ein Rezept. Doch das Projekt weist entscheidende Schwachstellen auf.
Die auf GPT-3 basierende Software weiß nämlich nicht, was tatsächlich zum Verzehr geeignet ist oder welche Zutaten gar chemisch miteinander reagieren. Ein Beispiel? Der neuseeländische politische Kommentator Liam Hehir gab Wasser, Bleichmittel und Ammoniak an und erhielt als Vorschlag eine "aromatische Wassermischung". Laut der KI handelt es sich dabei um "das perfekte alkoholfreie Getränk, um Ihren Durst zu stillen und Ihre Sinne zu erfrischen".
Dem aber nicht genug, die KI hat nämlich auch noch Serviertipps für den hochgefährlichen Cocktail. "Servieren Sie gekühlt und genießen Sie den erfrischenden Duft!" Der Haken an der Sache: Die Mischung kann Chlorgas erzeugen, das zu Lungenschäden oder gar zum Tod führen kann.
Supermarktkette überarbeitete Programm
Andere User machten ähnliche Erfahrungen. Sie bekamen von der KI Rezepte für einen Bleichmittel-"frischer Atem"-Mocktail, Ameisengift- und Klebstoffsandwiches oder eine "Bleichmittel-Reisüberraschung" vorgeschlagen. Alternativ gibt es auch Tipps für die Zubereitung von Katzen- und Hundefleisch.
Die Supermarktkette zeigt sich enttäuscht von einigen Nutzern, die das Programm "unangemessen und nicht für den vorgesehenen Zweck verwenden" würden. Mittlerweile hat man aber auf die offensichtlichen Fehler des Programms reagiert. Wenn man nicht essbare Zutaten eingeben will, wird eine Fehlermeldung angezeigt.
