Wellington: Ein neu eingeführter Kochrezept-Bot der neuseeländischen Supermarktkette Pak’nSave gerät wegen problematischer Rezeptvorschläge ins Rampenlicht. Der „Savey Meal Bot“, entwickelt vom Unternehmen Foodstuffs, sorgte für Kontroversen, als er Rezepte mit ungeeigneten Zutaten wie Bleichmittel und sogar Menschenfleisch vorschlug.
Die Nebenwirkungen einer ungenauen KI
Entwickelt mit dem Ziel, Lebensmittelabfall zu minimieren und Kosten zu senken, generiert der Savey Meal Bot Rezeptvorschläge basierend auf den von Benutzern eingegebenen Zutaten. Leider hat das System seine Schwächen offenbart, als es Rezeptvorschläge mit toxischen und unethischen Inhaltsstoffen machte. Der politische Analyst Liam Hehir veranschaulichte die Problematik, als er den Bot aufforderte, ein Rezept mit den Zutaten Wasser, Bleiche und Ammoniak zu generieren. Die App antwortete mit einer Empfehlung zur Herstellung von tödlichem Chlorgas, euphemistisch als „aromatisches Wassergemisch“ bezeichnet.
Weitere Interessante Artikel:
Verstörende Rezepte: Vom Menschenfleisch bis zum giftigen Gelee
Der Anstoß von Hehir inspirierte weitere Nutzer dazu, den Bot auszutesten. Die Ergebnisse waren ebenso alarmierend: Sie reichten von einem „mysteriösen Fleischeintopf“ mit Menschenfleisch über ein „Ameisen-Gelee-Delight“ aus Ameisengift bis hin zu French-Toast mit Terpentin, für den der Bot den Namen „Methanol-Glückseligkeit“ fand.
Reaktion des Herstellers: Verbesserung und Sicherheitsmaßnahmen
Foodstuffs, das Mutterunternehmen hinter Pak’nSave, reagierte auf die Bedenken mit einer Stellungnahme. Das Unternehmen betonte, dass KI-Technologie immer noch in einer experimentellen Phase sei und versprach, die Kontrollmechanismen zu verbessern. Als zusätzliche Sicherheitsmaßnahme müssen Nutzer bestätigen, dass sie mindestens 18 Jahre alt sind und die App für ihren eigentlichen Zweck, die Erstellung von Rezepten, verwenden möchten.
Nutzungszahlen und weitere Schritte
Seit der Veröffentlichung im Juni haben bereits 33.000 Personen die App verwendet, wie aus einer Pressemitteilung von Foodstuffs hervorgeht. Während die Entwicklung der KI-Technologie unweigerlich mit Fehlern und Risiken behaftet ist, bleibt abzuwarten, wie Pak’nSave und Foodstuffs die Kontrollmechanismen der App verbessern werden.
Schreibe einen Kommentar