In diesem Beitrag auf derstandard.at kann man eine detailgetreue Schilderung der Vorgänge nachlesen, die beim Versuch passiert sind der KI einen Verkaufsstand anzuvertrauen.
Das Unternehmen Anthropic hat den Versuch gewagt, ihrer LLM einen Offline-Handel in Form der Führung eines Verkaufsautomaten zu überlassen. Das Ergebnis vorweggenommen: die KI ist kläglich gescheitert und traf viele falsche Entscheidungen. Im letzten Teil des Artikels geht es dann noch um ein Halluzinieren von Claude, das wirklich beängstigend wirkt, zumal sich die KI nun wirklich auf physische Begebenheiten beruft und falsche Dinge behauptet, die nachträglich einfach als Scherz abgetan werden.
Sollte sich der KI-Trend so rasant weiterbewegen wie bisher ein sicherlich beängstigendes Szenario.