43 Minuten

KI-Fails: Wenn Algorithmen versagen

In dieser Folge beleuchten wir die spektakulärsten KI-Fails der letzten Jahre. Von ernsthaften Sicherheitslücken über peinliche Pannen bis hin zu Chatbots, die völlig aus dem Ruder laufen. Unterhaltsam, lehrreich und manchmal auch ein wenig erschreckend.

Weitere Folgen

Spotify Podcast - Ki verstehen ohne Tech-Bubble
Spotify Podcast - Agentic Voice Calling
Spotify Podcast - Full Self-Answering: Wenn KI-Agenten eigenständig handeln
Spotify Podcast - How to: Autonomen KI-Agenten bauen

 3 Minuten

Automatische KI Zusammenfassung
durch SideKick

GPT-5.5 ist draußen, GPT Image 2 macht Schlagzeilen und OpenAI drückt aufs Tempo. Marvin Liedmeyer und Ludwig Groten starten diese Folge mitten im KI-Wettrennen – und nehmen sich dann bewusst einen Schritt zurück.

Denn während die großen Anbieter Schlag auf Schlag liefern, lohnt sich die Frage: Wo scheitert KI eigentlich gerade noch? Die Antwort liefern beide aus eigener Erfahrung. Bei Tobit selbst wurden früh KI-Agenten auf Websites und Showcases gesetzt – mit dem Ergebnis, dass ein Agent einen Gast kurzerhand zu einem kostenlosen Essen einlud. Kein Einzelfall: Der DPD-Chatbot, der seine eigene Nutzlosigkeit beweinte, die kanadische Airline, die vor Gericht einen günstigen KI-Ticketpreis anerkennen musste, Microsofts Tay, der auf Twitter rassistische Sprache lernte, oder Googles Bard, der in einer Live-Demo falsche Fakten zum James-Webb-Teleskop lieferte und damit einen Börsensturz auslöste.

Was steckt hinter diesen Fails? Meistens das Gleiche: KI wurde zu schnell, zu unkontrolliert und ohne ausreichendes Briefing losgeschickt. Die Lösung liegt nicht im perfekten Prompt, sondern im Prinzip Human in the Loop – kombiniert mit den FSA-Autonomiestufen, die SideKick.ki als zentrale KI-Assistentenplattform für Unternehmen konsequent umsetzt. Statt einen Agenten sofort auf volle Autonomie zu stellen, lernt er schrittweise – gemeinsam mit einem menschlichen Supervisor, der korrigiert, bestätigt und weiterentwickelt.

Auch technisch tut sich einiges: RAG-Systeme machen es heute möglich, ganze Unternehmenshandbücher effizient in Agenten-Wissensdatenbanken zu integrieren – vor einem Jahr noch kaum denkbar. Und Google? Wartet still auf die eigene IO-Konferenz, während Anthropic und OpenAI den Takt vorgeben.

Das Fazit der beiden: KI ist kein Allheilmittel und kein Selbstläufer. Wer einen schlechten Prozess einfach mit KI überdeckt, hat danach einen schlechten KI-Prozess. Dranbleiben, kontrollieren, weiterentwickeln – das ist der Weg.

 1 Minute

Hosts

Marvin Liedmeyer ist Host des SideKick Podcasts und Teil des Teams bei Tobit Software, wo er sich seit mehreren Jahren täglich mit den neuesten Entwicklungen rund um Künstliche Intelligenz beschäftigt. Er war von Beginn an dabei, als Tobit begann, KI-Assistenten ernsthaft einzusetzen – von den ersten Gehversuchen mit Elli Arktis bis hin zum Aufbau ganzer Agenten-Netzwerke für die SideKick™-Plattform.

Ludwig Groten ist Geschäftsführer bei Tobit.Software und einer der zentralen Köpfe hinter der technischen Weiterentwicklung von SideKick™. Er begleitet den Podcast regelmäßig als Co-Host und bringt dabei den praktischen, hands-on Blick direkt aus dem Produktalltag mit.

 1 Minute

Fazit der Podcastfolge

KI kann enorm viel – aber nur, wenn sie richtig eingesetzt wird. Die Fails der Vergangenheit sind kein Argument gegen KI, sondern ein klares Plädoyer für mehr Sorgfalt beim Rollout. SideKick.ki gibt Unternehmen genau die Werkzeuge dafür: Autonomiestufen, menschliche Kontrollpunkte und ein System, das mit jeder Interaktion besser wird. Nicht loslassen und hoffen – sondern begleiten, lernen, verbessern.

Jetzt sind Sie gefragt!

Der SideKick Podcast mit
Ludwig Groten und Marvin Liedmeyer

Wir sprechen über die großen Fragen unserer Zeit: Was kann Künstliche Intelligenz wirklich? Was bedeutet sie für Arbeit, Gesellschaft und unser Leben? Und wie hilft unser SideKick, Ordnung in das Chaos der KI-Welt zu bringen?

LinkedIn Ludwig        LinkedIn Marvin

SideKick Albumcover des Podcast auf Spotify: Der KI-Videopodcast von Tobit.Software