Die KI Kantine - Der Podcast

Michael Busch

„Dann ist halt mal ein Fehler drin…“ – Wie viel Schlampigkeit erlauben wir KI?

Warum wir lernen, mit KI-Fehlern zu leben – und das vielleicht keine gute Idee ist.

25.06.2025 5 min

Zusammenfassung & Show Notes

 Fehler gehören zum Alltag – aber was passiert, wenn wir beginnen, sie als „normal“ hinzunehmen, nur weil sie von der KI stammen? In dieser Folge der KI Kantine erzählt Buschi von einem Interview mit Prof. Holger Hoos, der vor einer wachsenden Fehlertoleranz bei KI-Anwendungen warnt. Warum generative KI oft unzuverlässig ist, weshalb wir anfangen, uns an „gut genug“ zu gewöhnen, und was der Unterschied zwischen kreativen und gefährlichen Fehlern ist – darum geht’s in dieser kritischen, aber praxisnahen Mittagspausen-Folge. 

 In dieser Folge spreche ich über ein Interview mit Prof. Dr. Holger Hos, das mich wirklich zum Nachdenken gebracht hat. 
Seine These: Wenn wir generative KI-Systeme wie ChatGPT unkritisch einsetzen, steigt unsere gesellschaftliche Fehlertoleranz – und zwar gefährlich. 
 
Ein paar zentrale Punkte aus der Folge: 
  • Warum generative KI mit Logik auf Kriegsfuß steht
  • Weshalb die Vorstellung, KI könne den IT-Fachkräftemangel lösen, ein Irrtum ist
  • Wie Fehler zur neuen Normalität werden – und warum das nicht harmlos ist
  • Was passiert, wenn wir kreative Fehler mit systemrelevanten verwechseln
  • Warum Effizienz nur dann Fortschritt ist, wenn die Qualität stimmt
  • Welche Alternativen wie Process Mining oder klassische Automatisierung oft die bessere Wahl sind
 
Am Ende bleibt eine klare Erkenntnis:
 
Nicht die KI ist das Problem – sondern unsere Bereitschaft, ihre Fehler einfach mitzuschleppen.
  
🎧 Das Interview mit Prof. Hos findest du bei KI Update auf YouTube:
https://www.youtube.com/watch?v=dbhb5nl6hSY
 

Die KI-Kantine ist ein Projekt von Michael Busch – Entwickler, Unternehmer und neugieriger Kantinenphilosoph.

Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.

Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.

📬 Fragen, Feedback oder eigene KI-Erlebnisse? Schreib mir an podcast@ki-kantine.de

Alle Folgen & mehr: https://ki-kantine.letscast.fm/