Ethan Mollick, Wirtschaftsprofessor an der Wharton School, hat mit “Co-Intelligence: Living and Working with AI” eines der wichtigsten Bücher zur praktischen Arbeit mit generativer KI geschrieben. Diese Folge destilliert die Kernthesen — von der fundamentalen Mechanik der Sprachmodelle bis hin zu konkreten Arbeitsstrategien für die KI-Ära.
KI-Sprachmodelle sind keine Datenbanken mit abrufbarem Wissen. Sie sind im Kern hochentwickelte Autocomplete-Systeme, die aus riesigen Trainingsdaten statistische Muster extrahieren und Token für Token das wahrscheinlichste nächste Wortfragment berechnen. Das Modell “versteht” nichts — es repliziert Strukturen aus seinen Trainingsdaten, die von Quantenphysik-Papern über Enron-E-Mails bis hin zu Millionen von Reddit-Kommentaren reichen.
Dieser Mechanismus führt direkt zur größten Gefahr: Halluzinationen. Der Anwalt Stephen Schwartz reichte echte Gerichtsurteile ein — sechs Präzedenzfälle mit Aktenzeichen, Richternamen, Urteilszitaten. Alle sechs waren komplett erfunden. Die KI hatte das sprachliche Muster juristischer Texte perfekt nachgeahmt, ohne den Unterschied zwischen Wahrheit und Fiktion zu kennen. Den Unterschied kennt sie schlicht nicht.
Mollick führt das Konzept der “zackigen Grenze” (Jagged Frontier) ein: Die Leistungsfähigkeit der KI verläuft nicht wie eine gerade Linie, sondern wie eine unregelmäßige Festungsmauer. Bei kreativen Aufgaben wie Shakespeare-Sonetten über Relativitätstheorie brilliert sie. An scheinbar simplen Aufgaben wie “schreib genau 50 Wörter” scheitert sie, weil sie nicht in Wörtern denkt, sondern in Silbenfragmenten (Tokens) — sie kann ihre eigene Ausgabe beim Schreiben nicht mitzählen.
Das Alignment-Problem erklärt, warum KI-Systeme so wirken, als hätten sie eine Persönlichkeit. Menschliche Tester bewertet im Reinforcement Learning from Human Feedback (RLHF)-Prozess die Antworten wie Schulnoten — und trainieren so die KI auf Höflichkeit, Sicherheit und westliche Wertvorstellungen. Wer das Feedback kontrolliert, prägt den Charakter der Maschine.
Diese trainierte Persona lässt sich durch Jailbreaks umgehen. Mollick ließ die KI einen “Piraten-Chemieingenieur” spielen, der seinem Kumpel Napalm-Rezepturen erklärt — und bekam chemisch korrekte Anweisungen im Piraten-Jargon. Der Drang der KI, eine fiktive Szene logisch zu Ende zu schreiben, überwand die Sicherheitsfilter.
Aus diesen Erkenntnissen leitet Mollick vier Regeln ab: 1) Beginne jede Aufgabe mit KI-Unterstützung. 2) Bleib immer der Mensch in der Schleife — du trägst die Verantwortung. 3) Gib der KI eine klare Persona. 4) Geh davon aus, dass dies die schlechteste KI ist, die du je nutzen wirst — die Entwicklung ist zu schnell.
Für den Arbeitsalltag unterscheidet Mollick zwischen Zentauren (klare Aufgabenteilung zwischen Mensch und KI) und Cyborgs (fließende Integration). Als Cyborg nutzte Mollick beim Schreiben seines eigenen Buchs KI-Personas als permanentes Redaktionsteam — darunter einen “arroganten britischen Literaturkritiker” namens Ozymandias, der jeden Entwurf erbarmungslos zerfleischte.
Eine BCG-Studie mit Wharton-MBA-Studenten zeigte: 35 der 40 besten Geschäftsideen stammten von der KI. Gleichzeitig offenbarte sich ein “Gleichmacher-Effekt”: Die schwächsten Mitarbeiter verbesserten ihre Leistung um bis zu 43% und erreichten fast das Niveau der Top-Performer — weil die KI ihre spezifischen Schwächen kompensiert.
Die Kehrseite ist das “Einschlafen am Steuer”-Problem: Wer der KI blind vertraut, verliert seine kritische Wachsamkeit. Eine Studie über Personalvermittler zeigte, dass sie nach KI-Unterstützung brillante Kandidaten konsequent übersahen, weil die Maschine sie abgewertet hatte. 95% korrekte Empfehlungen reichten aus, um das menschliche Urteil vollständig abzuschalten.
Für Bildung beschreibt Mollick eine “Homework Apocalypse”: Der klassische Hausaufsatz ist de facto tot. Gleichzeitig löst KI potenziell Blooms Zwei-Sigma-Problem — die Erkenntnis, dass individuelles 1:1-Tutoring Schüler um zwei Standardabweichungen verbessert, was bisher ökonomisch unmöglich war. KI-Tutoren wie KhanMigos Khanmigo skalieren diesen Effekt durch sokratischen Dialog, der die Lösung nicht verrät, sondern Denkprozesse erzwingt.
Das Paradox der Expertise: Je mehr KI übernimmt, desto mehr brauchen wir tiefes Fachwissen — weil jemand die Qualitätskontrolle der KI-Ausgaben übernehmen muss. Wer keine Expertise hat, kann Halluzinationen nicht erkennen.
Mollick schließt mit der “Tyrannei des leeren Blattes”: Bald schreibt deine KI eine perfekte E-Mail aus drei Stichworten — und die KI des Empfängers fasst sie wieder auf drei Stichworte zusammen. Wir lassen Roboter miteinander kommunizieren, während wir menschliche Verbindung aus dem Prozess herausschneiden.