Was das in der Praxis bedeutet
Wenn Sie Text lesen, sehen Sie Buchstaben und Wörter. Wenn eine KI ihn liest — ein LLM —, zerlegt sie den Text in kleinere Stücke, sogenannte Tokens.
Im Englischen gilt grob: Ein Token entspricht etwa drei Vierteln eines Wortes. Ein kurzes Wort wie “dog” ist ein Token. Ein langes wie “incomprehensible” wird in drei oder vier zerlegt. In anderen Sprachen ist es ungünstiger, und Deutsch ist dafür ein Musterbeispiel: Zusammensetzungen wie “Datenschutzgrundverordnung” oder “Prozessautomatisierung” zerfallen in viele Stücke, und Umlaute kosten zusätzlich. Derselbe Text auf Deutsch verbraucht daher spürbar mehr Tokens als auf Englisch.
Warum Unternehmen das wissen sollten
Für eine Mitarbeiterin, die 20 Euro im Monat für ChatGPT Plus zahlt, spielen Tokens keine Rolle. Für ein Unternehmen, das KI in seine Prozesse einbaut, sind Tokens ein anderes Wort für Geld.
- Was KI kostet. Wenn Sie Ihr System über eine Schnittstelle an Modelle von OpenAI oder Anthropic anbinden, zahlen Sie keine monatliche Pauschale. Sie zahlen nach Verbrauch: für jeden Token hinein und jeden Token, den die KI zurückgibt.
- Die Gedächtnisgrenze (Kontextfenster). Jedes Modell hat eine Grenze, wie viele Tokens es auf einmal halten kann. Eine Grenze von 128.000 Tokens heißt, Sie können etwa ein 300-seitiges Buch in einen einzigen Prompt geben. Darüber hinaus beginnt das Modell zu vergessen, was am Anfang stand.
- Deutsch kostet mehr. Weil Modelle deutschen Text in mehr Tokens zerlegen als englischen, kann die Verarbeitung eines Dokuments auf Deutsch 30 bis 50 Prozent mehr kosten als dasselbe Dokument auf Englisch.
Ein Beispiel aus der Praxis
Stellen Sie sich vor, die KI soll jede eingehende E-Mail in Ihrem Kundensystem zusammenfassen. Eine durchschnittliche E-Mail sind 500 Tokens. Bei tausend E-Mails am Tag sind das 500.000 Tokens täglich.
Nehmen Sie dafür das teuerste Modell, kann das Hunderte Euro im Monat kosten. Nehmen Sie ein kleineres, günstigeres — für eine einfache Zusammenfassung mehr als ausreichend —, sind es womöglich ein paar Euro.
In unseren KI-Workshops für Unternehmen zeigen wir nicht nur, wie man KI nutzt, sondern wie Sie die Kosten abschätzen und das Modell so wählen, dass sich die Automatisierung wirtschaftlich trägt.