Tokenkosten: Die unsichtbare KI-Währung

Shownotes

KI-Tools werden leistungsfähiger – aber auch ihre Kosten steigen.

In dieser Folge sprechen Anja und Lukas darüber, wie Unternehmen den Überblick über ihren Tokenverbrauch behalten und warum Transparenz dabei eine entscheidende Rolle spielt.

Bei TIKI wurde dafür ein eigenes Dashboard entwickelt, das Verbräuche verschiedener Tools und Anbieter zusammenführt. Doch wie viel Transparenz ist sinnvoll? Schafft ein Leaderboard mehr Kostenbewusstsein – oder sorgt es dafür, dass Mitarbeitende weniger ausprobieren?

Außerdem geht es darum:

  • warum das leistungsstärkste Modell nicht für jede Aufgabe die beste Wahl ist
  • wie sich Tokenkosten prognostizieren und budgetieren lassen
  • weshalb fehlendes Wissen häufig zu unnötig hohen Verbräuchen führt
  • wie Unternehmen Effizienz schaffen, ohne Innovation auszubremsen
  • und warum KI-Kosten künftig ein fester Bestandteil der Unternehmensplanung sein müssen

Eine offene Diskussion über Kosten, Governance und den bewussten Einsatz von KI im Arbeitsalltag.

www.tiki-institut.com

Transkript anzeigen

00:00:00: Willkommen bei KI kann alles.

00:00:02: Fast!

00:00:03: Dem Podcast von Tiki über künstliche Intelligenz im echten Arbeitsalltag.

00:00:09: Hallo und zurück, bei unserem wunderschönen Podcast mit Mia Anja

00:00:14: Und dem Lukas Hi.

00:00:16: Heute Lukas wollen wir über Tokenkosten sprechen.

00:00:18: Es ist ein massives Thema gerade jetzt mit auch neuen Modellen.

00:00:23: den Token kosten die anfallen.

00:00:25: Wo macht

00:00:26: Sinn?

00:00:27: So viel Geld auszugeben tatsächlich.

00:00:29: Wo macht es eigentlich keinen Sinn so viel Geld?

00:00:31: Die Zeit ist vorbei, dass jeder unendlich viele Kredits hast gestern von dem Kunden auch erst wieder gehört.

00:00:36: Microsoft hat ihre Lizenz verändert mit Co-Pilot das auf einmal die Kosten jetzt dann doch irgendwie beim Endkunden ankommen und auf einmal große Panik.

00:00:43: was machen wir jetzt?

00:00:44: ja also ich glaube jeder beschäftigt sich aktuell damit und Wir wollen heute drüber sprechen wie wir das zumindest gerade mal zum angehen.

00:00:56: Vielleicht starten wir damit, dass wir oder eigentlich vorrangig du richtig gute Transparenz geschaffen habt.

00:01:04: Wie hast du das gemacht?

00:01:05: Was war wichtig?

00:01:07: Vielleicht kannst du da einfach direkt anfangen zu erzählen

00:01:09: und auch schon mal in dieser Vergleich Anja hat mir gerade schon gesagt, es gibt ein Thema wo sie ... nicht mit mir die Meinung teilt.

00:01:17: Das haben wir extra nicht ausdiskutiert, also gleich gibts hier eine Live-Diskussion dranbleiben!

00:01:21: Ja genau,

00:01:22: das weiß

00:01:23: noch nicht dass ich ihm jetzt dann sage.

00:01:25: Ich bin gespannt... ja.

00:01:28: aber wie du schon meintest Transparenz war für mich ein großes Thema.

00:01:31: grade lief's bei uns halt so, dass zum Beispiel API Keys einfach verteilt werden und Ich glaube, wenn man sich ein bisschen damit beschäftigen würde als Entwickler könnte man schon grob rausfinden wie viel man denn eigentlich verbraucht.

00:01:44: Aber ganz oft ist es dann auch für Atmens nur versteckt Und man weiß eigentlich auch selber gar nicht dann als Entwickler, wie viele Tokens jetzt eigentlich verbrannt wurden.

00:01:54: Ja und ja nicht nur Entwickler verwenden Tokens also wir auch.

00:01:57: ja im Management oder für Präsentationen, für E-Mails weil irgendwelche Service Tickets nicht bearbeitet werden ist zum Beispiel ein Beispiel was eine unserer POs gebaut hat.

00:02:09: Also die gesamte Organisation verbrennt Tokens?

00:02:16: Kurzem kam dann Fable-Fünf auf einmal raus von Claude.

00:02:21: Ich war jetzt in Europa nicht so lange verfügbar, die haben sich wieder abgeschalten.

00:02:24: aber auch Opus four Punkt acht das sieht jemand dass es verfügba ist benutzt es natürlich direkt will ja auch das beste Modell irgendwie ausprobieren und realisiert vielleicht gar nicht dass das auf einmal drei bis fünf fache höhere Kosten verursacht.

00:02:41: genau und da habe ich an der Lösung gearbeitet wie das ganze eben möglichst transparent geschehen kann, indem ich einfach die verschiedenen Quellen angebunden habe.

00:02:49: Also wir haben zum Beispiel im Anthropic als einen Provider.

00:02:54: Wir haben Cursor so als IDE aber auch als Provider und IntelliJ Und hab eben einfach keine Lösung gefunden wo das Ganze irgendwie einheitlich sichtbar wäre.

00:03:06: Und zusätzlich will man ja jetzt nicht unbedingt den Service benutzen wo man dann Admin Keys hinterlegt.

00:03:12: deswegen ... habe ich da was Kleines für uns selber gebaut, wo ... ... Mitarbeiter eben einfach sehen können.

00:03:17: Hey wie schaut das gerade aus?

00:03:18: Und wie schaut es vor allem auch aus im Vergleich zu anderen in Unternehmen?

00:03:22: Also man will ja irgendwie auch das Gefühl entwickeln... ... benutze ich das jetzt sehr viel mehr als meine Piers oder bin ich da im Durchschnitt?

00:03:29: oder vielleicht benutze ... ... ich's auch sehr wenig, vielleicht müsste ich es anfangen ... ... ein bisschen intensiver zu benutzen.

00:03:34: Ja also da dann gleich, wo ich nicht deiner Meinung bin aber vielleicht vorab noch ist es eigentlich ... ... also ich weiß es auch tatsächlich selber nicht.

00:03:43: Ist es eigentlich mittlerweile transparent oder nachvollziehbar, wie viel Tokens ich für was brauche?

00:03:49: Also lass uns mal das Beispiel sagen.

00:03:52: Ich bin eine Entwicklerin und habe einen Backen.

00:03:59: Ich weiß der Back ist im Frontend oder so.

00:04:01: Also kann man ein Gefühl dafür haben, wie viele Tokens da tatsächlich brauchen werde.

00:04:07: Ja, das ist auch so ein Thema.

00:04:08: du könntest schon aber du müsstest Tricks, sag ich mal anwenden.

00:04:12: Also wenn du zum Beispiel jetzt jedes Mal mit dem Beispiel Cloud Code eine neue Session öffnen würdest dann könntest du dir schon am Ende quasi ausgeben lassen hey wie viele Tokens hat denn jetzt diese Session konkret benutzt?

00:04:24: Aber so wie ich das zum Beispiel benutze und ich bin mir sicher auch viel Entwickler bei uns das benutzen tippst du ja ganz offen auch immer schon in ein offenes Session rein weil da ist gerade schon der Kontext drinnen da ist grad schon irgendwie des Hintergrunds Wissen vorhanden und arbeitet dann einfach weiter und dadurch verwischt sich das dann ja auch ein bisschen

00:04:41: Ich, der raum ich.

00:04:42: Also schaut sich irgendwie... Also macht das jemand?

00:04:45: Ich find' ich hab das noch nie gemacht!

00:04:49: Also ich habe noch nie ne Session beendet und mir dann angeschaut wie viel hat es jetzt eigentlich gekostet?

00:04:54: Das wäre aber tatsächlich eine coole Sache fürs AI-Chapter vielleicht

00:04:59: Das hoffe ich eben dadurch dass wir ein bisschen eher Transparenz da rein bekommen Und dadurch dass auch mit unseren KI-Lightlinien ganz klar sagen werden hey Leute Wir haben so ein grobes Budget pro Kopf, pro Entwickler im Kopf.

00:05:14: Wenn ihr euch ungefähr da aufhaltet alles gut wenn ihr krass drüber steigt dann müssen wir mal reden und mal schauen hey benutzt ihr vielleicht Tools.

00:05:24: sehr ineffizient gibt es ja auch einfach viele Stolpersteine die man bei der Nutzung mit der KI irgendwie haben kann die dazu führen dass du einfach extrem viel mehr Token verbrauchst.

00:05:35: Genau das wollen wir damit erreichen, einfach einen gewissen Rahmen geben.

00:05:39: Wir wollen jetzt nicht irgendwie dem Entwickler sagen du hast pro Tag fünfzehn Euro die du verbrennen kannst sondern wenn du fertig bist gehäumt.

00:05:45: Sondern hey wie haben hier so ein... wir haben auch einen Pidgey, der ist ja auch finanziell entscheidend.

00:05:49: Wie viel

00:05:51: Verbrauch haben wir pro Jahr als Unternehmen?

00:05:53: Und dann wird es einfach runtergerechnet und wir versuchen das Group abzuschätzen und versuchen aber eben auch den Entwickler oder auch die PMs und PO's mit einzubeziehen um zu sagen Zeig dir doch bitte dem bewusst, was du hier verbrennst.

00:06:05: Das ist so ein Durchschnitt den wir errechnet haben der auch Sinn macht und wo wir auch sag ich mal guten gewissens sagen können damit sollte man sehr viel produktiv hinbekommen können wenn du da krass drüber bist dann läuft irgendwas falsch?

00:06:17: Ja dazu vielleicht gleich noch was ich mir gerade auch gedacht habe.

00:06:21: Wir haben in einer der vorherigen Folgen mal darüber gesprochen dass dieser rote Faden klar sein muss bevor ich überhaupt am Projekt starte ... gerade beim Token Verbrauch ist auch das wieder sehr, sehr wichtig.

00:06:32: Dass ich mir eben vorab Gedanken mache was will ich da eigentlich machen?

00:06:36: Weil wenn ich zum Beispiel an mich denke eine Präsentation mir jedes Mal neu erstellen lasse... Wenn ich einen neuen Input gebe brauche ich unfassbar viele Token.

00:06:44: Wenn ich aber ein zum Beispiel Grill Me verwende mir ersten einen Plan mach und dann sage okay jetzt setzt es um.

00:06:51: also man kann's einfach viel viel infizienter nützen.

00:06:54: Und ich glaube dass es auch In den aller, aller Wenigsten Fällen ist es eine Böswilligkeit.

00:06:58: Nein, auf keinen Fall!

00:06:59: Sondern das ist immer einfach... Es fehlt die Kompetenz zu einem Gewissen oder es fehlt die Verteilung des Wissens wie sowas effizient passieren könnte?

00:07:07: Auch so ein bisschen die Erwärmnis.

00:07:09: also im ersten Schritt kostet es mich persönlich nichts.

00:07:14: Ich

00:07:15: meine,

00:07:15: auch als Mitarbeiter.

00:07:16: natürlich benutze ich als Mitarbeiter.

00:07:17: Wenn mein einziges Ziel ist gute Arbeit, möge mich schnell zu erledigen das beste Modell?

00:07:22: Natürlich!

00:07:22: Ich dachte, ich musste da gerade auch an mich selber denken.

00:07:26: Ich habe natürlich Opus four Punkt acht auch verwendet und wie du heute morgen gesagt hast, oh schau mal Anja, ich hab dich jetzt auch integriert.

00:07:32: Dachte die mir gleich, oh fuck... Jetzt liegt auf Fuck, jetzt fliegt auf.

00:07:39: Und man muss ja ehrlich sagen ich brauche für meine Arbeit keinen Opus-Fürpunkt acht.

00:07:43: aber ich wollte halt auch... Ich war neugierig und ich wollte wissen was kann das?

00:07:46: Ich wollte auch dass meine Arbeit Dichter gerade macht besonders gut wird und dann habe ich es einfach verwendet.

00:07:54: Ja deswegen werden wir zum Beispiel in der Zukunft wenn solche Modelle rauskommen so eine kleine Trial ... Periode haben, wo wir einfach sagen hey gerne ausprobieren.

00:08:04: Und dann setzen wir uns nach einer Woche als Unternehmen zusammen und schauen macht es Sinn.

00:08:09: Seht ihr irgendwie große Verbesserungen?

00:08:10: weil ich bin kein großer Fan von diesen ganzen Benchmarks die da oft veröffentlicht werden.

00:08:14: also vielleicht auf einer ganz grundlegenden Ebene könnt ihr dir schon helfen einzuschätzen ist jetzt ein Modell sehr viel besser als ein anderes.

00:08:21: aber wirklich in im Date Today arbeiten finde ich... Es ist halt einfach sehr subjektiv.

00:08:27: und wenn wir uns jetzt wirklich ganz konkret mal das Beispiel Opus vier Punkt sieben gegen Opus four Punkt acht anschauen, die eigentlich auf Papier die gleichen Kosten haben pro Millionentoken.

00:08:37: Aber wo wir halt effektiv dann sehen dass sich das verdreifacht die Kosten ausgaben und dann muss man sich halt schon wirklich ganz realistisch hinsetzen und sich überlegen macht es den Sinn für uns also löst ist unsere Probleme so viel besser?

00:08:54: Also ist es ein Teil, dass der iChat das dann auch bei euch?

00:08:57: Dass ihr genau sowas auch macht.

00:08:58: Ein Teil an dem ich die letzten Tage jetzt ein bisschen gearbeitet habe vor allem nachdem ich mit unserem CFO auch geredet hab ist Prognose also einfach wirklich abschätzen zu können wo bewegen wir uns als Unternehmen hin?

00:09:09: und wenn das ganz astronomisch wird müssen wir handeln ja und dann müssen wir für uns entscheiden hey ist es diese Investition wert?

00:09:16: Bringt uns das was?

00:09:17: Bringt uns das Wissen, bringt uns das Fortleadership, was auch immer.

00:09:21: Oder verbrennen wir gerade Token um Token zu verbrennend?

00:09:24: Ja voll!

00:09:25: Ich musste grade auch direkt daran denken dass ich auch ganz unheimlich viele Tricks gibt wie ich halt weniger Token verbrenne und trotzdem eine gute Arbeit machen kann.

00:09:34: Da muss sich direkt nochmal vielleicht können wir die Geschichte noch kurz nochmal erzählen ist dieses mit dem Entwicklerhandbuch?

00:09:40: Weil wenn ich jetzt ein Entwicklerhandbuch, mein Modell zur Verfügung stelle und es arbeitet das gesamte Entwickler Handbuch durch brauche ich unfassbar viele Token.

00:09:49: mit der Lösung die wir jetzt gebaut haben.

00:09:53: Brauche ich viel weniger Token und es geht schneller.

00:09:55: Und es funktioniert besser?

00:09:57: Das hat viele Vorteile.

00:10:00: was ich damit sagen will ist natürlich schon wieder sehr kompliziert weil an welcher Stelle mache Es gibt eine Folge zu dem AI-Chapter, ich will das bloß kurz hier primen.

00:10:13: Weil da werden viele dieser Themen aufgefangen aber Token kosten es dann halt ein Riesen Thema.

00:10:20: Ja,

00:10:20: ich glaube es kristallisiert sich ja auch immer mehr raus wie du's auch schon mal erwähnt hast.

00:10:24: AI ist nicht diese eiligende Wollmilchsau sondern es ist ein Werkzeug wie alle anderen auch und es kann effektiv oder ineffektiv benutzt werden.

00:10:33: und dann hängts am Unternehmen das eben für sich zu definieren dementsprechend auch zu implementieren.

00:10:40: Und da finde ich es halt einfach, sind die Token kosten ein Parameter der Funktion und dann muss man für sich abschätzen können hey vielleicht gibt's Aufgaben?

00:10:49: Vielleicht bist du keine Ahnung ein Unternehmen des mathematischen Formeln irgendwie erforscht und vielleicht brauchst du viel Punkt acht einfach um da irgendwie die gewisse Edge dir zu erarbeiten.

00:11:02: aber für alle aller meisten Entwicklungsaufgaben oder selbst Ich meine, was super normal mittlerweile ist auch wenn du so einen Entwicklungsworkflow hast.

00:11:10: Ist das Du halt eines der sehr guten Modelle benutzt um das ganze zu orchestrieren.

00:11:15: aber die tatsächliche Implementierung und die tatsächliche Die Groundwork wird von den Modellen gemacht, die eben nicht so teuer und nicht so umfangreich sind.

00:11:27: Aber du hast quasi das Big Brain im Hintergrund, dass es ganz orchestriert.

00:11:31: Es gibt lauter, es gibt unendlich viele Tricks genau wie diesen hier, die einem ermöglichen, die Kosten da zu senken.

00:11:37: Ja und wo dann ich auch gerade gedacht habe ist eine gewisse Governance.

00:11:41: also manche Leute kriegen halt Modelle zur Verfügung gestellt andere nicht.

00:11:46: Ich glaube, es ist bei sehr vielen Unternehmen gerade sehr offen was für Modelle verwendet werden welche API Keys irgendwo rumfliegen und ich glaube das was du jetzt gemacht hast ist unheimlich wertvoll das mal zu bündeln auch eine Übersicht zu haben wie du schon gesagt hast Vorkast zu machen dann sieht man ja auch okay wir schießen komplett drüber.

00:12:06: Genau, vielleicht mein Punkt zu diesem Thema.

00:12:09: Du meintest ja es gibt ein Ranking und man schaut dann okay wer verbraucht viele Tokens was er erst mal so gedacht ist dass wenn jemand sehr viel Verbraucht das er vielleicht auch coole Learnings zum Teilen hat für die Organisation.

00:12:22: Vielleicht

00:12:22: auch schlechte Learnings?

00:12:24: Vielleicht doch schlechte learnings.

00:12:25: du meintst auch gerade schon da bin ich richtig hellhörig geworden.

00:12:30: Du meinst jetzt gerade sowas wie Wenn jemand sehr sehr viel verbrauch kann es ja sein, dass er das ineffizient nützt.

00:12:38: Und das ist glaube ich genau mein Punkt weil ich habe mir die letzten Tage sehr viel auch Gedanken darüber gemacht.

00:12:43: du hast mir das vor Kurzem gezeigt und seitdem arbeitet das so ein bisschen in meinem Kopf und ich dachte mir wie schaffen wir es denn?

00:12:52: Also... Wie schaffen wir's denn bei.. Es gibt ja unterschiedliche Leute und ich könnte mich sehr gut vorstellen, dass es Leute gibt und irgendwie hab ich es auch kleinst bisschen bei mir beobachtet, die jetzt dann vielleicht weniger nutzen weniger ausprobieren.

00:13:07: Weil die wollen nicht Platz eins sein da oben, dann werden sie gefragt was machst du da eigentlich?

00:13:11: Wieso verbrauchst du das so viel?

00:13:14: Kannst du mal deine Learnings teilen?

00:13:16: Da könnte ich mir vorstellen dass ein Riesenhemdnis entsteht tatsächlich mehr zu nützen auch mal etwas auszuprobieren weil wir vielleicht da schnell in den Fingerpoint kommen könnten.

00:13:28: und es kommt natürlich auf die Personen an weil ich glaube es gibt doch Leute die es einfach super finden wenn die auf Platz Eins wären.

00:13:36: Ich glaube, du bist mal gleich zu Challenge.

00:13:38: Ja gerne!

00:13:40: Ich sehe eine Welt wo das sein könnte.

00:13:43: aber ich glaub wir haben als und vielleicht ist es jetzt sehr tickey speziell ja auf diesem Liederbord wie du's ja gerade auch schon gemeint hast erscheinen nicht nur den Entwickler da schanst auch Du der schein noch ich der scheinen auch CEO oder er scheint auch der CTO Und viele von diesen Menschen die kein Entwickler sind sind da sehr weit oben auf diesem Leaderboard.

00:14:04: Das nimmt einem vielleicht ein bisschen die Angst.

00:14:07: Vielleicht führt es auch zu anderen Seideffekten, dass man sagt hey, der entwickelt nicht mal und verbrennt trotzdem so viel.

00:14:12: Ich glaube ... Es ist schwer... Die Richtung da wirklich vorzugeben.

00:14:18: was will mehr konkret?

00:14:19: ich bin da eher ein großer Fan irgendwie das Endziel zu definieren Und die Menschen können ihre Wege selber finden.

00:14:26: Was wäre das End Ziel in deinem Kopf?

00:14:29: Ja das End-Ziel im Kopf ist diese Transparenz an sich und eine Awareness dafür.

00:14:36: Die Awareness, wie du gerade schon meine, es könnte sich dahin entwickeln, dass jemand auf einmal sehr viel ängstlicher wird in ihrer Benutzung mit KI.

00:14:45: Es könnte aber auch dazu führen, dass einer das auf einmal mehr ausprobiert.

00:14:47: Ich glaube da wirst du alle möglichen zwei gesehen.

00:14:51: Aber ich glaube wenn man irgendwie sagt hey unser Ziel ist hier nicht euch in die gewisse Richtung zu lenken sondern unsere Ziel ist Transparens zu schaffen am Ende als Mitarbeiter dann auch bewusst zu machen, das sind Kosten die bei uns anfallen.

00:15:04: Wir müssen einen gewissen Effizienzgrad damit erreichen wie wir das dann machen.

00:15:10: vielleicht entwickelt sich alles dann wieder irgendwie viel mehr zurück zum Manuellen.

00:15:15: ich meine es gibt viele Menschen die denken dass all diese Förderungen die gerade bei den großen Unternehmen durch venture capital stattfinden muss irgendwann aufhören und vielleicht sehen wir in einem Jahr oder zwei wenn die die Bubble vielleicht ein bisschen geplatzt ist, dass die Kosten explodieren.

00:15:34: Die werden nicht auf ewig so günstig sage ich jetzt mal in Anführungszeichen all diese Services anbieten können und dann sehen wir vielleicht ganz schnell okay das ist einfach alles zu teuer um es so zu betreiben?

00:15:45: Ja also ja... Ich gehe glaube ich mit zu sagen was ich mir gerade vor allem gedacht habe.

00:15:53: meine Angst war ok es geht immens zurück weil Leute ich glaube sehr viele und mich eingeschlossen Ich würde nicht auf Platz eins sein wollen.

00:16:01: Aus euch aber was Cooles zu teilen.

00:16:03: natürlich, wenn ich irgendwie sage, ich habe jetzt eine coole Sache und bin mir schon sicher.

00:16:06: Aber wenn ich das ausprobieren würde, wäre ich vorsichtig auf Platz Eins zu sein und dann gefragt zu werden, was machst du da eigentlich genau?

00:16:13: ... kann ich zeigen, ist alles kein Geheimnis natürlich.

00:16:16: Aber bin nicht auf dem richtigen Weg und benutze sich das richtig effizient.

00:16:21: Aber was ich mir gerade gedacht habe wie du es gerade erklärt hast... ... ist, was es schon schafft, ist diese Erwärmung.

00:16:27: Also bis jetzt hat auch ich keine Erwähnung, wie viel Kosten ich eigentlich verbrauche?

00:16:31: Ich dachte aber, ich bin in einem gesicherten Rahmen, ich kann dich drüber!

00:16:37: habe ich jetzt aber auch anderes gelernt, also ich kann auf jeden Fall aus diesen zwanzig Euro Lizenz die ich hab rüber ohne dass ich es merke.

00:16:47: und was das dann vielleicht schon schafft ist diese Erwärmnis zu machen.

00:16:51: okay wie viel Trockens verbrauche ich eigentlich.

00:16:54: Ist es sinnvoll das zu tun?

00:16:55: Das dachte ich mir gerade, wie du gesprochen hast.

00:16:57: Vielleicht entsteht aber auch.

00:16:58: genau das ist... Ich glaube, ich war nicht der Gedanke von dir zu sagen Leute verwenden dann weniger sondern eher Leute verwende mehr und teilen dann ihre Erfahrungen oder?

00:17:10: Also beide Richtungen die über

00:17:14: wirklich das Haus balancieren.

00:17:15: Wir haben ein krasses Beispiel mit unserem CEO, der sehr viele Folien für mehrere Vorstände vorbereiten musste.

00:17:22: Ich glaub, ein oder zwei Wochen durch zweitausend Dollar Antockungs ... Das ist

00:17:25: wirklich Wahnsinn.

00:17:26: ... durchgebranntes und das ist für mich kein Negativbeispiel sondern es ist für einen Learning.

00:17:31: Ja!

00:17:31: Und ich glaube wenn er auf das Liederbord schaut sollte er sich auch denken oh, das ist aber viel verdammt.

00:17:37: Da hab' ich irgendwas falsch gemacht.

00:17:38: also ich glaub... ja?

00:17:40: Ich will damit nicht erreichen dass sich jemand schämt oder jemand dann weniger gewillt ist das zu benutzen aber den Personen sollte bewusst sein dass das mit Kosten verbunden isst.

00:17:52: Und ich glaube, es ist nicht unbedingt was Negatives sich dann da vielleicht auch mal kurz ein bisschen geschockt zu fühlen.

00:17:59: Sie denken das war ganz schön toll aber gerade passiert es halt gar nicht.

00:18:02: Also gerade benutzt jemand vielleicht und es ist bei uns jetzt nicht unüblich in zwei Wochen tausend Dollar an Tokens und ist sich dem Ganzen entweder gar nicht bewusst oder wenn man's ihm sagen wird würde sagen ja vieles ist jetzt wenig also der ist gar keine gar kein Verständnis dafür.

00:18:18: und ich glaub wenn wir da irgendwie Es wird nicht das Tu sein, dass auf Ewigkeiten alles lösen wird.

00:18:26: Wir müssen uns da einfach bewusst anschaffen...

00:18:28: Wir müssen schauen wo es sinnvoll ist und dieses Problem hat ja wirklich jedes Unternehmen gewohnt.

00:18:32: Wo setze ich sinnvoll KI ein?

00:18:35: Wie verbrauche ich welche Tokens?

00:18:36: Wo macht Sinn Geld auszugeben?

00:18:38: Wo mache ich das mit meiner normalen Arbeit?

00:18:41: Nicht jede E-Mail!

00:18:43: Lass dich mir von der KI schreiben, vielleicht ist auch schon das eben ein Riesenpunkt.

00:18:48: Ich dachte auch gerade es gab ja schon den Moment hier bei uns bei Tiki dass jemand sehr viel verbraucht haben und wir ihn dann so okay hey du hast viel verbracht.

00:18:56: wirst du nicht irgendwie mit ins AI Chapter kommen?

00:18:58: Da kann man jetzt vielleicht auch mal beobachten was passiert jetzt eigentlich wenn er jetzt die nächste Zeit sehr wenig verbrauchten?

00:19:06: also weil das war mein Punkt meine Angst war da einfach ok Wie immer in jedem Bereich ist es einfach so, wenn ich eine Angst habe was falsch zu machen dann traue ich mich weniger.

00:19:18: Und ich dachte ah ich weiß nicht mit dem Leadership Board ob wir nicht da hinlaufen dass man sich denkt oh scheiße ich verbrauche zu viel ich probiere lieber weniger aus.

00:19:29: Ich lehne mich lieber zurück und lass lieber die anderen machen.

00:19:33: Das war mein Gedanke

00:19:34: wo ich dich den Challenge beruht von Unternehmen oder das unterscheidet sich bestimmt bei anderen Unternehmen, aber ich finde nicht dass wir eine Angstkultur haben.

00:19:43: Nein auf gar keinen Fall!

00:19:44: Aber wenn ich da nach oben bin?

00:19:46: Das ist nicht das was ich sagen wollte.

00:19:47: Aber

00:19:48: ich glaube, dass wir gerade... Ich

00:19:49: wollte sagen, dass so vielleicht ein Mechanismus schaffen in dem ein Fokuslicht auf einzelne Personen kommt die eigentlich Sachen ausprobieren und nicht alles was man ausprobiert ist gut.

00:20:02: ...

00:20:03: paar solche Pau-Nutzer.

00:20:04: Und da bin ich auch einer, die wirklich so hohen Verbrauch haben... ... weil sie viele Sachen ausprobieren, dass du dich sage ich mal als Schüchtern der AI-Nutzern,... ... der mal was ausprobierend wirst, dann musst du schon... Also ich würde fast sagen es ist fast unmöglich, dass Du uns da einholst.

00:20:19: Ja ja aber genau

00:20:20: das ist halt cool!

00:20:20: Ich glaube du wirst niemals des Spotlight wird niemals wirklich auf Dich scheinen sondern du werst immer einen Rahmen haben in dem andere sag' ich mal dastehen und ihre Brust groß raushalten weil wir da eben nicht in so einer Situation sind, dass du da jetzt auf einmal noch ganz oben schießen würdest.

00:20:38: Aber genau das ist ja mein Punkt!

00:20:41: Mit diesem leadership board habe ich irgendwie fünf Lieder die da oben drauf sind.

00:20:45: und vielleicht was ich mir eben dachte ist passiert es dann, dass ich mich noch mehr zurücklehne und sage ich will ja eh also... Ich will vielleicht etwas ausblühen, ich hab vielleicht was im Kopf, ich nütze es aber erstmal vorsichtig, sag ich mal.

00:21:00: Wie du schon sagst, du kommst nie da oben hin aber es wäre doch eigentlich cool wenn manche Leute noch mehr ausprobieren würden weil die halt irgendwie in ihrem Projekt andere Herausforderungen haben wie jetzt du.

00:21:10: und mein Gedanke war eben dass sie dann halt sich eher zurücklehnen und eher dieses okay lass mal die machen.

00:21:16: Ich hoffe das ist den Effekt in beide Richtungen hat also wirklich dass manche sich vielleicht ein bisschen zurücknehmen und sich denken und es gibt auch viele die einfach ineffizient gerade handeln teilweise aus ... unwissen, bestimmt noch teilweise aus Faulheit.

00:21:28: Da nehme ich mich auch selber mit ein!

00:21:29: Ich habe ja

00:21:29: gerade auch schon gesagt, dass... Ja genau.

00:21:30: ... ich Opus vier Punkt acht für irgendeinen Brandstorming.

00:21:33: Ja?

00:21:34: Ich meine... Würde ich jetzt nicht unbedingt als Fauler bezeichnen aber es gibt Menschen die haben vielleicht einen Skill im Kopf den sie umsetzen könnten der ihnen helfen würde bei dem Token, aber... Ja mein macht benutze ich halt einen neuen Fenster einfach genauso wie davor ist doch egal.

00:21:45: Aber ich hoffe das dadurch vielleicht eine gewisse Balance und das wird ein großes Learning sein und das können wir vielleicht auch irgendwann nochmal berichten,... ...aber ich hoffe schon, dass da so ne Balance entstehen wird wo ... Menschen, die es gerade sehr wenig benutzen und haben wir auch viele.

00:21:56: Sie sich dadurch vielleicht ein bisschen in Bewegungen gesetzt fühlen... ...und das dann einfach ein bisschen mehr aufprobieren weil sie eben auch keine Angst haben müssen,... ...dass sie auf einmal da ganz oben erscheinen werden.

00:22:09: Weil die Prozentoren so viel weit da unten sind selbst wenn die jetzt auf einmal in ihren Augen zu einem Power-User werden... ...werden die noch nicht mal eine Nähe sein von diesen wirklichen Power-Usern?

00:22:21: Und hoffentlich dann auch mit den Learnings.

00:22:22: deswegen habe ich auch soviel ... Wert auf diesen Connections und den Learnings gesetzt.

00:22:27: Ja, die

00:22:27: Oberfläche ist mega!

00:22:29: Ich bin diesem Fan von mir, was du gebaut

00:22:30: hast.

00:22:30: Aber ich hoffe das sind zum Beispiel jemanden, der es zum Beispiel ganz wenig benutzt... ... der einfach sagt hey, schaut cool aus oder will die auch mal ausprobieren?

00:22:36: Und jemand, der wirklich viel zu viel verbraucht sich denkt uff da ganz oben will ich vielleicht nächsten Monat nicht mehr sein.

00:22:42: Vielleicht kann man nochmal zusammenfassen wie gehen wir mit Token-Kosten um?

00:22:47: Also als technologisches Unternehmen... Wir probieren sehr viel aus und haben sehr hohe Tokenkosten.

00:22:52: Wie gehen wir damit um?

00:22:53: Ich glaube das die Kernsache in Mittoken kosten ist Transparenz.

00:22:59: Voll!

00:22:59: Ich bin riesiger wenn von transparent.

00:23:01: Egal in welche Hinsicht Transparens ist der Nummer eins Weg Organis zu schaffen.

00:23:06: Genau, also was wir tun ist... Wir schaffen Transparenz, wir machen Vorkast, wir planen diese Kosten mit einigstens nicht irgendwelche wildlos gelösten Kosten die irgendwo rumfliegen und die keiner kennt oder auch nicht einen ordnen kann.

00:23:21: Und ich glaube auch nach dem was wir jetzt gesprochen haben gerade diese Awareness die da gerade stattfindet Zum Beispiel, ich werde jetzt auf jeden Fall in meiner nächsten Session ausprobieren.

00:23:32: Okay!

00:23:32: Ich mache diese Session und dann schaue ich was habe ich eigentlich verbraucht?

00:23:36: Und ihr werdet so etwas ja aus iChapter vielleicht auch für die Organisation anbieten... ...und dann kommen wir eben dahin wirklich diese toten Kosten in den Griff zu kriegen.. ..und es ist nicht irgendwie ein ja so ein Monster das uns jedes Monat neu überrollt oder?

00:23:51: Ja,

00:23:51: ich glaube was ich hoffe.... Vielleicht ist es ein bisschen besser formuliert, als ich es gerade vorher nicht so ganz hinbekommen habe.

00:23:57: Ich hoffe das als Endziel von dem was wir veröffentlichen für die Mitarbeiter bewusst wird.

00:24:03: Es geht eigentlich um Effizienz am Ende des Tages.

00:24:06: Es geht darum dass wir das gut benutzen und da sind die Kosten einfach ein großer Teil der Funktion.

00:24:14: Da ist ein Teil der funktion wie gut man es benutzt Wie viel man es benutzt?

00:24:17: Wie viel es kostet.

00:24:19: Und weil es ebenso viele verschiedene Facetten hat Finde ich kann mir wirklich nur vorgeben am Ende, hey wir haben ein gewisses Budget.

00:24:25: Wir sind immer noch Unternehmen.

00:24:26: Wir können nicht einfach ausgeben ohne Ende und wir wollen gute Arbeit leisten wie wir es schon immer getan haben.

00:24:32: Bloß mittlerweile eben sind wir auch gezwungen das ganze schneller zu tun weil der ganze Markt sich dementsprechend schnell bewegt.

00:24:38: Schaut doch mal auf dieses Board und schaut ob ihr euch vielleicht in die eine oder andere Richtung mitentwickeln könnt.

00:24:44: Ich bin gespannt, was dabei rauskommt.

00:24:46: Ich

00:24:47: bin auch gespannt aber ich glaube wir sind auf einem richtig guten Weg und wir werden es in folgenden Folgen auf jeden Fall teilen, was da passiert.

00:24:55: Vielen Dank!

00:24:55: Ich fand's super interessant.

00:24:56: Ich habe heute auch wieder ein bisschen etwas mitgenommen.

00:24:59: Ich schaue jetzt an gleiche meiner nächsten Session, was die kostet.

00:25:04: Und dann bin ich gespannt, dass wir für einen Blick in den nächsten Folgen teilen werden.

00:25:08: Ja?

00:25:08: Es ist ja auch wirklich was anderes wenn man privat einfach zu Hause... zum Beispiel ChatGPT benutzt, den der zwanzig Euro Abo hat für pro Monat und wenn man in so einem Umfang wie bei uns hier damit professionell arbeitet.

00:25:23: Das ist ja ein ganz anderes Themenfeld.

00:25:24: deswegen vielleicht hat euch das auch interessiert, vielleicht betrifft euch das im Unternehmen.

00:25:31: Wir haben uns da mittlerweile auch dementsprechend Kompetenzen schon angearbeitet.

00:25:36: Könnt ihr unsere Hilfe ja auch brauchen?

00:25:37: Genau, sehr gerne auf uns zukommen und schreiben Termine mit uns buchen.

00:25:42: Und dann freue ich mich auf die nächste Folge!

00:25:44: Ich mir auch.

00:25:45: Danke!

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.