Vollständige Frage: Ihr rechnet mit s.g. Credits ab, man kauft also mit EUR diese Credits, welche dann in Token umgerechnet werden ... Warum? Und wie kann man so eventuelle künftige Ausgaben schätzen, das scheint mir sehr schwierig. Auch sind die Kosten von Modell zu Modell unterschiedlich - und sogar innerhalb eines einzigen LLM-Models werden Input-/Thinking-/Output-Token bei jedem Anbieter mit unterschiedlichen Kosten beziffert, wie schafft Ihr da Planungssicherheit und Transparenz? Und wie rechnet man zwischen Model/Token zu AI Credits um?
Antwort: Kostenschätzungen sind egal ob mit Credits oder Tokens derzeit vorab nicht möglich. Die Modelle bzw. Ausführungen unterstützen diese Art derzeit nicht. Der Umrechnungsfaktor Token/Credits obliegt Microsoft. Credits werden in Copilot jedoch hauptsächlich für die Nutzung von Schnittstellen verwendet, nicht für Ausführungen. Erst mit Cowork haben wir die Creditbasierte Abrechnung vollständig. Es ist für mich als Nutzender also nicht relevant ob dahinter 10.000 Token oder 5.000 Token verwendet werden. Wie im Webcast angesprochen ist es einfach eine andere Währung. Echte Tokenbasierte Abrechnung gibt es bei Foundry Models - dort gibt es keine Copilot Credits.
Sehr gerne, diese ist hier zu finden: https://microsoft.github.io/cat-agent-skills/
Eine offizielle Kommunikation bzw. einen entsprechenden Link gibt es dazu derzeit noch nicht. Microsoft und Anthropic arbeiten daran, die EU Data Boundary für Anthropic-Modelle noch bis Ende 2026 bereitzustellen. Unvorhersehbare Ereignisse können den Zeitplan natürlich noch beeinflussen, aktuell bleiben wir aber zuversichtlich.
Bei den gezeigten Copilot Beispielen wie zB in Outlook, Teams oder Excel, PowerPoint und Word: Ja, Copilot Business ist zusätzlich notwendig. Cowork ist immer eine nutzungsbasierte Abrechnung und nicht in der Lizenz inkludiert. Foundry Models ist immer zusätzlich kostenpflichtig. Die gezeigte Copilot Studio GitHub Copilot Harness ist ebenfalls immer über eine nutzungsbasierte Abrechnung zu lizenzieren.
Sehr interessante Frage. Diese Sicherheit & Garantie gibt es heute nicht mehr. Es gibt technisch Wege um Modelle einzuschränken. Wenn - aus der Sicht der jetzt verfügbaren Analyse - alle Details aus dem Vorfall von OpenAI betrachtet werden. OpenAI hat für diese Tests bewusst gewisse Sicherheitsmaßnahmen aus dem Modell ausgeschalten um die Fähigkeit des Modells zu prüfen, das war Schritt 1 für den möglichen Ausbruch. Wer sich alle Details aufmerksam aus dem OpenAI Report https://openai.com/index/hugging-face-incident-and-the-road-ahead/ durchgesehen hat wird verstehen, dass die Agenten keinen Internetzugang hatten. Allerdings gab es ein System wo die Agenten benötige Softwarepakete nachinstallieren konnten. Und das war der Weg nach draußen. Wichtig am Ende bleibt aber: Für diesen Test wurden bewusst Sicherheitsmechanismen welche die Modelle haben deaktiviert um die Fähigkeiten zu prüfen. Genau das würde den Schöpfern zum Verhängnis.