Glossar
Inferenz
Der Moment, in dem ein fertig trainiertes Modell zum Antworten genutzt wird. Jede Chatbot-Antwort ist eine Inferenz und verursacht Rechenkosten.
Der Moment, in dem ein fertig trainiertes Modell zum Antworten genutzt wird. Jede Chatbot-Antwort ist eine Inferenz und verursacht Rechenkosten.