Inference

Alors que l'industrie de l'IA passe de l'entraînement à l'inférence, des géants comme Nvidia, Google et AWS adoptent des architectures hétérogènes pour réduire le coût par million de jetons.