Papaya organise un meetup à Tel-Aviv sur la gestion des coûts et des piles d'IA

Une rencontre professionnelle intitulée « Own Your AI Stack » se tiendra le 9 novembre dans les bureaux de Papaya à Tel-Aviv, afin d'aborder les défis techniques, l'explosion des coûts et les goulots d'étranglement liés à l'intégration des grands modèles de langage (LLM) en production. Organisé conjointement par Papaya et la presse technologique locale, l'événement s'adresse aux développeurs, aux responsables techniques, aux architectes et aux professionnels des données.

L'événement explorera la frontière critique entre le déploiement des LLM et le retour au code traditionnel, en présentant des solutions architecturales pour les outils d'IA internes. Les organisateurs soulignent que si les entreprises adoptent massivement des outils tels que Claude et Cursor, elles se heurtent souvent à des coûts élevés, à des temps de réponse lents et à des difficultés de traitement de grands volumes de données.

Études de cas et retours d'expérience

Le programme comprend deux sessions techniques principales axées sur les obstacles rencontrés dans le monde réel. La première présentation examinera pourquoi toutes les tâches ne nécessitant pas de LLM, en détaillant les défis techniques rencontrés lors de l'implémentation d'agents autonomes pour la gestion de campagnes Meta et le décodage créatif. Les intervenants analyseront les modifications architecturales nécessaires pour surmonter ces obstacles.

La seconde conférence présentera Clodi, une alternative de bureau interne à Claude développée chez Papaya. Initialement conçu comme une expérience suite au passage de Cursor à Claude via AWS Bedrock pour réduire les coûts, l'outil en ligne de commande s'est avéré insuffisant pour les équipes nécessitant des interfaces graphiques, telles que les développeurs Unity. Cela a conduit à la création d'un client de bureau personnalisé fonctionnant sur le SDK Agent de Claude sans abonnement, devenu depuis un outil quotidien essentiel.

Enseignements pratiques pour les ingénieurs

Les participants repartiront avec des connaissances pratiques pour optimiser l'intégration de l'IA, notamment :

• Cadres de décision : Méthodologies pour déterminer quand utiliser des LLM par rapport aux API traditionnelles afin d'économiser des ressources.

• Observabilité : Intégration de Langfuse dès le départ pour un débogage transparent basé sur les données.

• Gestion des coûts : Stratégies pour gérer la mise en cache des sessions, les budgets de jetons à contexte long et la migration vers AWS Bedrock.

• Outils internes : Modèles pour la construction de wrappers personnalisés, de systèmes de plugins d'équipe et de traitement multimédia déterministe.

La participation est gratuite, mais l'inscription préalable est obligatoire en raison du nombre limité de places.