We made our mark at Back Market yesterday with the launch of our GenerativeAI platform: Monster AI 🚀 Safely and efficiently accessing Generative AI models empowers everyone to autonomously explore, learn, and implement real-world AI production use cases! 🤖 As our company's companion, Monster AI provides multiple facets: from directly prompting with multiple providers, searching in our shared knowledge, to generating or asking questions on images. This secure infrastructure ensures that our data assets and every usage remain safe, protected, and valued. 🏭 Some of the many features included: • API and UI secured with Okta and Google, ensuring that the platform is secure with reliable services • Every input and output registered in our database with feedback from the users: tracking all activity is crucial for auditing, improving services, and understanding user needs. Collecting feedback is essential for iterative development. • Prompt engineering with personal data detection with additional metrics on the number of tokens used and the price. It helps users to optimize their usage and costs. • Auto-scaling the service to meet demand, ensuring requests are handled efficiently. • Integration of multiple internal data sources available with RAG (Retrieval-Augmented Generation) by providing richer, context-aware responses. • Flexibility and robustness stem from multiple providers, various LLM models, and combined steps. This approach ensures provider-agnostic AI responses. • Monitoring integration with tokens, models, and providers to maintain the service's health and optimize performance. Engineering efforts have been made collaboratively by our awesome AI governance team: Thomas Lavie, Aurélien Gervasi, and Dimitri Baeli 💚 Thrilled to share our adventure with Chainlit (https://lnkd.in/e-6R9_5R), the cutting-edge, open-source solution revolutionizing GenAI application development from Willy Douhard and Dan Constantini 🙏 Our collaboration began with a boost in chatbot development speed and efficiency, thanks to the app-building framework. Now, we leverage the powerhouse behind our backend, enabling us to move from prototype to production in just a few weeks, driving our product forward! It's just the beginning... I can't wait to see and improve our teammates' usage! #generativeai #llm #ai #aisecurity #platform #promptengineering
Amazing to see Monster AI grow alongside Chainlit. It has been a blast to work with you guys, can't wait for what is coming next! 👾🚀
This is an exciting launch ✨🚀
Congrats to the Monster AI team and on the terrific launch 👾🚀 Thrilled to be working with you and the team!
So cool ! Congrats Flo !
Monster rocks 😍 congrats 🚀
So powerful! well done Florian Valeye 🚀
I’ve been enjoyjng it so much!
Il y a 6 mois, lors d’une visite croisée entre CTO chez BackMarket via Tech.Rocks Romain Kuzniak nous a présenté l’approche d’OpenClassroom en réaction à l’arrivée de ChatGPT sous forme d’une expérimentation généralisée. C’était très inspirant et nous avons lancé la même approche, et découvert tout au long du chemin : une trentaine de cas d’utilisation, que chaque cas est proche de la création d’un prompt (à construire et alimenter) et enfin Chainlit pour construire une ferme de Prompts (un contexte = un onglet) et nous brancher sur différents modèles. Monster AI notre multi-assistant AI était né, intégré à Okta et disponible pour tous les employés. Et ce n’est qu’un début : pour moi les LLMs sont le nouveau Excel - un outil d’une incroyable puissance avec mille niveaux d’utilisation possible. J’ai hâte d’être dans un an avec un meilleur recul sur l’utilisation par les employés et une communauté pour les accompagner. Bravo Florian Valeye d’avoir fait sortir tout ça de notre océan de questions. Par la mise en œuvre. Et bravo Thomas Lavie pour l’accompagnement CyberSec interne pour le rendre accessible.
Love this Florian!
Director of Data @Aircall
5moCongrats Florian ! Très chaud pour en discuter avec toi (et chainlit 👏) si vous avez quelques minutes à m'accorder