Read Time: 3 minutes
L’IA générative arrive progressivement sous diverses formes en entreprise Elle est notamment intégrée dans les applications logicielles packagées telles que GitHub Copilot.
À travers nos nombreuses mises en œuvre de projets GenAI en 2023, notre conviction est que l'un des défis majeurs pour les entreprises en 2024 réside dans l'adoption et l'intégration d’une plateforme IA Générative.
Ces plateformes centralisent les multiples cas d'usage, facilitent la collaboration inter-équipes sur divers projets, fournissent les chaînes de traitement de type RAG et la connexion aux modèles d'IA, qu'ils soient classiques ou génératifs.
De plus, elles jouent un rôle crucial dans les tests et l’optimisation des performances des modèles d'IA.
Définition
Il existe dans les entreprises plusieurs type de plateformes : plateforme data & IA, plateforme conversationnelle, plateforme d’automatisation des processus, etc.
Une plateforme d’IA Générative rassemble un certain nombre des caractéristiques des plateformes citées ci-dessus pour créer, configurer, évaluer et déployer des solutions logicielles augmentées par des modèles d’IA génératifs. Les solutions logicielles peuvent prendre la forme de Copilote IA, Chatbot, moteur de recherche intelligent ou conseiller augmenté.
Par ailleurs, ces plateformes, qui incorporent l’accès à des modèles d’IA génératifs, permettent également d’utiliser les modèles d’IA dits « classiques » pour réaliser des opérations complémentaires.
Top Trends favorisant l’émergence des plateformes
L'émergence de plateformes dédiées à l’IA générative est propulsée par plusieurs tendances clés dans le paysage technologique actuel :
1) Le nombre de modèles d’IA générative se multiplie.
Il n’y a pas de gagnant du côté des modèles dits fondations et les modèles open-source gagnent en popularité.
2) l’IA n’est plus l’apanage des data scientists.
La demande croissante de l'IA générative par les métiers révèle une diversité grandissante de cas d'usage, allant de l'optimisation des processus métier à l'innovation de produits et services. Les entreprises souhaitent rapidement passer du MVP à l’industrialisation.
3) Variété des données
Ces scénarios métiers nécessitent souvent d’utiliser des données variées au sein d'un écosystème applicatif hétérogène, ce qui souligne l'importance d'une plateforme capable d'orchestrer et d'intégrer.
3) Accessibilité aux données
L'efficacité de l'IA générative dépend fortement de l'accès et de l'utilisation des données d'entreprise, qu'elles soient stockées dans des systèmes transactionnels tels que Salesforce, SAP, ServiceNow, ou dans des bases de connaissances comme SharePoint, Confluence, ou des sites web.
4) Nécessité d’outils de test
Enfin, pour maximiser l'efficacité et la pertinence des résultats produits par l'IA, les entreprises doivent disposer d'outils adaptés pour tester et optimiser les chaînes de traitement de l'IA et minimiser les erreurs des modèles.
Les enjeux auxquels répondent les plateformes d’IA gen
Être agnostique vis-à-vis des fournisseurs de LMM
Le nombre de LLMs augmente fortement depuis plusieurs mois et une bataille fait rage entre modèles Open Source (Mistral.ai, Llama2,..) et modèles closed source. L’architecture du Studio GenAI doit être agnostique par rapport aux différents fournisseurs de modèles d'IA générative, permettant ainsi une abstraction efficace des modèles sous-jacents.
Maîtriser les coûts
Gérer et optimiser les coûts associés à l'utilisation des modèles d'IA générative est un enjeu économique important, affectant directement le retour sur investissement. En effet, si un acteur du projet sollicite un modèle d’IAG sur de grandes quantités de données, et à de nombreuses reprises, cela peut coûter très cher à l’entreprise.
Intégration, sécurité et observabilité
L'intégration fluide des solutions d'IA dans les systèmes existants, couplée à des mesures de sécurité robustes et une observabilité complète, est cruciale pour assurer un fonctionnement sans faille.
Tests, monitoring et optimisation de la performance
La mise en place de protocoles rigoureux pour le test et le monitoring des systèmes d'IA, ainsi que l'accès à des outils avancés pour améliorer la performance, sont indispensables pour garantir la fiabilité et l'efficacité des modèles.
Agilité et Scalabilité
La capacité à s'adapter rapidement aux changements et à passer à une échelle industrielle est essentielle (gestion de versions, processus devOps, auditabilité, etc.).
Collaboration
Faciliter la collaboration entre des équipes de diverses disciplines, travaillant sur plusieurs projets d’IA générative. Cela nécessite une gestion granulaire des rôles et permissions des intervenants sur le projet.
Hébergement
Selon les cas, la plateforme doit être disponible onPrem, dans un private cloud ou dans le cloud public.
La plateforme d’IA générative au cœur du SI de l’entreprise
Les composants
Une plateforme d’IA générative efficace est constituée de plusieurs composants clés.
Moteur de Workflow et d’orchestration
Ce composant est essentiel pour configurer et orchestrer les processus métiers ainsi que les chaînes de traitement des données. Selon les plateformes, des workflows et des chaînes de traitement prêtes à l’emploi peuvent être disponibles.
Moteurs d’IA
La plateforme doit intégrer :
- des moteurs d’IA classique (Clustering, Classification, traduction…),
- des modèles de LLMs (texte, image, code).
Fonction de recherche/retriever
Nécessaire pour augmenter les modèles de LLM avec vos données d’entreprises.
Outils de tests et d’optimisation
Ces outils servent à faciliter l’évaluation et le débogage des modèles d’apprentissage automatique.
Interface Utilisateur Prête à l'Emploi
Des interfaces utilisateurs intuitives (Copilote, Chatbot, moteur de recherche, conseiller augmenté) et facilement personnalisables.
API
Une plateforme ouverte permettant une intégration fluide et un échange de données dans les deux sens entre la plateforme GenAI et d'autres systèmes ou applications.
Tableau de bord
Des dashboards permettent d’analyser la performance de la plateforme.
SDK
Nécessaire pour étendre la plateforme via du code, pourr intégrer par exemple des librairies supplémentaires (i.e. LangChain).
Conclusion
L'émergence des plateformes d’IA générative sur le marché constitue une réponse concrète aux problématiques des entreprises qui font face à une demande croissante des métiers pour des solutions métiers plus intelligentes, dans un environnement plus complexe du à la multiplication des modèles d’IA, la sécurité des données échangées avec les modèles, les impacts écologiques ou l’évolution de la réglementation.
Les entreprises doivent maintenant définir leur stratégie et peser soigneusement les avantages et les inconvénients entre développer en interne (build) ou acquérir (buy). Elles peuvent compter sur un écosystème d’éditeurs français qui a pris très tôt la révolution de l’IA générative. Konverso fait partie de cet écosystème français et propose une plateforme d’IA générative, certifiée SOC2 Type2, disponible en cloud/on prem, modèle agnostique, avec des solutions prêtes à l’emploi et des API pour se connecter au SI client rapidement. Il est maintenant possible d’avoir un stack français complet incluant l’hébergement en France, un modèle d’IA Génératif français et une plateforme d’IA générative français.
Pour réserver une démo
https://www.odigo.com/wp-content/uploads/2021/10/Aberdeen-RR-Agent-Desktop.pdf https://www.zendesk.com/in/blog/ai-for-employee-experience/ https://www.gartner.com/en/newsroom/press-releases/2023-05-03-gartner-poll-finds-45-percent-of-executives-say-chatgpt-has-prompted-an-increase-in-ai-investment https://emplifi.io/resources/blog/customer-experience-statistics https://www.pwc.com/us/en/services/consulting/library/consumer-intelligence-series/future-of-customer-experience.html https://mytasker.com/blog/unexpected-collaboration-of-artificial-human-intelligence#:~:text=The%20Need%20For%20Collaborative%20Intelligence&text=As%20per%20Harvard%20Business%20Review's,most%20significant%20improvement%20in%20performance.&text=What%20comes%20naturally%20to%20us,a%20joke%2C%20and%20be%20sarcastic. https://www.bcg.com/publications/2023/how-generative-ai-transforms-customer-service https://www.forrester.com/press-newsroom/forrester-cx-na-event-agenda/#:~:text=Forrester's%20data%20shows%20that%20customers,more%20when%20companies%20communicate%20clearly. https://media.bain.com/Images/BAIN_BRIEF_Five_disciplines_of_customer_experience_leaders.pdf https://www.accenture.com/us-en/insights/song/accenture-life-trends
