Tipstuff : Retours d'expérience sur l'intégration d'un assistant IA
🤖 Peut-on ajouter la puissance de l'IA à une application grand public sans faire exploser les coûts 💰 tout en protégeant la vie privée 👁️ ? Évidemment, oui ✌️
📆 Vous l'ignorez peut-être, mais en plus de Bubble Teach, arNuméral est aussi l'éditeur de TipStuff, une application utilisée par plus de 100 000 familles dans le monde francophone pour s'organiser en partageant des listes de courses, des tâches, des stocks, des messages sécurisés et surtout l’agenda.
💡 Cette année, la grande nouveauté pour la rentrée de septembre, c’est l’intégration de l’IA.
Les choix techniques
🚀 Avant tout, il nous fallait un modèle multimodal performant, rapide et surtout abordable, car il n’était pas question d'augmenter le prix du Premium.
Après avoir étudié de nombreuses options, dont LLama (on pourra en reparler si vous le souhaitez), nous avons finalement opté pour GPT-4o-mini d'OpenAI, qui offre un excellent rapport puissance/coût.
À $0,15 par million de tokens en entrée et $0,6 en sortie, cela nous revient, en gros, à $0,03 pour 100 requêtes ! Nous avions donc trouvé la solution pour éviter une hausse du prix de l'abonnement Premium.
🎙️ Restait la question de la voix. En effet, nous voulions que les familles puissent interagir vocalement avec leur IA, mais GPT-4o-mini ne permet pas encore d’analyser la voix.
La solution a été d'exploiter la reconnaissance vocale native des mobiles (Android/iOS) pour transformer la voix en texte.
Une fois le texte obtenu, GPT-4o-mini se charge d’interpréter les commandes, qui sont ensuite retransmises à TipStuff.
IA et vie privée
Depuis 9 ans, TipStuff a réussi à fonctionner sans vendre de données, sans publicité, et en étant financée uniquement par les abonnements Premium annuels. Dès le départ, la protection de la vie privée des utilisateurs a été un engagement fondamental.
Mais est-il possible de concilier cet engagement avec l’intégration de l’IA ? La réponse est oui, mais cela exige des compromis sur certaines fonctionnalités (mais jamais sur la vie privée !).
🧠 Une grande partie du travail de conception des prompts a consisté à être suffisamment astucieux pour obtenir un maximum de fonctionnalités avec un minimum de données. Aujourd’hui, l’IA n'envoie au modèle que deux informations : les noms des membres de la famille et les titres des listes.
Ainsi, l’assistant est capable de répondre à des demandes telles que :
Demain, Basil, Roberte et moi devons aller à la plage pendant 3 heures. On y sera à 13h.
L’IA ajoutera un événement "Plage" de 13h à 16h, en y associant les trois membres de la famille.
En revanche, si vous demandez :
Supprime le rendez-vous avec Jean-Paul demain
L'IA refusera, car cela nécessiterait un accès complet à vos rendez-vous.
Par contre, aucune difficulté à répondre à
Donne-moi une recette faisable en 20 minutes avec du tofu
ou
Ajoute du tofu à la liste de courses des produits bio.
🔒 L'autre aspect essentiel de la protection de la vie privée, c’est le consentement. Avant toute utilisation de l’assistant, son fonctionnement et ses limites sont expliqués, et chaque utilisateur est libre d’accepter ou de refuser son usage.
En conclusion
🎯 Nous reviendrons plus en détail sur l’analyse des usages prochainement. Ce que nous pouvons déjà dire, c’est que TipStuff AI est disponible dans les stores depuis près d'un mois, et l’accueil est vraiment très positif.
Peut-être est-ce la preuve que, contrairement aux inquiétudes souvent véhiculées par les médias, la peur de l’IA peut être apaisée par un service éthique, respectueux et plein de bon sens ?