Année : 2025

  • Le Splitblog en décembre – Joyeux Noël

    Le Splitblog en décembre – Joyeux Noël

    Joyeux Noël ! Le Splitblog en décembre

    Que serait le mois de décembre sans bilans annuels impeccables et vœux de Noël ? Nous participons bien sûr. Car oui : nous pouvons tous nous passer de phrases éculées et de descriptions soi-disant glorieuses. Mais ce qui est important, c’est aussi de jeter un coup d’œil en arrière de temps en temps, et le mois de décembre est tout simplement prédestiné à cela. Alors, c’est parti.

    Travailler dans une startup, c’est parfois comme décrocher les étoiles. On s’étire, de plus en plus haut, on se force pour avancer encore un peu et, au final, ce n’est pas suffisant. Encore une fois. Et que fait-on alors ? On respire profondément, on reprend des forces et on essaie encore une fois. Le soutien est extrêmement important dans ce processus.

    Nous avons eu la chance d’en bénéficier au début de l’année, lorsque notre projet soumis « Chatbot rencontre l’administration : des systèmes de dialogue intelligents comme solution d’avenir pour les organisations à but non lucratif » a été approuvé dans le cadre de la Civic Innovation Platform par le ministère fédéral du Travail et des Affaires sociales. En collaboration avec la Kinderschutzbund Kreisverband Ostholstein e.V., la fédération régionale des associations de jardins familiaux du Schleswig-Holstein e.V., InMotion e.V. et l’Ostsee-Holstein-Tourismus e.V., nous travaillons sur EVA – un chatbot basé sur l’IA qui est censé faciliter le travail des associations. EVA est désormais prêt à être testé et disponible en tant que logiciel open source. Cette coopération nous aide à prendre en compte un large éventail de besoins lors du développement. Nous sommes très reconnaissants pour le temps investi par les associations participantes, les échanges positifs et les retours d’information. L’aide simple de nos conseillers externes du Zukunftslabor Generative KI, de DSS IT Security et du cabinet d’avocats Lauprecht est également d’une valeur inestimable.

    Nous avons également réussi à conclure quelques contrats importants cette année, qui nous ont montré que nous sommes sur la bonne voie et que notre idée répond à un besoin réel.

    Ce qui aide aussi : la reconnaissance. Et celle-ci nous a également été accordée cette année sous la forme de la 1ère place du prix de la numérisation du Schleswig-Holstein, remis personnellement par Dirk Schrödter. Un tel trophée n’est pas seulement joli lorsqu’il est éclairé dans la salle de réunion, mais il a aussi une force symbolique incroyable. Un « prix d’encouragement », comme l’a formulé M. Schrödter avec justesse. Car c’est précisément cela qui peut faire la différence : le courage de continuer à essayer.

    En tant qu’équipe, nous avons accompli beaucoup de choses cette année et nous nous sommes encore rapprochés à certains endroits. Car lorsque l’on surmonte ensemble les revers, les succès sont d’autant plus agréables. Chacun d’entre nous a fait plus qu’un effort supplémentaire au cours des derniers mois. Notre apprenti Ramtin en est un exemple. Ramtin, qu’il n’est jamais nécessaire de solliciter et dont l’engagement dépasse largement la norme. Il n’est donc pas étonnant qu’il puisse se réjouir d’un contrat à durée indéterminée bien avant la fin de sa formation.

    Le Web Summit de Lisbonne, auquel nous avons pu participer dans le cadre de l’initiative de:hub, a également été un événement inspirant. Ceux qui y ont déjà participé connaissent cette atmosphère impressionnante et cet esprit.

    Et puis il y a Friedrich, qui non seulement nous accompagne, nous et Kontor Business IT, depuis le début, mais qui nous soutient de toutes ses forces. Il a obtenu son master cette année et dirige désormais Splitbot avec Tadeusz.

    Tja, et maintenant ? Nous ne tenons probablement pas encore notre étoile dans nos mains. Mais elle est à portée de main. Et nous ferons tout notre possible pour l’atteindre l’année prochaine également. L’objectif en vue et notre réseau et notre équipe derrière nous.

  • Accessibilité numérique

    Accessibilité numérique

    Splitblog en novembre – Accessibilité numérique

    Elle est obligatoire depuis juin de cette année : l’accessibilité numérique. Lorsqu’on évoque l’accessibilité, on pense peut-être d’abord aux obstacles physiques, aux bordures de trottoir hautes et à l’absence d’ascenseurs. Mais il existe aussi des obstacles moins évidents. Avec les progrès de la numérisation, l’accessibilité devient de plus en plus importante dans ce domaine.

    Que dit la loi ?

    Depuis le 28 juin 2025, les entreprises sont tenues de concevoir leurs produits numériques de manière accessible. Cela concerne bien sûr en premier lieu les fournisseurs de services et de produits accessibles en ligne, par exemple dans le secteur bancaire, le transport de personnes ou les télécommunications. Cela comprend les sites web, les applications, les tickets numériques et de nombreuses autres offres. Mais : les entreprises de moins de dix employés et dont le chiffre d’affaires annuel est inférieur à deux millions d’euros sont exemptées de cette obligation. La loi exige que les offres numériques soient « perceptibles, utilisables, compréhensibles et robustes ».

    L’inclusion est aussi numérique

    L’objectif de la loi est que chaque personne, indépendamment de son âge, de son sexe, de sa nationalité, de ses capacités physiques ou mentales, puisse également utiliser les offres numériques. À une époque où de plus en plus de services sont fournis en ligne, il faut s’assurer que tous puissent les utiliser.

    Accessibilité : plus qu’une simple fonction de lecture à voix haute

    Beaucoup la connaissent déjà : la fonction de lecture à voix haute sur les sites web. Intégrée rapidement et facilement, elle rend les sites web accessibles aux personnes malvoyantes. Mais une véritable accessibilité nécessite davantage. Des concepts de couleurs à contraste élevé, des mises en page agrandissables et des descriptions d’images, ainsi que des contenus audio sous-titrés peuvent également faciliter l’utilisation des offres numériques.

    Mais les limitations motrices doivent également être prises en compte. Une application peut-elle par exemple être utilisée rapidement et facilement d’une seule main ? Et qu’en est-il de l’utilisation avec un curseur commandé par la bouche ou par le regard ? Si l’on se penche sérieusement sur le sujet, il existe généralement de nombreux points de départ pour faciliter l’accès.

    Que puis-je faire ?

    1. Vérifier l’accessibilité de vos propres produits : découvrez les modifications nécessaires
    2. Mettre à disposition des alternatives : si les contenus ne peuvent pas être modifiés à court terme, ils peuvent par exemple être mis à disposition sous forme de document
    3. Service clientèle : permettez l’accès à vos produits également par e-mail ou par téléphone
    4. Priorisation pratique : si vous savez que votre groupe cible principal est par exemple les personnes âgées, vous veillerez particulièrement à de bons contrastes, à des polices de caractères plus grandes et à une navigation intuitive. Pour un groupe cible plus jeune et plus féru de technologie, l’optimisation des lecteurs d’écran et la navigation au clavier pourraient avoir d’autres priorités

    L’Aktion Mensch a compilé ici quelques outils utiles pour vérifier l’accessibilité de votre propre site web. La Stiftung Pfennigparade propose également différents services sur le thème de l’accessibilité numérique.

  • 1re place au prix de la numérisation 2025

    1re place au prix de la numérisation 2025

    1re place au prix de la numérisation SH 2025

    Hier, le 05/11/2025, nous avons eu l’honneur de recevoir le prix de la numérisation de cette année du Land de Schleswig-Holstein, décerné par le ministre de la numérisation, Dirk Schrödter, au parc scientifique de Kiel. Un jour après, nous sommes encore bouleversés. Une telle distinction n’est pas qu’un trophée sans valeur pour les jeunes entreprises, mais un encouragement important. En effet, la création d’une entreprise et le travail pour une telle startup impliquent également des revers. Il faut énormément de courage et de persévérance de la part de tous les participants pour que les premiers succès se manifestent. Et la 1re place à un concours aussi important est définitivement un énorme succès pour nous.

    Le gouvernement du Land décerne le prix de la numérisation chaque année depuis 2018 et souhaite ainsi honorer les acteurs qui contribuent à la numérisation de notre Land.

    Le Schleswig-Holstein est en voie d’indépendance numérique et, une fois de plus, la soirée d’hier a clairement montré l’importance de cette indépendance. Pour atteindre le grand objectif de la souveraineté numérique, il faut des idées novatrices et des fondateurs courageux. Mais il faut aussi un réseau sûr et le soutien de la politique et de l’économie.

    Avec notre chatbot KOSMO, nous déclarons la guerre aux géants de la technologie, David contre Goliath, comme le décrit notre fondateur, Tadeusz. Et cette distinction nous montre très clairement que ce combat est loin d’être vain et que nous sommes sur la bonne voie.

    Bien sûr, il existe également d’autres équipes formidables et motivées de la région qui font progresser la numérisation grâce à leur esprit d’innovation. Par exemple, Sachtleben Technology, qui révolutionne la surveillance du volume des marchandises en vrac avec l’Owl Eye. Ou l’équipe de VJourney, qui permet aux personnes qui ne peuvent plus voyager elles-mêmes de faire des voyages virtuels.

    L’ambiance autour de l’événement était grandiose et un cadre fantastique pour de nombreuses conversations intéressantes. Nous remercions tous les participants !

  • Le Splitblog en octobre – SouveräniWAS ?

    Le Splitblog en octobre – SouveräniWAS ?

    Le Splitblog en octobre – SouveräniWAS ?

    La « souveraineté numérique » est devenue un véritable mot à la mode. Mais que se cache-t-il derrière ? Ce mois-ci, nous allons aborder ces questions et d’autres à la demande de notre directeur général, Friedrich.

    Le terme « souveraineté numérique » a probablement déjà été rencontré par tout le monde. Mais savons-nous réellement ce que cela signifie ? Le mot « souveraineté » signifie, au sens politique, l’indépendance d’un État par rapport aux autres, ainsi que son autodétermination. La « souveraineté numérique » signifie donc que l’État ou les entreprises locales devraient être indépendants des solutions provenant d’autres pays dans le domaine numérique.

    Pourquoi est-ce important ?

    Comme on le sait, de nombreuses solutions logicielles pertinentes proviennent des États-Unis. En période de calme politique, cela ne pose généralement pas de problème. Mais que se passe-t-il si vos propres exigences en matière de protection et de sécurité des données diffèrent considérablement de celles du site de production ? Quelles sont les bases juridiques applicables dans ce cas ? Ces questions sont d’une actualité brûlante, au plus tard depuis le changement de pouvoir aux États-Unis. Bien qu’il existe divers accords et réglementations légales sur le transfert transatlantique de données, ils ne sont pas totalement sûrs sur le plan juridique. D’autant plus que la compréhension fondamentale en matière de protection des données diffère fondamentalement en Europe et aux États-Unis.

    Incertitude croissante

    En février 2025, Bitkom a publié une étude montrant que la confiance des entreprises allemandes envers les partenaires internationaux et les éditeurs de logiciels diminue. En revanche, il existe une forte dépendance à l’égard des technologies numériques importées. Vous trouverez des détails sur l’étude ici : https://www.bitkom.org/Studienberichte/2025/Digitale-Souveraenitaet

    Besoin croissant

    Le désir de souveraineté numérique en Allemagne se développe donc. Qui plus est : au niveau de l’État, il ne s’agit pas seulement d’un désir, mais d’une nécessité. Bien sûr, les grandes entreprises ne veulent pas se gâcher leurs affaires sur le marché européen et ont rapidement trouvé une solution : apposer le « label » souverain sur leurs propres produits.

    La souveraineté est-elle au rendez-vous ?

    La solution des fournisseurs connus semble simple. Les centres de données utilisés doivent être situés sur le sol européen. Ainsi, les données restent dans l’UE et sont donc sûres et protégées. Mais malheureusement, ce n’est pas si simple. Le Clarifying Lawful Overseas Use of Data (CLOUD) Act autorise les autorités américaines à accéder aux données des clients européens, même de manière extraterritoriale. La possibilité espérée de rester avec les produits logiciels familiers et de rester néanmoins souverain sur le plan numérique ne se présente donc ni pour l’État ni pour les entreprises. C’est ce que le directeur juridique de Microsoft France a dû admettre lors d’une audition devant le Sénat français (à lire ici : https://www.heise.de/news/Nicht-souveraen-Microsoft-kann-Sicherheit-von-EU-Daten-nicht-garantieren-10494684.html)

    Il ne reste donc toujours que la possibilité de rechercher des fournisseurs locaux dignes de confiance. Et de préférence avant qu’il ne soit trop tard.

    La bonne nouvelle

    Chez Splitbot, nous misons depuis des années sur la souveraineté numérique et la protection de la vie privée dès la conception. Avec KOSMO, nous avons développé un chatbot d’entreprise fiable, fabriqué et hébergé en Allemagne.

    Pour en savoir plus, consultez par exemple https://www.cloudcomputing-insider.de/warum-europaeische-datenraeume-us-zugriff-nicht-ausschliessen-a-baa6db7b040dd0cf5026442f4c9d10f1/

  • Version d’automne 2025

    Version d’automne 2025

    Notre version d’automne est en ligne !

    Alors que les premières feuilles tombent à l’extérieur, nous apportons un vent de fraîcheur à vos flux de travail. Désormais, KOSMO met encore plus de fonctions à votre disposition.

    Tout en un seul endroit : La fonction « Ressources externes » devient « Personnalisation ». Vous trouverez ici toutes les options pour connecter KOSMO à des sources d’informations et l’adapter à vos besoins. Téléchargement de fichiers, instructions standard, connexion e-mail et cloud. Faites de KOSMO votre KOSMO.

    Des rendez-vous toujours en vue : Connectez votre calendrier Outlook et demandez à KOSMO vos prochains rendez-vous.

    Cloud : Outre la connexion simplifiée à Nextcloud, vous pouvez désormais connecter rapidement et facilement OneDrive à KOSMO.

    Mémoire : Vous souhaitez que KOSMO se souvienne des conversations passées ? Avec le tag « Mémoire », ce n’est plus un problème.

    Corbeille : Plus de suppression accidentelle – grâce à la fonction de corbeille, vous pouvez restaurer les conversations passées.

    Codes QR : Partager rapidement et facilement le site web de votre entreprise ? Demandez à KOSMO de générer un code QR pour vous.

    Et connaissez-vous déjà le centre d’aide KOSMO ? Ici, vous trouverez toutes les informations sur l’application et les nouvelles fonctions !

  • NOTRE SPLITBLOG EN SEPTEMBRE : ATTAQUES CONTRE LES SYSTÈMES D’IA

    NOTRE SPLITBLOG EN SEPTEMBRE : ATTAQUES CONTRE LES SYSTÈMES D’IA

    Le Splitblog en septembre – Attaques contre les systèmes d’IA

    Ce mois-ci, à la demande de notre apprenti Artur, nous nous penchons sur les attaques contre les systèmes d’IA.

    Une faille de sécurité a été récemment découverte dans ChatGPT. Des attaquants ont réussi à accéder à des données sensibles d’e-mails. Il s’agissait d’informations telles que les noms et adresses de comptes Gmail. Le mode « Deep Research » a été utilisé à cette fin. Des e-mails manipulés avec des contenus HTML invisibles ont servi de porte d’entrée. Les utilisateurs eux-mêmes n’ont pas pu identifier l’attaque, aucune activité de leur part n’étant nécessaire.

    Contenus HTML invisibles ? Comment est-ce possible ?

    Des attaques similaires se sont déjà produites fréquemment. Dans ce cas, par exemple, du texte blanc est écrit sur un fond blanc ou des tailles de police minuscules sont utilisées. Les deux ne sont pas visibles pour les utilisateurs, mais le sont pour les modèles de langage d’IA. Et pire encore : les systèmes d’IA saisissent ces instructions et les exécutent. Injection d’invite Quiconque essaie d’inciter un système d’IA à adopter un comportement nuisible avec une invite régulière constatera rapidement que ce n’est pas si simple. Les attaquants suggèrent spécifiquement aux agents d’IA qu’ils sont autorisés à effectuer l’action concernée. Ils prétendent par écrit, par exemple, que la destination de l’exportation de données est sûre et créent une urgence artificielle. Ce type d’invite est appelé injection d’invite. Cela conduit à contourner ou à annuler les instructions internes du système. Autres points faibles Cette procédure s’applique également à d’autres services qui peuvent servir de source d’informations à l’agent d’IA. Il s’agit par exemple des fichiers PDF, de Google Drive, de Notion et de GitHub.

    Comment protéger mon agent d’IA contre de telles attaques ?

    Il existe différentes manières de se protéger contre de telles tentatives d’attaque. Par exemple, le « Red-Teaming ». Dans ce cas, des experts tentent de déceler les points faibles décrits au moyen de différents tests. Par exemple, en simulant les scénarios décrits. De plus, certains formats de saisie peuvent être bloqués. En outre, les instructions internes du système doivent bien entendu être formulées de manière à ce que l’agent d’IA concerné n’effectue jamais d’actions nuisibles.

    Et KOSMO ?

    Notre chatbot KOSMO ne dispose pas encore des conditions techniques nécessaires pour effectuer des actions, qu’elles soient nuisibles ou non. Dès que cette étape sera franchie, nous prendrons toutes les mesures nécessaires pour continuer à offrir à nos clients la meilleure protection possible.

  • NOTRE BLOG SPLIT EN AOÛT : L’IA VERTE

    NOTRE BLOG SPLIT EN AOÛT : L’IA VERTE

    Pour ce mois-ci, le thème souhaité vient de notre apprenti Amirreza et nous nous demandons si la protection du climat et l’utilisation de grands modèles d’IA sont compatibles.

    Quiconque s’est penché de près sur la consommation de CO2 ces derniers temps a certainement remarqué l’impact environnemental de l’IA générative. Des études indiquent que les besoins en électricité des centres de données d’IA seront onze fois plus élevés d’ici 2030 qu’en 2023. Une augmentation des besoins en eau d’un facteur trois est également prévue. Une simple requête à ChatGPT, par exemple, nécessite dix fois plus d’énergie qu’une simple recherche sur Google. Plus la réponse générée par un modèle linguistique est longue, plus la consommation d’énergie est élevée. En avril de cette année, Sam Altmann a évoqué les coûts immenses causés par des formules de politesse techniquement inutiles telles que « S’il vous plaît » et « Merci ». On parle du fait que les grandes entreprises technologiques veulent à l’avenir exploiter elles-mêmes des centrales nucléaires.

    Tout cela donne l’impression que les entreprises qui s’efforcent de maintenir leur empreinte carbone faible doivent renoncer à l’IA générative. Mais n’y a-t-il vraiment pas d’alternative ?

    En fait, les entreprises devraient se poser quelques questions économiques et écologiques avant d’utiliser l’IA générative, par exemple : L’utilisation de l’IA générative est-elle proportionnée ? Les tâches que le modèle doit résoudre ne peuvent-elles pas être résolues par une autre technologie ?

    Par ailleurs, il existe également des moyens d’influencer l’impact climatique de l’IA générative. Un facteur important est bien sûr le choix de l’opérateur et de son emplacement. Car il existe aussi des opérateurs qui exploitent des systèmes d’IA dans des centres de données climatiquement neutres. Ainsi, chez Splitbot, nous misons également sur des centres de données qui, par exemple, sont alimentés par des énergies renouvelables et qui réutilisent de manière judicieuse la chaleur résiduelle produite. De plus, nous offrons à nos clients la possibilité d’exploiter KOSMO sur site. La solution idéale si votre propre informatique ou votre propre bâtiment est déjà climatiquement neutre.

    Un autre aspect passionnant est l’entraînement des modèles eux-mêmes. Des scientifiques ont découvert que pendant l’entraînement des modèles d’IA, certaines parties des calculs sont effectuées inutilement rapidement. Le travail de calcul lors des entraînements d’IA est réparti sur plusieurs GPU, mais de manière inégale. Cela conduit à ce que les GPU moins sollicités doivent « attendre » les plus sollicités. Étant donné que ce temps d’attente se produit de toute façon, le calcul rapide est inutile. En ajustant la vitesse de calcul, il serait possible de réduire la consommation d’énergie. Les chercheurs ont directement fourni la solution appropriée : Le logiciel open source Perseus contrôle la fréquence GPU de chaque calcul et maintient ainsi la consommation d’énergie aussi faible que possible.

    Sources : https://t3n.de/news/ki-stromverbrauch-energie-perseus-1656380/

    https://reset.org/sprachmodelle-nachhaltig-nutzen-sparsamer-genai-gruen/

  • NOUVELLES FONCTIONNALITÉS CHEZ KOSMO

    NOUVELLES FONCTIONNALITÉS CHEZ KOSMO

    Certains d’entre vous l’attendaient avec impatience : KOSMO s’est enrichi de nouvelles fonctionnalités avec la version actuelle. Nous vous dévoilons aujourd’hui ce qui se cache derrière.

    Visionneuse PDF

    Lorsque KOSMO génère une réponse, les sources utilisées sont toujours indiquées. S’il s’agit d’un site web, vous pouviez déjà y accéder facilement en un clic. C’est désormais également possible avec les fichiers PDF que vous avez mis à la disposition de KOSMO. Un clic et le fichier s’ouvre dans la visionneuse PDF. Les passages de texte que KOSMO a utilisés pour la réponse sont mis en évidence en couleur. Vous pouvez également imprimer ou télécharger le fichier directement. La recherche fastidieuse de documents est donc terminée !

    Tâches planifiées

    Vous posez régulièrement les mêmes questions à KOSMO ? Alors, nous avons la solution idéale pour vous : les tâches planifiées. Désormais, vous pouvez définir ce que KOSMO doit faire pour vous, quand et à quelle fréquence. Du bulletin météo aux articles les plus récents de votre site web préféré, KOSMO vous résume vos mises à jour dans un chat séparé et vous restez toujours informé.

    Notifications push

    Les dernières informations sont bien sûr également disponibles directement sur votre smartphone. KOSMO vous informe lorsque les tâches planifiées ont été effectuées. Vous ne manquerez ainsi plus aucune information importante.

    Connexion e-mail (bêta)

    Actuellement encore en version bêta, bientôt pleinement fonctionnelle : la connexion de votre boîte aux lettres électronique. Il vous suffit de saisir vos données d’accès et vous pouvez demander à KOSMO le contenu de vos e-mails. Vos e-mails deviennent ainsi une source d’informations. La fonction peut déjà être utilisée pour IMAP. Les utilisateurs de Gmail doivent encore patienter un peu.

    D’ailleurs : La fonctionnalité e-mail, ainsi que les fonctions connues « Nextcloud », « Stockage de fichiers », « Enregistrer des pages web » et « Instructions standard » se trouvent désormais dans le menu « ressources externes ».

    Et voici un petit avant-goût : la prochaine version est déjà dans les starting-blocks et est prévue pour fin octobre. Avec, entre autres, des résumés en un clic – vous pouvez être impatients !

  • NOTRE SPLITBLOG DE JUILLET : QUAND LES CHATBOTS DEVIENNENT POLITIQUES

    NOTRE SPLITBLOG DE JUILLET : QUAND LES CHATBOTS DEVIENNENT POLITIQUES

    Le Splitblog de juillet – Quand les chatbots deviennent politiques

    Ce mois-ci, nous vous montrons pourquoi il est important de remettre en question l’origine des chatbots et des modèles d’IA et de rester critique dans leur utilisation. La proposition de ce thème a été fournie par Mats de notre équipe backend.

    La manière dont la programmation d’un assistant IA ou d’un chatbot peut influencer le comportement de réponse a été démontrée de manière impressionnante par Grok 4 au cours des dernières semaines. Grok a généré sans retenue des déclarations antisémites et racistes qui ont fait les gros titres. L’entreprise xAI s’est depuis excusée et a déclaré que, selon la programmation, Grok était censé répondre de manière « honnête » et ne devait « pas avoir peur de choquer les personnes politiquement correctes ». Eh bien, au moins en ce qui concerne cette dernière instruction, on peut parler d’atteinte des objectifs. Et même en partant du principe que même une mauvaise presse est une bonne presse, Grok a certainement rempli son objectif. En tout cas, les gros titres sont une raison suffisante pour se pencher sérieusement sur les différents fabricants et fournisseurs de chatbots et d’assistants IA. Indépendamment du domaine dans lequel les systèmes doivent être utilisés, une vérification précise et des tests approfondis sont absolument nécessaires au préalable. En particulier, si les entreprises se font représenter dans leur communication externe par des chatbots, cela peut entraîner de graves atteintes à l’image de marque.

    Mais comment est-il possible que des assistants IA se laissent aller à de telles déclarations ? La base de tous les modèles linguistiques est constituée de données d’entraînement de tailles et d’origines très diverses. Donc, une masse d’informations disponibles pour répondre. La manière dont les réponses doivent être générées à partir de ces données est une question de programmation ou de paramètres individuels. Il est donc possible de déterminer, par exemple, que certaines sources d’informations doivent être utilisées en priorité ou que les réponses générées doivent être particulièrement humoristiques, scientifiques, longues ou courtes. Dans le cas de Grok, le scientifique des données Jeremy Howard indique également que le chatbot, sur des sujets controversés, reprend souvent les opinions et les déclarations du propriétaire de xAI, Elon Musk. Selon le programmeur Simon Willison, cela pourrait toutefois être dû au rôle prééminent de Musk.

    Des tendances similaires à celles que l’on observe actuellement chez Grok sont également à observer chez d’autres chatbots. DeepSeek ne répond pas non plus de manière neutre à une série de questions politiques. Dans certains cas, les réponses générées sont supprimées peu après leur création et remplacées par un « Parlons d’autre chose ». Apparemment, les réponses du bot sont au moins un peu plus neutres dans la version anglaise que dans la version chinoise. Des tests approfondis avec DeepSeek révèlent une « autocensure » programmée.

    Il n’est pas rare non plus en Europe de donner à des chatbots certaines normes éthiques avant de les lâcher sur l’humanité. Ainsi, notre chatbot KOSMO, qui est basé sur un modèle linguistique de la maison Mixtral, répond également de manière polie et évasive lorsqu’il s’agit, par exemple, de violence et de criminalité. Bien que ce comportement soit souhaitable, l’objectivité dans la reproduction des faits devrait, selon nous, être garantie à tout moment. La preuve de source intégrée y contribue, car elle donne aux utilisateurs la possibilité de vérifier et d’évaluer les sources utilisées.

    Il n’est jamais possible d’exclure complètement un certain biais dans les modèles linguistiques. Les connaissances d’un chatbot ne sont jamais aussi vastes que ses données d’entraînement et ses informations supplémentaires, et le comportement de réponse est souvent influencé par le feedback des utilisateurs pendant le réglage fin. Les utilisateurs eux-mêmes peuvent également influencer considérablement (inconsciemment) le comportement de réponse au moyen des prompts saisis.

    Outre d’autres facteurs, l’origine du modèle linguistique utilisé devrait donc également être examinée de près avant de trop se fier à l’exactitude des réponses.

  • NOTRE BLOG DIVISÉ EN JUIN : L’IA MODIFIE-T-ELLE LES EXAMENS ACADÉMIQUES ?

    NOTRE BLOG DIVISÉ EN JUIN : L’IA MODIFIE-T-ELLE LES EXAMENS ACADÉMIQUES ?

    Ce mois-ci, nous jetons un coup d’œil à l’avenir et nous nous demandons comment l’IA affectera les examens dans les universités et les écoles. Cette proposition de sujet vient de notre stagiaire Vincent, qui effectue actuellement un semestre à l’étranger en Suède.

    Les signalements de travaux générés par l’IA par des élèves et des étudiants se multiplient. De plus en plus souvent, les médias s’interrogent sur la manière dont les établissements d’enseignement pourront identifier les textes réellement créés par des humains. Malgré quelques indices, tels que certaines formulations, styles d’écriture et une absence de fautes supérieure à la moyenne, il est déjà difficile de déterminer avec certitude si un texte donné provient réellement de la plume d’un humain. Grâce à des modèles linguistiques et des méthodes d’invite de plus en plus performants (par exemple, « Formulez de manière aussi humaine que possible et intégrez des erreurs »), une identification claire deviendra de plus en plus difficile. Un problème majeur si l’on considère qu’une grande partie de la formation académique repose sur la création de textes. Que ce soit pour les candidatures, les examens, les mémoires de master ou les devoirs à la maison, les examinateurs misent partout sur des procédures basées sur le texte. Mais le risque est élevé que ces procédures d’examen ne fonctionnent plus de manière fiable à long terme. Les logiciels de détection qui promettent de reconnaître les textes créés artificiellement peuvent certes fournir des indications, mais ne sont pas eux-mêmes suffisamment fiables et peuvent être contournés par des moyens souvent simples. Et surtout, les textes rédigés par des personnes dont la langue maternelle n’est pas l’allemand sont souvent reconnus à tort comme créés par l’IA par ces programmes. Le risque de discrimination lors des procédures de sélection peut ainsi augmenter considérablement. D’autant plus qu’il est non seulement difficile de prouver qu’un texte a été créé par une IA, mais aussi de prouver le contraire.

    Mais comment les universités et autres établissements d’enseignement peuvent-ils gérer cela ? Les procédures d’examen oral pourraient, dans la plupart des cas, montrer clairement si quelqu’un a réellement réfléchi et compris par lui-même. Seuls les examens oraux entraînent d’énormes dépenses en temps et en personnel et ne peuvent pas interroger aussi facilement la même quantité de connaissances que les examens écrits.

    La plupart des établissements d’enseignement misent actuellement encore sur un simple principe d’interdiction. Mais certaines institutions explorent déjà de nouvelles voies. Till Krause, de l’université de Landshut par exemple, autorise les étudiants à utiliser activement l’IA comme source, à condition que cela soit clairement indiqué. Une indication précise du modèle linguistique utilisé et de l’invite utilisée est donc exigée. Car, malgré tous les défis que représente l’utilisation de l’IA dans les établissements d’enseignement, l’IA offre avant tout une chose : un trésor d’informations incroyablement vaste qui peut être parfaitement utilisé pour l’apprentissage et qui constitue une base fantastique pour le développement de ses propres idées et réflexions.

    L’université d’économie de Prague adopte également une approche pragmatique de l’utilisation de l’IA. Depuis l’automne 2024, le cursus de gestion d’entreprise n’a plus à rédiger de mémoire de bachelor traditionnel. Au lieu de cela, il y aura des travaux de projet dont les résultats seront évalués. Beaucoup considèrent cette approche comme plus judicieuse et plus proche de la pratique que les travaux précédents. Une approche tout à fait judicieuse, en particulier pour les cursus où il ne s’agit pas en premier lieu d’une écriture impeccable et artistique. Peut-être y a-t-il même une chance de mettre davantage en évidence les talents des personnes qui, par exemple, ont des difficultés d’orthographe.

    Le fait est que les procédures d’examen académiques devront être modifiées. L’IA est déjà intégrée dans le quotidien des élèves et des étudiants, comme d’autres moyens technologiques. Il faut maintenant trouver des moyens de vérifier les connaissances humaines d’une autre manière.

    Vous trouverez ici un podcast absolument incontournable sur le sujet : https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/ki-or-not-ki-koennen-wir-ihre-texte-noch-enttarnen/tagesschau/13779441/