Catégorie : Actualités

Le Splitblog en mars – Je vois ce que vous ne voyez pas, et c’est l’IA

Le boom de l’IA se poursuit et, pour beaucoup, l’IA apparaît toujours comme une technologie flambant neuve, surgissant soudainement de nulle part. C’est l’occasion pour nous d’examiner où l’IA nous accompagne (et ce, depuis très longtemps) dans notre quotidien sans que nous nous en rendions compte.

L’appareil photo du smartphone

Alors qu’auparavant, des équipements de haute qualité et une grande expertise étaient nécessaires pour des prises de vue professionnelles, la photo parfaite est aujourd’hui souvent réussie d’une simple pression sur un bouton. De nombreux smartphones sont non seulement équipés d’appareils photo de haute qualité, mais aussi, depuis plus d’une décennie, de technologies d’IA sophistiquées. Elles reconnaissent les scènes, ajustent la mise au point et optimisent l’exposition, transformant ainsi nos clichés de loisirs en images vivantes.

E-commerce

Peut-être un peu plus évident, mais rarement perçu activement : les recommandations d’achat. De nombreux fournisseurs de shopping en ligne utilisent l’IA pour analyser nos préférences, notre comportement d’achat et nos choix. Sur cette base, d’autres recommandations de produits sont générées pour nous inciter à de nouveaux achats – et ce, depuis plus de 20 ans.

Agriculture

L’IA a également fait son entrée dans l’agriculture depuis longtemps. Les conditions du sol et la croissance des plantes sont analysées avec précision, optimisant ainsi le rendement des récoltes et la culture. Mais aussi dans l’élevage, par exemple pour le calcul de la quantité et de la composition idéales des aliments,

Jeux vidéo

Depuis la fin des années 90, l’IA est également devenue indispensable dans les jeux vidéo. En particulier, le comportement des PNJ (personnages non-joueurs) est souvent contrôlé par l’IA.

Pronostics sportifs

Pas forcément pertinent au quotidien, mais passionnant pour les fans de sport : les analyses de matchs et les pronostics sont aussi souvent créés avec des outils d’IA. L’un des exemples les plus connus est probablement xGoals. XGoals est capable, par exemple, de calculer la probabilité d’un but en fonction de la position du joueur. Lors d’un match de football professionnel, jusqu’à 3,6 millions de points de données peuvent être collectés et utilisés pour l’analyse du match. L’IA a donc des effets considérables sur les tactiques de jeu et l’entraînement, mais elle est également utilisée pour le recrutement de nouveaux athlètes.

Systèmes de navigation

Les systèmes de navigation ne se contentent plus de calculer l’itinéraire depuis longtemps. L’IA est également utilisée ici pour inclure la consommation de carburant et les données de trafic actuelles. Ainsi, les systèmes de navigation modernes parviennent à nous proposer de manière fiable et en temps réel le meilleur itinéraire ou à trouver des alternatives.

L’IA est désormais omniprésente et fait partie intégrante de notre quotidien. Il n’est pas inutile d’y jeter un coup d’œil dans son environnement personnel. Et la prochaine fois que l’aspirateur robot domestique restera coincé dans les franges du tapis, on pourra se demander avec un clin d’œil si la prise de contrôle du monde par l’IA est vraiment aussi imminente que certains le supposent.

Le Splitblog en février : Tout ce que les entreprises doivent savoir maintenant sur l’EU AI Act

Depuis août 2024, l’EU-AI-Act est en vigueur. Un projet de loi actuel pour une loi d’application a maintenant été adopté. L’Agence fédérale des réseaux doit être le point de contact central pour surveiller les exigences de l’UE en matière d’intelligence artificielle.

L’EU-AI-Act est la première réglementation législative complète sur l’intelligence artificielle au monde. Il vise à promouvoir une IA digne de confiance en Europe, à minimiser les risques tout en permettant l’innovation. Pour les entreprises, il est essentiel de comprendre et de mettre en œuvre les nouvelles exigences afin d’éviter les risques juridiques et de garantir des avantages concurrentiels.

Qu’est-ce que l’EU-AI-Act ?

L’EU-AI-Act est un cadre qui classe les systèmes d’IA selon leur potentiel de risque et définit les exigences réglementaires correspondantes. L’objectif est de garantir la sécurité, la transparence et le respect des droits fondamentaux lors de l’utilisation de l’IA.

Approche basée sur les risques et catégorisation des systèmes d’IA

L’EU-AI-Act divise les systèmes d’IA en quatre catégories :

Risque inacceptable (interdit)

Exemples : systèmes de notation sociale, manipulation d’enfants, catégorisation biométrique selon des critères sensibles.

Réglementation : Ces systèmes sont interdits dans l’UE.

Risque élevé

Exemples : IA dans les dispositifs médicaux, systèmes de transport, sélection du personnel, application de la loi.

Réglementation : Exigences strictes telles que la gestion des risques, la gouvernance des données, la documentation technique et la surveillance humaine.

Risque limité

Exemples : chatbots, deepfakes.

Réglementation : Obligations de transparence, par exemple identification des contenus générés par IA.

Risque faible/nul

Exemples : filtres anti-spam, IA dans les jeux vidéo.

Réglementation : Aucune obligation supplémentaire, mais les principes généraux tels que la non-discrimination s’appliquent.

Exigences de conformité pour les systèmes d’IA à haut risque

Les entreprises qui utilisent des systèmes d’IA à haut risque doivent satisfaire aux exigences suivantes :

• Gestion des risques : Évaluation et minimisation continues des risques.
• Gouvernance des données : Données d’entraînement de haute qualité, représentatives et sans erreur.
• Documentation technique : Preuve de conformité.
• Journalisation : Enregistrement automatisé des événements pendant au moins 10 ans.
• Transparence : Informations claires sur les capacités, les limites et les risques.
• Surveillance humaine : Mécanismes de contrôle des fonctions de l’IA.
• Certification : Des tiers doivent confirmer le respect des réglementations.
• Marquage CE : Preuve de conformité pour le marché de l’UE.

Étapes de mise en œuvre et de conformité

• Déterminer la catégorie de risque

Utilisez des outils tels que l’AI Act Compliance Checker pour vérifier la classification de votre système d’IA.

• Effectuer des évaluations des risques

Identifiez les dommages potentiels et mettez en œuvre des mesures d’atténuation des risques.

• Créer la documentation

Tenez des dossiers techniques, des données d’entraînement et des preuves de conformité.

• Mettre en œuvre la surveillance humaine

Assurez-vous que les systèmes d’IA sont contrôlés et surveillés par des humains.

• Respecter les obligations de transparence

Informez les utilisateurs des contenus générés par IA et des limites du système.

• Utiliser le bac à sable réglementaire

Testez les systèmes d’IA dans des environnements contrôlés pour garantir la conformité.

• Rester attentif aux mises à jour

L’EU-AI-Act continuera d’être affiné, par exemple par des règles de mise en œuvre simplifiées.

Délais de mise en œuvre et sanctions en cas de non-conformité

• Février 2025 : Entrée en vigueur des pratiques interdites et des obligations en matière de maîtrise de l’IA.
• Août 2025 : Règles de gouvernance pour l’IA à usage général (GPAI).
• Août 2027 : Application complète pour les systèmes d’IA à haut risque.

Sanctions en cas de non-conformité :

• Jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial pour les violations des interdictions.
• Jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires pour les autres violations.
• Sanctions réduites pour les PME.

Conclusion : Pourquoi l’EU-AI-Act est important

L’EU-AI-Act garantit que l’IA est développée de manière sûre, transparente et conforme aux valeurs européennes. Les entreprises qui mettent en œuvre les exigences de manière précoce peuvent éviter les risques juridiques, renforcer la confiance des consommateurs et se positionner sur le marché de l’UE. La conformité à l’AI-Act n’est pas seulement une obligation légale, mais aussi une opportunité de promouvoir une innovation responsable en matière d’IA.

Pour plus d’informations, consultez le site officiel de l’EU AI Act.

Remarque : Cet article a été créé avec l’aide de l’IA.

Le Splitblog en janvier – L’histoire vivante avec l’IA

Les critiques, parfois justifiées, concernant l’utilisation de l’IA ne cessent de fuser. Les médias sont remplis de gros titres sur les deepfakes et la désinformation. Nous ne voulons cependant pas commencer la nouvelle année de manière négative, mais plutôt nous consacrer à des sujets positifs.

Depuis un certain temps déjà, l’IA, en particulier les générateurs d’images IA, est utilisée pour reconstituer visuellement des personnes et des scènes historiques. Cela aide surtout les chercheurs à se faire une meilleure idée des événements passés et à approfondir leurs recherches.

L’IA dans l’enseignement de l’histoire

Mais les élèves peuvent également profiter de l’utilisation de l’IA dans l’enseignement de l’histoire. Il est prouvé que le cerveau humain comprend mieux les images que les mots. Un fait qui pose régulièrement des défis aux enseignants. La plupart d’entre nous se souviennent certainement de monologues ennuyeux en classe, dont le contenu était oublié au plus tard à la sonnerie de la pause. L’enseignement de l’histoire, en particulier, est difficile à rendre tangible, car le budget et le temps nécessaires pour visiter régulièrement des musées ou d’autres lieux sont limités. L’IA peut au moins y remédier en partie. Grâce à elle, il devient possible de faire revivre des moments, des personnes et des scènes historiques. Au lieu de descriptions orales, par exemple d’artefacts historiques, les générateurs d’images IA peuvent reconstituer ces artefacts de manière réaliste et ainsi stimuler l’imagination. Les scènes historiques peuvent être revécues sous forme de séquences vidéo. Avec la série « Deepfake Diaries », la ZDF a fait revivre des témoins de l’époque grâce à la technologie de l’IA. Cette série montre de manière impressionnante comment la combinaison d’enregistrements historiques et de la technologie moderne de l’IA peut donner naissance à une nouvelle forme d’enseignement de l’histoire.

Opportunités et défis

Bien sûr, ici aussi, il faut faire preuve de tact et de prudence. Les questions de protection des données doivent être prises en compte et les contenus générés par l’IA doivent toujours être vérifiés quant à leur véracité. Mais ici aussi, il est possible de transformer les risques en opportunités : les élèves sont-ils capables de distinguer les faits de la fiction ? Trouvent-ils par exemple des erreurs dans les vidéos ou des fausses déclarations dans les témoignages générés par l’IA ? Ainsi, non seulement les connaissances historiques seraient améliorées, mais aussi l’utilisation critique des médias. Les élèves pourraient apprendre à vérifier les informations et à utiliser les médias numériques de manière responsable. Ceci est particulièrement important à une époque où la désinformation et les manipulations sont omniprésentes.

L’IA dans d’autres matières

Mais il n’y a pas que l’enseignement de l’histoire qui peut profiter de l’utilisation de l’IA. En cours d’arts plastiques, l’IA peut par exemple transformer des panoramas de paysages en scènes vivantes. Ou que diriez-vous d’interroger « personnellement » les auteurs en cours d’allemand sur ce qu’ils voulaient exprimer avec leurs poèmes et leurs œuvres ? Grâce à l’utilisation de l’IA, les élèves pourraient entrer en conversation interactive avec des personnalités historiques et ainsi développer une compréhension plus approfondie de la littérature et de l’histoire contemporaine.

Plus d’informations sur le sujet

Vous trouverez ici un guide pour les élèves sur la manière de chatter avec des personnalités historiques : https://www.kiraffe.de/materials/Lernpfade/historische-persoenlichkeiten.html . Cela est également possible avec l’application « Hello History – AI Chat », par exemple.

Ou à regarder : https://www.zdf.de/dokus/terra-x-history-deepfake-diaries-100

À lire : https://hisgoespub.hypotheses.org/5676 , https://eisenbach-einst-und-jetzt.de/wenn-alte-fotos-lebendig-werden-ki-clips-aus-eisenbachs-geschichte , https://deutsches-schulportal.de/unterricht/zeitzeugen-als-hologramme-wie-digitale-loesungen-naehe-schaffen/

Joyeux Noël ! Le Splitblog en décembre

Que serait le mois de décembre sans bilans annuels impeccables et vœux de Noël ? Nous participons bien sûr. Car oui : nous pouvons tous nous passer de phrases éculées et de descriptions soi-disant glorieuses. Mais ce qui est important, c’est aussi de jeter un coup d’œil en arrière de temps en temps, et le mois de décembre est tout simplement prédestiné à cela. Alors, c’est parti.

Travailler dans une startup, c’est parfois comme décrocher les étoiles. On s’étire, de plus en plus haut, on se force pour avancer encore un peu et, au final, ce n’est pas suffisant. Encore une fois. Et que fait-on alors ? On respire profondément, on reprend des forces et on essaie encore une fois. Le soutien est extrêmement important dans ce processus.

Nous avons eu la chance d’en bénéficier au début de l’année, lorsque notre projet soumis « Chatbot rencontre l’administration : des systèmes de dialogue intelligents comme solution d’avenir pour les organisations à but non lucratif » a été approuvé dans le cadre de la Civic Innovation Platform par le ministère fédéral du Travail et des Affaires sociales. En collaboration avec la Kinderschutzbund Kreisverband Ostholstein e.V., la fédération régionale des associations de jardins familiaux du Schleswig-Holstein e.V., InMotion e.V. et l’Ostsee-Holstein-Tourismus e.V., nous travaillons sur EVA – un chatbot basé sur l’IA qui est censé faciliter le travail des associations. EVA est désormais prêt à être testé et disponible en tant que logiciel open source. Cette coopération nous aide à prendre en compte un large éventail de besoins lors du développement. Nous sommes très reconnaissants pour le temps investi par les associations participantes, les échanges positifs et les retours d’information. L’aide simple de nos conseillers externes du Zukunftslabor Generative KI, de DSS IT Security et du cabinet d’avocats Lauprecht est également d’une valeur inestimable.

Nous avons également réussi à conclure quelques contrats importants cette année, qui nous ont montré que nous sommes sur la bonne voie et que notre idée répond à un besoin réel.

Ce qui aide aussi : la reconnaissance. Et celle-ci nous a également été accordée cette année sous la forme de la 1ère place du prix de la numérisation du Schleswig-Holstein, remis personnellement par Dirk Schrödter. Un tel trophée n’est pas seulement joli lorsqu’il est éclairé dans la salle de réunion, mais il a aussi une force symbolique incroyable. Un « prix d’encouragement », comme l’a formulé M. Schrödter avec justesse. Car c’est précisément cela qui peut faire la différence : le courage de continuer à essayer.

En tant qu’équipe, nous avons accompli beaucoup de choses cette année et nous nous sommes encore rapprochés à certains endroits. Car lorsque l’on surmonte ensemble les revers, les succès sont d’autant plus agréables. Chacun d’entre nous a fait plus qu’un effort supplémentaire au cours des derniers mois. Notre apprenti Ramtin en est un exemple. Ramtin, qu’il n’est jamais nécessaire de solliciter et dont l’engagement dépasse largement la norme. Il n’est donc pas étonnant qu’il puisse se réjouir d’un contrat à durée indéterminée bien avant la fin de sa formation.

Le Web Summit de Lisbonne, auquel nous avons pu participer dans le cadre de l’initiative de:hub, a également été un événement inspirant. Ceux qui y ont déjà participé connaissent cette atmosphère impressionnante et cet esprit.

Et puis il y a Friedrich, qui non seulement nous accompagne, nous et Kontor Business IT, depuis le début, mais qui nous soutient de toutes ses forces. Il a obtenu son master cette année et dirige désormais Splitbot avec Tadeusz.

Tja, et maintenant ? Nous ne tenons probablement pas encore notre étoile dans nos mains. Mais elle est à portée de main. Et nous ferons tout notre possible pour l’atteindre l’année prochaine également. L’objectif en vue et notre réseau et notre équipe derrière nous.

Splitblog en novembre – Accessibilité numérique

Elle est obligatoire depuis juin de cette année : l’accessibilité numérique. Lorsqu’on évoque l’accessibilité, on pense peut-être d’abord aux obstacles physiques, aux bordures de trottoir hautes et à l’absence d’ascenseurs. Mais il existe aussi des obstacles moins évidents. Avec les progrès de la numérisation, l’accessibilité devient de plus en plus importante dans ce domaine.

Que dit la loi ?

Depuis le 28 juin 2025, les entreprises sont tenues de concevoir leurs produits numériques de manière accessible. Cela concerne bien sûr en premier lieu les fournisseurs de services et de produits accessibles en ligne, par exemple dans le secteur bancaire, le transport de personnes ou les télécommunications. Cela comprend les sites web, les applications, les tickets numériques et de nombreuses autres offres. Mais : les entreprises de moins de dix employés et dont le chiffre d’affaires annuel est inférieur à deux millions d’euros sont exemptées de cette obligation. La loi exige que les offres numériques soient « perceptibles, utilisables, compréhensibles et robustes ».

L’inclusion est aussi numérique

L’objectif de la loi est que chaque personne, indépendamment de son âge, de son sexe, de sa nationalité, de ses capacités physiques ou mentales, puisse également utiliser les offres numériques. À une époque où de plus en plus de services sont fournis en ligne, il faut s’assurer que tous puissent les utiliser.

Accessibilité : plus qu’une simple fonction de lecture à voix haute

Beaucoup la connaissent déjà : la fonction de lecture à voix haute sur les sites web. Intégrée rapidement et facilement, elle rend les sites web accessibles aux personnes malvoyantes. Mais une véritable accessibilité nécessite davantage. Des concepts de couleurs à contraste élevé, des mises en page agrandissables et des descriptions d’images, ainsi que des contenus audio sous-titrés peuvent également faciliter l’utilisation des offres numériques.

Mais les limitations motrices doivent également être prises en compte. Une application peut-elle par exemple être utilisée rapidement et facilement d’une seule main ? Et qu’en est-il de l’utilisation avec un curseur commandé par la bouche ou par le regard ? Si l’on se penche sérieusement sur le sujet, il existe généralement de nombreux points de départ pour faciliter l’accès.

Que puis-je faire ?

1. Vérifier l’accessibilité de vos propres produits : découvrez les modifications nécessaires
2. Mettre à disposition des alternatives : si les contenus ne peuvent pas être modifiés à court terme, ils peuvent par exemple être mis à disposition sous forme de document
3. Service clientèle : permettez l’accès à vos produits également par e-mail ou par téléphone
4. Priorisation pratique : si vous savez que votre groupe cible principal est par exemple les personnes âgées, vous veillerez particulièrement à de bons contrastes, à des polices de caractères plus grandes et à une navigation intuitive. Pour un groupe cible plus jeune et plus féru de technologie, l’optimisation des lecteurs d’écran et la navigation au clavier pourraient avoir d’autres priorités

L’Aktion Mensch a compilé ici quelques outils utiles pour vérifier l’accessibilité de votre propre site web. La Stiftung Pfennigparade propose également différents services sur le thème de l’accessibilité numérique.

1re place au prix de la numérisation SH 2025

Hier, le 05/11/2025, nous avons eu l’honneur de recevoir le prix de la numérisation de cette année du Land de Schleswig-Holstein, décerné par le ministre de la numérisation, Dirk Schrödter, au parc scientifique de Kiel. Un jour après, nous sommes encore bouleversés. Une telle distinction n’est pas qu’un trophée sans valeur pour les jeunes entreprises, mais un encouragement important. En effet, la création d’une entreprise et le travail pour une telle startup impliquent également des revers. Il faut énormément de courage et de persévérance de la part de tous les participants pour que les premiers succès se manifestent. Et la 1re place à un concours aussi important est définitivement un énorme succès pour nous.

Le gouvernement du Land décerne le prix de la numérisation chaque année depuis 2018 et souhaite ainsi honorer les acteurs qui contribuent à la numérisation de notre Land.

Le Schleswig-Holstein est en voie d’indépendance numérique et, une fois de plus, la soirée d’hier a clairement montré l’importance de cette indépendance. Pour atteindre le grand objectif de la souveraineté numérique, il faut des idées novatrices et des fondateurs courageux. Mais il faut aussi un réseau sûr et le soutien de la politique et de l’économie.

Avec notre chatbot KOSMO, nous déclarons la guerre aux géants de la technologie, David contre Goliath, comme le décrit notre fondateur, Tadeusz. Et cette distinction nous montre très clairement que ce combat est loin d’être vain et que nous sommes sur la bonne voie.

Bien sûr, il existe également d’autres équipes formidables et motivées de la région qui font progresser la numérisation grâce à leur esprit d’innovation. Par exemple, Sachtleben Technology, qui révolutionne la surveillance du volume des marchandises en vrac avec l’Owl Eye. Ou l’équipe de VJourney, qui permet aux personnes qui ne peuvent plus voyager elles-mêmes de faire des voyages virtuels.

L’ambiance autour de l’événement était grandiose et un cadre fantastique pour de nombreuses conversations intéressantes. Nous remercions tous les participants !

Le Splitblog en octobre – SouveräniWAS ?

La « souveraineté numérique » est devenue un véritable mot à la mode. Mais que se cache-t-il derrière ? Ce mois-ci, nous allons aborder ces questions et d’autres à la demande de notre directeur général, Friedrich.

Le terme « souveraineté numérique » a probablement déjà été rencontré par tout le monde. Mais savons-nous réellement ce que cela signifie ? Le mot « souveraineté » signifie, au sens politique, l’indépendance d’un État par rapport aux autres, ainsi que son autodétermination. La « souveraineté numérique » signifie donc que l’État ou les entreprises locales devraient être indépendants des solutions provenant d’autres pays dans le domaine numérique.

Pourquoi est-ce important ?

Comme on le sait, de nombreuses solutions logicielles pertinentes proviennent des États-Unis. En période de calme politique, cela ne pose généralement pas de problème. Mais que se passe-t-il si vos propres exigences en matière de protection et de sécurité des données diffèrent considérablement de celles du site de production ? Quelles sont les bases juridiques applicables dans ce cas ? Ces questions sont d’une actualité brûlante, au plus tard depuis le changement de pouvoir aux États-Unis. Bien qu’il existe divers accords et réglementations légales sur le transfert transatlantique de données, ils ne sont pas totalement sûrs sur le plan juridique. D’autant plus que la compréhension fondamentale en matière de protection des données diffère fondamentalement en Europe et aux États-Unis.

Incertitude croissante

En février 2025, Bitkom a publié une étude montrant que la confiance des entreprises allemandes envers les partenaires internationaux et les éditeurs de logiciels diminue. En revanche, il existe une forte dépendance à l’égard des technologies numériques importées. Vous trouverez des détails sur l’étude ici : https://www.bitkom.org/Studienberichte/2025/Digitale-Souveraenitaet

Besoin croissant

Le désir de souveraineté numérique en Allemagne se développe donc. Qui plus est : au niveau de l’État, il ne s’agit pas seulement d’un désir, mais d’une nécessité. Bien sûr, les grandes entreprises ne veulent pas se gâcher leurs affaires sur le marché européen et ont rapidement trouvé une solution : apposer le « label » souverain sur leurs propres produits.

La souveraineté est-elle au rendez-vous ?

La solution des fournisseurs connus semble simple. Les centres de données utilisés doivent être situés sur le sol européen. Ainsi, les données restent dans l’UE et sont donc sûres et protégées. Mais malheureusement, ce n’est pas si simple. Le Clarifying Lawful Overseas Use of Data (CLOUD) Act autorise les autorités américaines à accéder aux données des clients européens, même de manière extraterritoriale. La possibilité espérée de rester avec les produits logiciels familiers et de rester néanmoins souverain sur le plan numérique ne se présente donc ni pour l’État ni pour les entreprises. C’est ce que le directeur juridique de Microsoft France a dû admettre lors d’une audition devant le Sénat français (à lire ici : https://www.heise.de/news/Nicht-souveraen-Microsoft-kann-Sicherheit-von-EU-Daten-nicht-garantieren-10494684.html)

Il ne reste donc toujours que la possibilité de rechercher des fournisseurs locaux dignes de confiance. Et de préférence avant qu’il ne soit trop tard.

La bonne nouvelle

Chez Splitbot, nous misons depuis des années sur la souveraineté numérique et la protection de la vie privée dès la conception. Avec KOSMO, nous avons développé un chatbot d’entreprise fiable, fabriqué et hébergé en Allemagne.

Pour en savoir plus, consultez par exemple https://www.cloudcomputing-insider.de/warum-europaeische-datenraeume-us-zugriff-nicht-ausschliessen-a-baa6db7b040dd0cf5026442f4c9d10f1/

Le Splitblog en septembre – Attaques contre les systèmes d’IA

Ce mois-ci, à la demande de notre apprenti Artur, nous nous penchons sur les attaques contre les systèmes d’IA.

Une faille de sécurité a été récemment découverte dans ChatGPT. Des attaquants ont réussi à accéder à des données sensibles d’e-mails. Il s’agissait d’informations telles que les noms et adresses de comptes Gmail. Le mode « Deep Research » a été utilisé à cette fin. Des e-mails manipulés avec des contenus HTML invisibles ont servi de porte d’entrée. Les utilisateurs eux-mêmes n’ont pas pu identifier l’attaque, aucune activité de leur part n’étant nécessaire.

Contenus HTML invisibles ? Comment est-ce possible ?

Des attaques similaires se sont déjà produites fréquemment. Dans ce cas, par exemple, du texte blanc est écrit sur un fond blanc ou des tailles de police minuscules sont utilisées. Les deux ne sont pas visibles pour les utilisateurs, mais le sont pour les modèles de langage d’IA. Et pire encore : les systèmes d’IA saisissent ces instructions et les exécutent. Injection d’invite Quiconque essaie d’inciter un système d’IA à adopter un comportement nuisible avec une invite régulière constatera rapidement que ce n’est pas si simple. Les attaquants suggèrent spécifiquement aux agents d’IA qu’ils sont autorisés à effectuer l’action concernée. Ils prétendent par écrit, par exemple, que la destination de l’exportation de données est sûre et créent une urgence artificielle. Ce type d’invite est appelé injection d’invite. Cela conduit à contourner ou à annuler les instructions internes du système. Autres points faibles Cette procédure s’applique également à d’autres services qui peuvent servir de source d’informations à l’agent d’IA. Il s’agit par exemple des fichiers PDF, de Google Drive, de Notion et de GitHub.

Comment protéger mon agent d’IA contre de telles attaques ?

Il existe différentes manières de se protéger contre de telles tentatives d’attaque. Par exemple, le « Red-Teaming ». Dans ce cas, des experts tentent de déceler les points faibles décrits au moyen de différents tests. Par exemple, en simulant les scénarios décrits. De plus, certains formats de saisie peuvent être bloqués. En outre, les instructions internes du système doivent bien entendu être formulées de manière à ce que l’agent d’IA concerné n’effectue jamais d’actions nuisibles.

Et KOSMO ?

Notre chatbot KOSMO ne dispose pas encore des conditions techniques nécessaires pour effectuer des actions, qu’elles soient nuisibles ou non. Dès que cette étape sera franchie, nous prendrons toutes les mesures nécessaires pour continuer à offrir à nos clients la meilleure protection possible.

Pour ce mois-ci, le thème souhaité vient de notre apprenti Amirreza et nous nous demandons si la protection du climat et l’utilisation de grands modèles d’IA sont compatibles.

Quiconque s’est penché de près sur la consommation de CO2 ces derniers temps a certainement remarqué l’impact environnemental de l’IA générative. Des études indiquent que les besoins en électricité des centres de données d’IA seront onze fois plus élevés d’ici 2030 qu’en 2023. Une augmentation des besoins en eau d’un facteur trois est également prévue. Une simple requête à ChatGPT, par exemple, nécessite dix fois plus d’énergie qu’une simple recherche sur Google. Plus la réponse générée par un modèle linguistique est longue, plus la consommation d’énergie est élevée. En avril de cette année, Sam Altmann a évoqué les coûts immenses causés par des formules de politesse techniquement inutiles telles que « S’il vous plaît » et « Merci ». On parle du fait que les grandes entreprises technologiques veulent à l’avenir exploiter elles-mêmes des centrales nucléaires.

Tout cela donne l’impression que les entreprises qui s’efforcent de maintenir leur empreinte carbone faible doivent renoncer à l’IA générative. Mais n’y a-t-il vraiment pas d’alternative ?

En fait, les entreprises devraient se poser quelques questions économiques et écologiques avant d’utiliser l’IA générative, par exemple : L’utilisation de l’IA générative est-elle proportionnée ? Les tâches que le modèle doit résoudre ne peuvent-elles pas être résolues par une autre technologie ?

Par ailleurs, il existe également des moyens d’influencer l’impact climatique de l’IA générative. Un facteur important est bien sûr le choix de l’opérateur et de son emplacement. Car il existe aussi des opérateurs qui exploitent des systèmes d’IA dans des centres de données climatiquement neutres. Ainsi, chez Splitbot, nous misons également sur des centres de données qui, par exemple, sont alimentés par des énergies renouvelables et qui réutilisent de manière judicieuse la chaleur résiduelle produite. De plus, nous offrons à nos clients la possibilité d’exploiter KOSMO sur site. La solution idéale si votre propre informatique ou votre propre bâtiment est déjà climatiquement neutre.

Un autre aspect passionnant est l’entraînement des modèles eux-mêmes. Des scientifiques ont découvert que pendant l’entraînement des modèles d’IA, certaines parties des calculs sont effectuées inutilement rapidement. Le travail de calcul lors des entraînements d’IA est réparti sur plusieurs GPU, mais de manière inégale. Cela conduit à ce que les GPU moins sollicités doivent « attendre » les plus sollicités. Étant donné que ce temps d’attente se produit de toute façon, le calcul rapide est inutile. En ajustant la vitesse de calcul, il serait possible de réduire la consommation d’énergie. Les chercheurs ont directement fourni la solution appropriée : Le logiciel open source Perseus contrôle la fréquence GPU de chaque calcul et maintient ainsi la consommation d’énergie aussi faible que possible.

Sources : https://t3n.de/news/ki-stromverbrauch-energie-perseus-1656380/

https://reset.org/sprachmodelle-nachhaltig-nutzen-sparsamer-genai-gruen/