[UP361] Agence tous risques

▹ Édito : La responsabilité des algorithmes.
▹ News : Anthropic va redistribuer une part de sa richesse croissante via un fonds dédié.
▹ Pub : IA & productivité - une masterclass pour les marketeurs, par HubSpot.
▹ Zoom : L'IA mobilisée - ou non - pendant l'insurrection de ce weekend.
▹ Deep Dive : 4 risques majeurs liés à l'IA, et comment s'en prémunir.
▹ Pépites : La parité dans l'IA reste à conquérir.

📬 On vous a transféré cet email ? Abonnez-vous à Upmynt par ici !

Salut à tous,

Parmi les éléments qui devront être absolument éclaircis à la suite des exactions de ce weekend figure la responsabilité des algorithmes des plateformes sociales.

L'appel à manifester du 17 octobre s'est largement propagé sur TikTok, notamment à travers des comptes suspects, dont certains diffusaient des affiches générées par IA.

Le Monde avait identifié dès septembre une douzaine de comptes présentant des signes de coordination. Et dont certains contenus sont devenus viraux « par hasard » (tiens tiens…)

Quid aussi de l'amplification des violences ? Les vidéos de pillages et d'affrontements ont été massivement diffusées tout le weekend, très souvent en direct.

Gabriel Attal, interrogé ce lundi sur RTL, propose de pouvoir bloquer temporairement les réseaux sociaux dans les zones touchées par les émeutes.

La véritable influence de TikTok reste à démontrer, mais une chose est sûre : à voir les dizaines de casseurs filmer leurs prestations en direct, on ne peut nier qu'il s'agit là d'une composante incontournable de ces mobilisations.

Je reviens sur la composante IA des événements du weekend dans le zoom de cette édition. Le reste est comme d'habitude dédié à votre usage professionnel de l'IA. Bonne lecture !

Sane Lebrun, pour Upmynt 💜

💰 Généreux ? Anthropic a annoncé engager 5% de ses actions dans un nouveau fonds d’intérêt général, le "Anthropic Public Benefit Fund".

• Le board pourra y ajouter 2% à chaque hausse de 50% de la valorisation, donc la part devrait grandir avec l’entreprise.
• Le fonds est une entité séparée (LLC), ce qui lui laissera le choix entre dons à des ONG et versements directs. Il ne financera ni lobbying ni action politique.
• Avec les engagements existants des cofondateurs (80 % de leurs actions) et des salariés, environ 20% du capital d'Anthropic seront ainsi dédiés à l’intérêt général.
• Un premier usage cité est l’impact de l’IA sur l’emploi, pour lequel $200M sont déjà engagés.

Ne nous trompons pas : si cette initiative peut paraitre généreuse, elle tente simplement de compenser une confiscation de la valeur à l'œuvre par les labos IA? en tête desquels Anthropic et OpenAI. Il est probable (et souhaitable) qu'une régulation devra obliger ces entreprises à reverser une part bien plus grande de leurs revenus à l'intérêt général (cf. revenu universel).

🎵 Musique IA. Après Deezer, YouTube Music lance à son tour un étiquetage des contenus IA-générés, tandis que la musique synthétique envahit la plateforme.

Intéressant, il existera en réalité trois labels : "Fully Gen AI", "Partly Gen AI", ou "No Gen AI", selon le degré d'artificialité du morceau.

💬 Fini l'accent québécois ? OpenAI a déployé GPT-Live 1.1, son modèle voix mis à jour, promettant ainsi une meilleure élocution de ChatGPT (en mode conversation) en français, allemand, hindi, espagnol, coréen et japonais.

Et effectivement, ChatGPT semble avoir largement perdu son fameux accent québécois. Ça me manquerait presque (non).

⌚️ Hardware. Bee (racheté par Amazon) dévoile deux objets connectés qui écoutent vos discussions dans la vie réelle et prennent des notes à votre place : Bee Frontier, à porter au poignet, et Bee Eclipse, à connecter à votre téléphone.

Il est aussi possible de l'utiliser pour enregister un mémo rapide et créer par exemple une entrée dans votre agenda.

Côté confidentialité, Amazon précise qu'un voyant lumineux indique lorsque l'appareil est en écoute et que les enregistrements ne sont jamais conservés.

Le visionnage du trailer me laisse dubitatif : pourquoi à ce point déléguer toute votre vie à une IA ? Que reste-t-il à… votre cerveau ?

✚ Et plus :

• ChatGPT peut désormais utiliser les onglets ouverts dans Chrome pour fournir des réponses plus pertinentes dans le chat.
• Bank of America a engagé 1000 sous-traitants pour corriger les failles logicielles mises en évidence par le modèle Mythos d'Anthropic. (CNBC)
• Le CERN et Mistral annoncent un partenariat pour faire avancer la science grâce à l'IA.

IA & productivité : une masterclass pour les marketeurs, par HubSpot

C'est un grand paradoxe de l'IA : 9 entreprises sur 10 l'ont adopté, mais seules 6% en tirent une vraie transformation.

En marketing, le décalage est criant. L’IA accélère la production de contenu, mais il reste à relire, corriger, et injecter tout le contexte manquant.

👉 Résultat : Les outils censés faire gagner du temps finissent par en faire perdre davantage.

HubSpot a documenté ce paradoxe dans une étude auprès de 2 800 responsables marketing. Et en a fait une Masterclass ancrée dans le réel :

• Comprendre d'où vient l'écart entre gain de productivité attendu et effectif
• Identifier ce qui distinguent les entreprises qui observent une vraie transfo
• Découvrir comment les agents IA changeront la donne en allant au-delà de la simple productivité

Une session courte (45 min), dense, qui pose les bonnes questions plutôt que de vendre du rêve sur l’IA.

🎓 Masterclass gratuite - Mardi 27 octobre, 14h - replay envoyé aux inscrits

▹ Dans les coulisses de Upmynt. Datagif, une newsletter de veille innovation et design médias (à laquelle je suis abonné depuis des lustres et que je vous recommande !) vient de publier dans sa dernière édition une courte interview de ma pomme.

Vous y découvrirez un peu les coulisses de Upmynt, et aussi ce qui ne marche pas toujours comme prévu…

Cela étant, Upmynt se rapproche des 9000 lecteurs (et donc bientôt du seuil fatidique des 10.000 🤩).

▹ Job à saisir. OpenAI recrute un Growth Lead (France) pour ChatGPT. CDI, à Paris.

Le poste consiste à définir et piloter le plan de croissance du pays avec le GM France, sur tout le funnel (acquisition, activation, rétention, monétisation).

Profil recherché : 10+ ans d’expérience en product growth dans la tech, avec une forte culture data.

▹ Lien favori

C'est l'application intelligente de copier-coller Paste qui a le plus suscité votre intérêt la semaine dernière dans Upmynt avec 114 clics.

Cet espace "Communauté" est le vôtre. Répondez à cet email avec votre besoin : Recrutement, ressource à partager, demande d'aide, question…

L'IA mobilisée - ou non - pendant l'insurrection de ce weekend

Même si elle n'est clairement pas le sujet numéro 1 de l'insurrection vécue en France ce weekend, l'IA a quand même été concernée, tant par son utilisation que par… sa non-utilisation.

Vous allez comprendre.

▹ Des clichés fake générés pour susciter l'émoi

D'abord, l'IA générative a été utilisée pour générer de fausses photos destinées à amplifier ou parasiter le phénomène.

Deux clichés en particulier ont largement trompé les internautes : celui d'un Paris en proie aux flammes, supposément pris depuis un Airbus A320 par un pilote, et celui de deux octogénaires en sous-vêtements dans les rues de Paris, soit-disant dépouillés par les hordes de pilleurs.

Dans les deux cas, ces visuels ont généré des millions de vues et des milliers de commentaires émus.

▹ La vidéo surveillance privée d'assistance par IA

Ce weekend, l'IA n'a PAS été utilisée pour assister les opérateurs des caméras de surveillance.

C'est ce qu'a regretté Frédéric Péchenard, responsable de la sécurité de la région Ile-de-France, interrogé ce matin sur France Info.

La ville de Paris opère plus de 5000 caméras de vidéoprotection, couvrant près de 1700 sites.

Le réseau de transports francilien dispose pour sa part de 80.000 caméras.

Il est humainement impossible pour des opérateurs, même en nombre, de gérer un tel flot simultané d'images.

L'IA, précisément, peut surveiller automatiquement des centaines, voire des milliers de flux vidéo simultanément, et alerter les opérateurs lorsqu’une situation inhabituelle ou potentiellement dangereuse est détectée : intrusion dans une zone interdite, mouvement inhabituel, départ de feu…

Le rapport du Sénat a confirmé les bons résultats obtenus par la vidéoprotection algorithmique pour ces situations durant les JO 2024. Le système avait en effet été exceptionnellement autorisée pour cet événement via une loi spéciale.

▹ Un outil à double tranchant

Rien ne prouve, évidemment, qu'un déploiement plus large de l'IA aurait permis d'atténuer significativement les violences du week-end. Et je n'oublie pas les débordements possibles d'une société surveillée par un système boosté à l'IA.

Tout le paradoxe de l'IA est là : elle peut contribuer à attiser les tensions en fabriquant de fausses images, tout en aidant à repérer de vrais dangers.

Entre le rejet de la technologie et la surveillance généralisée, il doit bien exister un juste milieu. 🇫🇷 Aux candidats à la présidentielle de nous dire où ils prévoient de placer le curseur.

4 risques majeurs liés à l'IA, et comment s'en prémunir

Non, je n'ai pas inclus les hallucinations dans ce sujet, car vous connaissez déjà trop bien ce risque. Voici 4 autres risques tout aussi majeurs :

1️⃣ L'injection de prompt

Vous avez repéré un courriel suspect dans votre inbox et l'avez gentiment ignoré. Puis votre assistant IA se lance dans la tâche quotidienne que vous avez paramétré : « vérifie mes emails et propose moi une synthèse des sujets à traiter urgemment » (ou un truc du genre).

Problème : l'IA ouvre l'email frauduleux, y découvre une instruction cachée et tombe dans le panneau. Selon la teneur du "prompt injecté", les risques peuvent être variés, mais l'agent pourrait par exemple partager des informations confidentielles avec un tierce ou déclencher un achat.

Une injection de prompt pourrait aussi manipuler un agent en le convainquant que son contenu est absolument prioritaire, par exemple pour vous vendre un service X ou Y.

🛑 Comment s'en prémunir ? Si l'agent émet une recommandation impliquant de l'argent, des informations sensibles, ou toute action immédiate voire urgente, vérifiez le message original.

De plus, un agent ayant accès à votre inbox ne devrait pas disposer de pouvoirs étendus pour effectuer des actions sans rapport avec sa fonction initiale. Vous devriez clarifier dans son prompt système qu'il doit se contenter de synthétiser vos emails ou de préparer des brouillons, sans rien faire de plus.

🔐 La suite de cette rubrique (3 autres risques majeurs) est réservée aux membres Upmynt Pro.