29 janv. 2024 11 min de lecture

[UP97] Détection

[UP97] Détection
Réalisé par Sane sur Midjourney

Démasquer l'IA : l'urgence de la détection | Générez un site à partir d'un profil Linkedin | KitKat demande à ChatGPT de faire une pause.

  • News : KitKat demande à ChatGPT de faire une pause.
  • Quick hack : Générez un site web à partir d'un profil Linkedin.
  • Deep dive : Démasquer l'IA - l'urgence de la détection.

Salut à tous,

⛔️ Un photographe disqualifié d'un concours, son œuvre étant suspectée (à tort) d'être synthétique.

🔥 La vidéo d'un Louvre en feu, puis de la Tour Eiffel, trompant des millions d'internautes sur les réseaux sociaux.

🙇🏻‍♂️ Une lettre d'excuse de Kanye West suspectée - encore à tort - d'avoir été rédigée par ChatGPT.

>> Ces 3 faits ont un point commun : ils démontrent l'urgence d'un système de détection fiable des contenus synthétiques. Pour déceler l'artificiel, certifier le réel, et éviter une paranoïa générale ou tout contenu même authentique devient suspect.

En jeu : l'avenir du média, de la communication, et au-delà, la sauvegarde de la vérité et donc notre rapport à la réalité.

En bref, éviter un cauchemar dystopique.

Sane de Upmynt 💙


Les news chaudes 🔥

🍫 Have a break. KitKat surfe sur l'Emotion Prompt, cette méthode de prompting utilisant les émotions (comme la bienveillance ou à l'inverse la pression) pour obtenir une meilleure performance de la part de ChatGPT.

En l'occurrence, la marque montre comment l'utilisation de son slogan « Have a break » en début de prompt permet d'obtenir de meilleures réponses.

🙇🏻‍♂️ GPT-4 moins paresseux. Depuis décembre, les plaintes de sous-performance se sont multipliées, étayées par certains rapports concordants.

OpenAI affirme avoir mis à jour son modèle pour corriger le tir :

« Cette nouvelle version accomplit les tâches de manière plus approfondie que le modèle précédent et vise à réduire les cas de « paresse » où le modèle n’accomplissait pas une tâche. »

👀 BeReal, la force tranquille. Le seul réseau social français continue son petit bonhomme de chemin, en annonçant désormais une base d'utilisateurs à 23M d'utilisateurs actifs quotidiens (soit +3M depuis août dernier).

À partir du 6 février, les marques et les célébrités pourront s'inscrire en tant que RealBrands ou RealPeople et partager les coulisses potentiellement plus authentiques de leurs activités.

Dans un monde de plus en plus artificiel, je crois beaucoup à un rebond de BeReal, et au regain d'intérêt pour sa promesse d'un partage de photos plus authentiques entre utilisateurs.

👧 Vos enfants sur GPT. 16,4% des enfants français ont déjà essayé ChatGPT. C'est beaucoup, mais sensiblement moins que la moyenne mondiale, près de 20%.

Crédit image : Capture rapport Qustudio

Leur app préférée reste TikTok, sur laquelle ils passent près de 2h par jour (112mn). C'est 60% plus que sur YouTube. (source : Rapport Qustudio, en anglais).

🇺🇸 Deepfake X. La maison blanche s'est dite inquiète de la diffusion massive d'images p0rn0graphiques "deepfake" de Taylor Swift, réalisées à l'aide de l'IA. Un membre du congrès a justement commenté :

« L’IA progresse plus rapidement que les garde-fous nécessaires. Que la victime soit Taylor Swift ou n’importe quel jeune de notre pays, nous devons ériger des barrières pour lutter contre ce phénomène préoccupant.»

Selon Wired, 113K vidéos IA-générées ont été uploadées sur les principaux sites X pendant les 9 premiers mois de 2023.

Dans l'immédiat, X a désactivé sur sa plateforme toutes les recherches relatives à la chanteuse.

🦁 Ce brave Leo passe sur Mistral. Le LLM open source Mixtral, développé par le français Mistral, vient d'être adopté par Brave pour faire tourner son chatbot Leo.

Leo est un assistant IA accessible depuis le navigateur Brave via une barre latérale. Je vous l'avais présenté dans Upmynt #81 : Il n'y a pas que ChatGPT.

Mixtral remplace ainsi Claude d'Anthropic, utilisé initialement comme modèle par défaut par Brave.

Leo avait la fâcheuse tendance à switcher en anglais en pleine convo en français. Un bug qui n'arrivera plus, puisque Mixtral a été conçu pour être pleinement utilisable en français.


Communauté 🦊

Cet espace est le vôtre. Recrutement, ressource à partager, demande d'aide, question. Répondez à cet email pour y apparaître.

  • Courrier des lecteurs

Le courrier d'Arthur

Salut Sane. Selon toi, quels sont les meilleurs outils pour se faire la main en IA générative texte et image ? Merci !

Ma réponse

Salut Arthur,
Côté texte, je ne vais pas faire preuve d'originalité en te recommandant ChatGPT. Il existe des plateformes spécialisées comme Jasper mais leur valeur ajoutée ne justifiera pas le coût élevé de leur abonnement.

Je te conseille toutefois d'utiliser ChatGPT avec un abonnement "GPT Plus", pour profiter de l'accès au modèle GPT-4 Turbo, qui offre une vraie amélioration côté qualité éditoriale versus GPT-3.5.

Côté image, le meilleur outil s'appelle sans aucun doute Midjourney, mais sa prise en main peut être plus chaotique (interface Discord et paramètres techniques). Aussi, pour commencer, je te recommande de t'amuser sur un générateur en ligne facile à prendre en main et avec un plan gratuit généreux comme Electric Studio, voire, pour encore plus de simplicité, Lexica.

  • Upmynt vs Hub Institute

Comme annoncé la semaine dernière, Upmynt a lancé son offre de Talk & Masterclass. Mais au fait, à quel point l'offre Upmynt est la plus compétitive du marché ? 👀

Comparons les tarifs des offres de Upmynt avec ceux d'un autre organisme qui a pignon sur rue, Hub Institute.

Hub InstituteUpmynt
Talk (1h à 2h)| à partir de 6K€ HT| à partir de 600€ TTC
Masterclass (4h)| à partir de 8K€ HT| 2000€ TTC
Ateliers avancés (4h)| à partir de 5K€ HT| à partir de 3200€ TTC
Satisfait ou remboursé | ❌| ✅

Vous l'aurez compris, Upmynt pratique des prix 2 à 10 fois moins élevés que son concurrent.

👉 La raison ? Un organisme comme Hub Institue vous alloue un formateur comme moi mais absorbe au passage entre 50% et 80% de la valeur, en sa qualité d'intermédiaire. D'où un prix prohibitif.

De plus, avec Hub Institute, vous ne savez pas sur quel formateur vous tombez. Avec Upmynt, vous êtes certains de vous retrouver entre de bonnes mains (les miennes 😉).

Pas d'intermédiaire, pour une offre claire et juste, et une garantie satisfait ou remboursé : c'est ça, Upmynt.


Quick hack ⚡️ Transformez votre profil Linkedin en un site web

Beaucoup utilisent désormais Linkedin comme leur carte de visite.

Une règle d'or sur le web est de ne jamais mettre tous ses œufs dans le même panier, surtout lorsque vous n'êtes pas propriétaire du panier.

Bref, ne dépendez jamais d'un seul réseau social, et développez votre reach de manière indépendante, avec votre site web et même, si votre business grandit, votre propre liste d'emails.

Si un jour un réseau devient désuet ou change ses règles du jeu, vous n'avez ainsi pas à tout reprendre depuis le début.

C'est là que Polywork entre en jeu : ce petit service pratique vous permet d'instantanément générer un site web à partir de votre profil Linkedin.

C'est aussi simple que ça : le site utilise l'automatisation et l'IA pour scanner votre profil Linkedin et réorganiser les infos qui s'y trouvent dans une nouvelle page de destination efficace.

Crédit image : Polywork

Si l'esthétisme pourrait être davantage léché, le résultat reste plus convaincant qu'une simple page Linkedin pour rediriger vos potentiels prospects.

Polywork offre un plan gratuit pour profiter de l'essentiel de son service.


Deep Dive 🔍 Démasquer l'IA : l'urgence de la détection

L'adoption massive de l'IA pourrait être entravée en cas de défiance généralisée. Pour éviter un tel rejet, la technologie doit absolument résoudre un problème pressant : celui de la détection.

À l'heure où les créations IA-générées semblent plus vrais que nature, pouvoir identifier immédiatement et de manière fiable leur origine est un enjeu crucial.

Mais est-ce seulement techniquement possible ? Les détecteurs existants fonctionnent-ils ? Réponse dans ce sujet.

Les détecteurs de textes sont inutilisables

Une étude parue en décembre dernier du International Journal of Educational Integrity a comparé 14 détecteurs IA et sa conclusion est tombée comme un couperet : aucun n'est digne de confiance.

Aucun de ces outils n'a en effet pu atteindre un taux de réussite supérieur à 80%. Autrement dit, vous avez au moins 1 chance sur 5 que le détecteur se trompe dans son estimation. Un telle marge d'erreur le rend inutilisable.

Aucun des 14 détecteurs testés ne dépasse 80% de taux de réussite. Via International Journal of Educational Integrity.

Même OpenAI a du désactivé son détecteur maison, le “AI Classifier”, seulement 6 mois après son lancement. Motif laconique : « taux de réussite trop faible ».

Plus tard, OpenAI confirmera dans une FAQ publiée sur son site web sa position sur les détecteurs :

« Pour faire court : non [les détecteurs IA ne fonctionnent pas]. Bien que certains (y compris OpenAI) aient publié des outils censés détecter le contenu généré par l'IA, aucun d'entre eux n'a prouvé qu'il pouvait faire une distinction fiable entre le contenu généré par l'IA et celui généré par l'homme. »
🧪
J'ai bien sûr moi-même testé l'un de ces détecteurs, undetectable.ai, récemment sorti. J'y ai injecté un texte original que je venais tout juste de générer avec ChatGPT. Verdict du détecteur : "Your content appears human 👍". Hum, pas gagné…

La performance trop inégale des détecteurs d'images

Les détecteurs d'images sont-ils plus fiables ?

Le média indépendant BellingCat a ainsi mis à l'épreuve le détecteur supposément le plus fiable du marché, AI or not.

Si le détecteur a bien identifié les 100 images générées par Midjourney, il a revanche affiché des faux positifs avec des images pourtant réelles.

De plus, les images compressées ont donné du fil à retordre au détecteur, avec de nombreux faux négatifs.

L'étude a conclut que AI or Not est efficace pour les images de haute qualité, mais moins fiable pour les images AI compressées, ce qui limite grandement son utilité, la plupart des images publiées en ligne étant compressées.

La quête du marqueur inviolable

Une équipe des Université du Maryland et de Californie ont proposé une technique de marquage de texte.

Elle consiste à manipuler les préférences de mots d'un modèle de langue. Le modèle attribue aléatoirement certains mots à un groupe "vert" et les autres à un groupe "rouge". Lors de la génération de texte, l'algorithme favorise l'utilisation des mots verts. La vérification du marquage se fait en comparant la proportion de mots verts et rouges. Cette méthode est surtout fiable pour de longs textes car elle est basée sur la statistique.

Et côté image ?

Génial ! Vous vous êtes inscrit avec succès.
Bienvenue à nouveau ! Vous vous êtes connecté avec succès.
Vous vous êtes abonné avec succès à Upmynt newsletter - Faites passer votre marque à la vitesse IA.
Votre lien a expiré.
Succès ! Vérifiez votre e-mail pour le lien magique pour vous connecter.
Succès ! Vos informations de facturation ont été mises à jour.
Votre facturation n'a pas été mise à jour.