Intelligence Artificielle : quelles informations croire quand tout est potentiellement faux ?

Dans 1 à 2 ans, les textes, images et vidéos IA seront tellement réalistes qu’il sera impossible pour l’œil humain de détecter que ce n’est pas la réalité. Dès lors, comment savoir ce qui est vrai et ce qui est faux ?

Au XIXème siècle, les foules étaient extrêmement manipulables, il suffisait de contrôler la radio et les journaux. Les gouvernements et clergés s’en sont donnés à cœur joie pour écrire des récits et façonner les pensées.

Avec l’arrivée de la TV, et surtout d’internet, les personnes qui souhaitaient s’informer ont eu accès à une masse d’informations, de contre-opinions, de penseurs libres. On ne nit pas l’influence des fakes news et la possession des médias par quelques milliardaires mais il était malgré tout possible de bien s’informer.

2022 : arrivée de l’IA générative

Puis est arrivé l’Intelligence Artificielle générative, en 2022 environ, avec le lancement public fracassant de ChatGPT, créateur de textes. Puis Midjourney pour la création d’images, SUNO pour la création de sons et enfin VEO pour la vidéo. Au départ la qualité était moyenne et les créations détectables par un œil ou une oreille humaine, puis la qualité des textes, des images et des vidéos s’est améliorée et leur détection était réservée aux personnes avisées et habituées.

On a alors vu des milliers de boomers être trompés par des images IA sur facebook et commenter en pensant qu’il s’agissait de vraies photos. 1ere étape.

Point de bascule : l’IA devient indétectable

Nous approchons du point de bascule absolument abyssaloù les textes, images, sons et vidéos créées en IA seront indétectables par les humains. Seuls quelques outils informatiques pourront encore déceler le vrai du faux, jusqu’à quand ?

L’impact sur les sociétés humaines de ce point de bascule est selon moi totalement sous-estimé !

Que croire quand tout sera faux ?

Le titre est abusif, tout ne sera pas faux, mais les vrais textes, images, vidéos… seront indifférenciables des créations par IA, aussi on ne pourra plus croire en rien ! On ne saura jamais si le journal qu’on lit, l’émission qu’on écoute à la radio, le reportage que l’on regarde à la TV, la chanson que l’on écoute ou la vidéo virale que l’on regarde sur son smartphone rapportent un évènement réel ou une création inventée.

Pour nuancer, on pourrait se dire que l’information était également manipulée avant :

Choix du cadrage pour une photo
Choix de la ligne éditoriale pour un journal
Choix de la durée, du contexte, des effets… pour une vidéo
Impact du matériel utilisé pour l’enregistrement, retouche numérique…

Néanmoins ces manipulations restaient mineures par rapport à la création de contenu ex-nihilo.

Comment s’informer ? pour qui voter ? quand on ne peut plus avoir confiance dans aucune information. On vous annoncera une nouvelle guerre dans tel pays… comment savoir si c’est vrai ou faux à part de se rendre sur place pour constater la véracité des faits ? L’information, si elle ne peut être vérifiée, n’aura plus aucune valeur.

Quelles solutions face à l’hégémonie de l’information non vérifiable ?

Des médias publics ?

La solution qui semble la plus évidente serait la création de médias publics, qui effectueront le vrai travail journalistique d’aller vérifier tous les faits sur place.

C’est extrêmement couteux et peu concurrentiel face à de l’information créée numériquement.
Les médias publics peuvent être influencés par ceux qui les finances (politiques).

Cela demandera donc une réelle volonté du public de financer ce type de services (pas vraiment dans l’air du temps) et la mise en place de garde-fous pour que ces médias restent libres, factuels et impartiaux.

Des certificats de contenus « réels » ?

On pourrait imaginer que les éditeurs de textes, les appareils photos ou les caméras éditent des certificats sur chaque contenu créé qui authentifient l’authenticité de l’information ? Il faudrait que tous les appareils soient équipés de ces systèmes, qu’ils soient inviolables… pas impossible mais complexe !

Un marquage obligatoire des contenus IA ?

On pourrait aussi imaginer une loi qui impose le marquage systématique des contenus créés par IA. Pour que cette loi soit respectée, il faudrait que le non-respect de cette loi soit sévèrement puni.

Le fait que tous les textes, images, vidéos, sons… dans un avenir très proche puissent être invérifiables pose des questions existentielles. Cela créé le risque d’une manipulation de masse, de désordres politiques majeurs, de détournements financiers colossaux, de pouvoirs accrus pour les géants du web… vertigineux et sous-estimé !