L'IA peut-elle faire disparaître notre savoir ?

5 révélations inattendues sur l’IA qui devraient tous nous inquiéter

L’intelligence artificielle… on nous la vend comme une révolution, la clé d’un avenir plus brillant. On nous promet des machines capables de résoudre le cancer, de découvrir de nouvelles planètes et de nous donner la réponse à n’importe quelle question en une seconde. Et soyons honnêtes, c’est séduisant. Ça a même déjà commencé.

Mais si cette même machine à rêves, laissée sans contrôle, commençait à ronger les fondations même de notre savoir ? Si, en voulant nous rendre plus “efficaces”, elle finissait par atrophier notre propre jugement ? Et si, au final, elle menaçait l’équilibre de nos démocraties ?

Ce n’est pas le scénario d’un film de science-fiction. C’est le sujet d’études très sérieuses menées par des poids lourds de l’économie, comme le lauréat du prix Nobel Joseph Stiglitz et Daron Acemoglu du MIT.

Voici cinq de leurs conclusions qui font froid dans le dos.

1. Le paradoxe : plus l’IA est efficace, moins nous pourrions en savoir

C’est le premier coup de poing. On pense que l’IA nous donne accès à plus de savoir, mais elle pourrait en fait le détruire.

Comment ? Pensez-y : l’IA fonctionne en “aspirant” des quantités folles d’informations qui existent déjà. Des articles, des études, des reportages… souvent produits à grands frais par des humains (journalistes, chercheurs, artistes). L’IA “mixe” tout ça et vous le “recrache” sous forme de réponse parfaite, sans jamais vraiment citer ses sources ou payer les créateurs.

Joseph Stiglitz appelle ça, sans détour, un effet de « vol ».

Le problème : Pourquoi un média dépenserait-il des mois et des fortunes sur une enquête d’investigation si une IA peut s’approprier son contenu et le résumer gratuitement en dix secondes, privant le média de ses revenus ?

Cette situation tue l’incitation à créer de nouvelles informations de qualité. Si l’IA devient “suffisamment bonne” pour tout, elle se contentera de recycler un corpus de connaissances qui deviendra de plus en plus pauvre et obsolète. On risque un véritable “effondrement de l’information” : un monde où l’accès est facile, mais où il n’y a plus rien de nouveau à savoir.

”… just as in Grossman-Stiglitz (1976, 1980), where a more informationally efficient financial market reduces incentives to gather information, so too here, with the net result that there may be a deterioration in the information ecosystem.”

— Joseph Stiglitz

2. L’IA rend le mensonge dangereusement bon marché

C’est une simple question de coût.

• Produire la vérité coûte cher : cela demande du temps, des recherches, de la vérification, des interviews.
• Produire un mensonge (avec l’IA) est quasi-gratuit : générer un faux texte, une fausse image ou une fausse vidéo est devenu instantané.

Ce déséquilibre “met sous stéroïdes” les pires aspects d’Internet. Il devient soudain plus rentable d’inonder le réseau avec des “fake news” et du contenu “slop” (du “déchet” généré par IA) que de financer un journalisme rigoureux.

Pire encore, le “nettoyage” de cette pollution – le fact-checking – est un travail ingrat. Tout le monde en profite, mais personne ne veut vraiment payer pour. Résultat : nous allons être submergés par les mensonges, car la vérité est tout simplement devenue trop chère à produire en comparaison.

To echo an old expression, “garbage in, garbage out”.

3. Vos données ne concernent pas que vous (et c’est tout le problème)

Nous avons tendance à voir nos données personnelles comme notre propriété. “Mes” photos, “mes” opinions, “mes” habitudes d’achat.

Erreur. L’économiste Daron Acemoglu explique que les plateformes d’IA ont compris quelque chose que nous ignorons : vos données ont une nature sociale.

Quand vous partagez une information sur vous, vous en révélez aussi, par corrélation, sur vos amis, votre famille et tous les gens qui vous ressemblent. L’IA n’a pas besoin de vos données si elle a celles de 1000 personnes de votre âge, vivant dans votre ville, avec les mêmes goûts. Elle peut vous “prédire” avec une précision terrifiante.

Il y a là un effet pervers : plus les autres partagent leurs données, moins les vôtres ont de la valeur. La plateforme vous connaît déjà grâce à vos pairs. Vous êtes alors incité à brader le peu de vie privée qu’il vous reste pour presque rien.

Le résultat ? Nous cédons collectivement bien trop d’informations pour un prix dérisoire. C’est un transfert massif de valeur, de nous vers les géants de la tech.

[Le modèle de l’IA] …claims human experience as free raw material for hidden commercial practice process of extraction, prediction, and sales.

— Shoshana Zuboff

4. L’IA n’automatise pas que les tâches : elle pourrait atrophier notre jugement

L’argument habituel, c’est : “Super ! L’IA va faire les tâches pénibles, et nous, les humains, on va pouvoir se concentrer sur la créativité et la stratégie.”

Daron Acemoglu n’est pas si optimiste. Il alerte sur un risque d’atrophie de notre jugement.

Son argument est simple : notre expertise ne tombe pas du ciel. Elle se construit en traitant une large gamme de problèmes, des plus simples aux plus complexes. Si nous déléguons systématiquement toutes les tâches “faciles” à l’IA, nous perdons le contexte, l’intuition. Notre capacité à prendre de bonnes décisions s’émousse.

Pensez à la calculatrice. On continue d’enseigner le calcul mental aux enfants. Pourquoi ? Pas seulement pour qu’ils additionnent plus vite, mais parce que cette compétence est le fondement d’un raisonnement mathématique plus abstrait.

Si nous déléguons entièrement notre “calcul mental” professionnel à l’IA, nous pourrions perdre notre capacité à penser de manière critique.

5. En nous rendant “superflus”, l’IA menace la démocratie

C’est peut-être le point le plus grave. Historiquement, le pouvoir politique des travailleurs (c’est-à-dire de la plupart d’entre nous) reposait sur un fait simple : ils étaient indispensables à la production.

Pour que l’économie tourne et que la société reste stable, les élites devaient négocier avec la main-d’œuvre. Ces négociations ont donné naissance à la redistribution : de meilleurs salaires, la protection sociale, mais aussi des avancées démocratiques comme le droit de vote ou le droit syndical.

Acemoglu craint que l’IA ne brise ce pacte social.

Si le travail humain devient de moins en moins essentiel pour créer de la richesse, le pouvoir de négociation politique des citoyens s’érode. Pourquoi les élites continueraient-elles à soutenir des politiques de redistribution ou à écouter les demandes du peuple, si la coopération de ce dernier n’est plus nécessaire à leur prospérité ?

Cette dynamique pourrait conduire à une explosion des inégalités et à une société où une part croissante de la population est perçue comme “superflue”, et donc ignorée.

“…automation makes cooperation from workers less important, and to the extent that securing this cooperation was an important part of the motivation for redistribution and democratic politics, automation may make elites turn their back on or even become hostile to democracy.”

— Daron Acemoglu

Ces cinq révélations dressent un portrait de l’IA bien plus complexe que les discours habituels. Le vrai danger, ce n’est pas une super-intelligence maléfique qui déciderait de nous anéantir.

Le danger, ce sont les choix que nous faisons maintenant.

Les problèmes d’érosion de l’information, de manipulation, d’atrophie de notre cerveau et d’affaiblissement de la démocratie ne sont pas des bugs de l’IA. Ils découlent directement des modèles économiques et des objectifs que nous lui assignons (souvent, la maximisation du profit et de l’engagement à tout prix).

L’IA est un miroir de nos priorités. Si l’image qu’elle nous renvoie nous effraie, n’est-il pas temps de changer la direction dans laquelle nous regardons ?