Algorithmes de manipulation
ALGORITHMES
"Mon algorithme de vie est très simple"
cet exemple d'utilisation du mot "algorithme" est donné par le Grand Dictionnaire explicatif de la langue russe, précisant que "l'algorithme" est une procédure, des règles utilisées dans le processus de toute activité.
C'est le deuxième sens.
Le premier est appelé « informatique » et est interprété comme suit :
la séquence d’opérations informatiques pour déterminer le résultat souhaité, la valeur souhaitée..
Enfin, ou plus largement, une séquence d'actions pour accomplir une tâche.
Inutile de dire qu’en 2024, ces définitions n’ont rien à voir avec ce que nous entendons par le mot « algorithme », et encore moins « algorithmes ».
Dans la communication quotidienne, un « algorithme » sous forme d'instruction ou de séquence (« algorithme de cuisson des œufs brouillés ») devient de plus en plus rare. Il s’agit de plus en plus de quelque chose de complexe, semblable à l’intelligence artificielle, inexplicable et totalement indéniable.
Par exemple, nous sommes habitués aux algorithmes de reconnaissance faciale. La police et les services de renseignement peuvent récupérer les données des caméras vidéo de la ville et nous dire : « Eh bien, vous étiez ici et ici, et que faisiez-vous ?
Mais ces algorithmes, d’une part, sont imparfaits et, d’autre part, ni vous ni les agents du renseignement ne savez exactement comment cela fonctionne. Nous pensons simplement que les données provenant de tels systèmes sont suffisamment précises pour avoir une valeur probante.
Dans la société de l’information, également fortement influencée par le capitalisme de surveillance , la vie n’est pas facile. Gouverner une telle société nécessite des systèmes de règles de plus en plus complexes et en constante évolution, c’est-à-dire des algorithmes.
Il n’est pas surprenant que les algorithmes commettent des erreurs tout le temps, fassent des choses pour lesquelles ils ne sont pas conçus ou soient simplement utilisés à des fins malveillantes.
Le célèbre scandale Cambridge Analytica a montré comment les algorithmes et les modèles mathématiques des réseaux sociaux peuvent influencer les élections.
Ou s'adonner à la discrimination, comme lorsqu'il s'est avéré que l'outil RH d'Amazon essayait de ne pas embaucher de femmes.
Le monde cruel enseigne aussi de mauvaises choses aux algorithmes : l’histoire du chatbot Tay développé par Microsoft, que Twitter a rendu raciste en moins de 24 heures, est mémorable.
Tout cela provoqua une panique morale.
De nombreux États développent ou introduisent déjà une réglementation des « algorithmes d’IA », expliquant cela par un souci de sécurité (nous avons écrit dans ce « Signal » que la sécurité est une raison universelle de réglementation).
L’absence d’algorithmes est même présentée comme un avantage. P
ar exemple, Pavel Durov a écrit que l’IA a déjà, dans un sens, asservi l’humanité à l’aide d’algorithmes de recommandation. Et il a souligné à plusieurs reprises l’absence de flux algorithmique dans Telegram comme un avantage.
Le fait que les algorithmes puissent commettre des erreurs effraie de nombreuses personnes.
Mais ce qui est encore plus préoccupant, ce sont les décisions des algorithmes que nous ne contestons pas. Soudain, nos vies sont prédéterminées par eux – on ne sait pas par qui et sur quelles données des systèmes de règles complexes ont été formés.
Après tout, les gens vérifient leur téléphone plus de 50 fois par jour et presque à chaque fois, les moteurs de recherche, les réseaux sociaux et l'appareil lui-même les aident à résoudre le problème.
PEUT-ÊTRE QUE NOUS SOMMES VRAIMENT CONTRÔLÉS PAR DES ALGORITHMES ?
Réponse courte : non, ils ne le font pas.
Imaginez que notre vie est un livre de problèmes comportant des centaines et des milliers de tâches différentes. Ainsi, les algorithmes (cinémas en ligne, réseaux sociaux, places de marché et bien plus encore) jouent le rôle de réponses en fin de cahier de problèmes.
Cela pose deux problèmes.
Premièrement, les tâches que la vie vous impose n’ont souvent pas de réponse correcte.
Par exemple : comment passer la soirée ?
Vous pouvez même affiner votre recherche : que regarder ?
Nous avons trop d’intérêts, nos goûts ne se forment pas une fois pour toutes. Aujourd'hui, nous regardons le dessin animé « Gravity Falls » et demain nous regardons « Mirror » de Tarkovski.
Les conseils de l’algorithme constituent donc souvent une sorte de compromis. Très grossièrement : "Les gens qui vous ressemblent aiment ça - et regardent."
Deuxièmement, l'état actuel de la technologie est tel que des réponses très étranges sont rassemblées à la fin du manuel.
Par exemple, il n’y a pas de réponses à des questions complexes, et celles qui existent semblent ridicules.
C’est pourquoi nous nous tournons vers les algorithmes non pas lorsque nous devons faire un choix de vie important, mais lorsque nous ne voulons pas du tout faire de choix.
En ce sens, nous ne sommes pas contrôlés par des algorithmes, mais par notre propre conformisme et la conviction qu’ils peuvent penser pour nous mieux que nous-mêmes.
Ce n’est pas une mauvaise chose : il est prouvé que pousser gentiment une personne réticente vers une option plus saine peut améliorer sa qualité de vie.
C'est le sujet du livre « Nudge » de l'économiste Richard Thaler et de l'avocat Cass Sunstein. L'architecture de choix."
C'est vrai : si des aliments sains sont placés à hauteur des yeux dans une cantine scolaire, cela aura un effet bénéfique sur les élèves.
Et si vous dessinez une mouche dans l'urinoir des toilettes pour hommes, les visiteurs se concentreront, manqueront moins et faciliteront le travail des nettoyeurs.
Personne ne sait exactement ce qu'il faut faire pour transférer une personne du mode où elle choisit parmi ce qui lui est proposé au mode de prise de décisions éclairées.
Il semble que cela soit individuel, et en plus, cela dépend de la façon dont quelqu'un a préparé pour nous les plats métaphoriques à la cafétéria de l'école.
Voici un exemple simple et familier à beaucoup. Disons que vous n'aimez pas les publications sur votre fil d'actualité Facebook (ou tout autre réseau social de votre choix).
Combien de temps faudra-t-il avant que vous arrêtiez d’être en colère contre l’algorithme et que vous commenciez à rechercher manuellement les informations dont vous avez besoin ?
Ou créer consciemment des groupes d’utilisateurs que vous souhaitez lire ?
Incluriez-vous ce processus dans votre routine quotidienne ?
Toutes ces recettes ne sont pas impossibles, mais trop laborieuses au 21e siècle.
Une partie importante de notre temps est consacrée non seulement au traitement d'une énorme quantité d'informations, mais également à en extraire quelque chose d'utile et d'agréable.
C'est pourquoi il est si difficile de trier des centaines de lettres dans un courrier ou des dizaines d'onglets dans un navigateur, où il n'existe pas de mécanismes de filtrage similaires à ceux des réseaux sociaux.
Il n'y a pas non plus de récompense. En général, toute activité organisationnelle semble inabordable par rapport aux coûts nuls d'un défilement agréable.
En d’autres termes, l’avalanche d’informations peut être arrêtée de deux manières : soit en créant consciemment votre propre barrière, soit en déléguant la tâche de filtrage à des machines automatiques.
Comme diraient les critiques des algorithmes, déléguez votre agence à une machine.
Ce n’est souvent pas une si mauvaise idée de confier le pouvoir de décision aux algorithmes.
Le problème est différent. On remarque rarement le moment même du transfert de ce droit. Et il n’est pas toujours nécessaire de le faire dans une situation où la décision peut être confiée à un algorithme.
DONC VOUS NE POUVEZ PAS VOUS COMPTER SUR DES ALGORITHMES ?
Pas vraiment. Il ne faut pas surestimer leurs capacités.
L'écrivain américain de science-fiction Isaac Asimov a formulé ses trois lois sur la robotique en 1942, sans lesquelles aucun débat populaire sur la sécurité de l'intelligence artificielle n'est aujourd'hui complet.
Vingt ans plus tard, l’écrivain anglais de science-fiction Arthur Clarke formulait ses trois propres lois. La plus célèbre est la troisième : « Toute technologie suffisamment développée ne se distingue pas de la magie. »
Clark s'est avéré plus perspicace qu'Asimov : les androïdes véritablement intelligents ne sont pas encore apparus, mais nous percevons tout ce qui concerne l'IA, ainsi que ses décisions, comme faisant partie de la magie incompréhensible de ce monde super complexe - sans blague -.
Nous disons simplement « algorithme » au lieu du mot « magie ».
Et à ce moment-là, plusieurs illusions vraiment dangereuses surgissent à la fois.
Premièrement, l’illusion d’un algorithme unifié. C’est comme si les algorithmes que nous rencontrons étaient construits sur le même principe et provenaient d’un exemple presque parfait, qui à son tour prend des décisions basées sur les bonnes données.
En réalité, bien sûr, il n’y a pas de barre de qualité et tous les algorithmes ont leurs propres défauts. Les juges électroniques administrent la justice statistique et commettent des erreurs , les voitures autonomes ne se comportent pas comme des êtres humains ( un , deux , trois ), les générateurs d'images produisent quelque chose appelé AI slop (en gros « AI-sucks » ou « AI-slop »), et Les réseaux sociaux contribuent à diffuser cette saloperie. Que dire, tout le monde a été confronté au blocage d'une carte bancaire en raison d'une erreur dans l'algorithme qui résiste aux fraudeurs.
Deuxièmement, l’illusion que le mot « algorithme » peut tout expliquer. Un algorithme n’est pas une personne qui prend des décisions, mais les principes selon lesquels ces décisions sont prises. Très souvent, les représentants de diverses entreprises utilisent le mot « algorithme » pour ne rien expliquer.
Par exemple, les représentants de Yandex ont expliqué la composition des principales nouvelles - les cinq principaux titres de la page principale - par un algorithme, mais n'ont pas dit que les publications de la « liste blanche », introduite en accord avec l'administration présidentielle, étaient incluses. là.
Enfin, troisièmement, l’illusion de l’unicité. Les algorithmes modernes ne fournissent souvent pas la meilleure solution, mais la plus statistiquement acceptable. Et cela, à son tour, donne naissance à tout un marché de solutions qui « piratent » l’algorithme.
C'est ce que fait MrBeast, le YouTuber le plus populaire au monde, avec ses vidéos divertissantes mais monotones, en exploitant les moteurs de recommandation de la plateforme.
Ou ce que font les conseillers financiers, en vous expliquant comment augmenter votre cote de crédit et, par conséquent, améliorer votre relation avec les algorithmes bancaires.
En d’autres termes, nous optimisons de plus en plus nos activités et nos vies de manière indépendante pour les algorithmes.
Le journaliste Kyle Chaika, dans son livre Filterworld, parle de l'algorithmisation de notre culture, de son aplatissement et de sa perte de diversité. Restaurants à la mode, quartiers d'habitation, culture populaire - des chansons aux séries télévisées - tout cela semble sans visage et à peu près le même partout dans le monde, comme si quelqu'un façonnait l'humanité selon des modèles statistiques.
Nous vivons bien sûr dans une société déterminée par des algorithmes.
Mais un algorithme n’est pas un être vivant ; il ne peut pas prendre le pouvoir ni remodeler la culture. Et ce n’est pas la faute des algorithmes si nous avons été soulagés de leur confier trop de ce que nous devrions faire nous-mêmes.
UNE DÉCOUVERTE INATTENDUE QUE NOUS AVONS FAIT PENDANT QUE NOUS PRÉPARONS CETTE LETTRE
Le mot « algorithme » est devenu très populaire ces dernières années, en particulier lorsqu'il a commencé à être utilisé en conjonction avec les réseaux de neurones, l'intelligence artificielle et d'autres éléments similaires.
Cela est clairement visible, par exemple, selon le service Google Books Ngram Viewer , qui suit les mentions de mots dans les livres. De plus, dans les années vingt du XXIe siècle, « l'algorithme » est encore beaucoup moins souvent mentionné dans les livres en russe que dans les années quatre-vingt du XXe siècle. Dans les années 1990, le lecteur russe n’avait apparemment pas de temps à consacrer aux algorithmes.
Dans le même temps, dans la littérature anglophone, le pic s’est produit dans les années 2000. Ensuite, la popularité des « algorithmes » a légèrement diminué – et n’a recommencé à croître que ces dernières années. Mais en 2021, il est encore inférieur à, disons, 2004.
Les Mécanismes de la Propagande
pour une Nouvelle Normalité
La propagande reste un outil puissant pour façonner les perceptions, elle a le pouvoir d'influencer non seulement l'opinion publique, mais aussi le destin d'un pays.
Dans un contexte où les crises se succèdent et les incertitudes se multiplient, le recours à des techniques de manipulation devient une arme de choix pour ceux qui cherchent à asseoir leur contrôle.
Les Principaux Outils
1. La Simplification Excessive
Un des premiers leviers de la propagande est la simplification excessive des problèmes complexes. Cette technique consiste à réduire des enjeux multifactoriels à des causes simples, souvent en désignant un bouc émissaire.
Par exemple, dans une nouvelle normalité, les difficultés économiques peuvent être attribuées aux comportements des clients de la banque plutôt qu'aux pratiques des institutions financières elles-mêmes.
De même, les choix électoraux du peuple peuvent être présentés comme la cause des problèmes du pays, masquant ainsi les responsabilités des élites.
2. La Répétition
En martelant un message à travers divers canaux de communication (médias, réseaux sociaux, discours officiels), celui-ci s’imprègne durablement dans l'esprit des citoyens.
Cette technique est particulièrement efficace pour faire accepter des idées ou des réalités qui, initialement, auraient été rejetées par la population.
3. L'Émotion
La propagande cherche souvent à susciter des émotions fortes telles que la peur, la colère, ou la fierté. Ces émotions servent à mobiliser les individus et à les rendre plus réceptifs aux messages diffusés.
Exemple, une menace extérieure ou en exagérant les risques économiques.
4. La Déformation de la Réalité
Les faits sont sélectionnés, tronqués, et présentés de manière à appuyer la thèse défendue tout en occultant les informations contradictoires.
Cela permet de construire un narratif cohérent qui, bien que partiellement ou totalement faux, paraît crédible aux yeux de la population.
5. La Création d’un Ennemi Commun
Pour fédérer la population autour d’un objectif commun, la propagande crée souvent un ennemi, qu’il soit intérieur ou extérieur.
Les Conséquences de la Propagande sur la Société
1. La Manipulation de l’Opinion Publique
En contrôlant les informations diffusées et en orientant les perceptions, ils limitent la capacité des citoyens à prendre des décisions éclairées et autonomes.
2. La Limitation du Débat Public
En simplifiant les problèmes et en réduisant le nombre de sources d’information crédibles, la propagande restreint le débat public ce qui affaiblit la démocratie et renforce le contrôle sur la société.
3. La Légitimation de Décisions Impopulaires
En présentant ces mesures comme nécessaires pour le bien commun, le gouvernement parvient à les faire accepter, même lorsqu'elles sont contraires aux intérêts de la majorité.
4. La Division de la Société
Enfin, en désignant des boucs émissaires, la propagande contribue à diviser la société et à exacerber les tensions sociales. Ces divisions affaiblissent la cohésion nationale et permettent au gouvernement de maintenir son pouvoir en empêchant l'émergence d'une opposition unifiée.
Les Stratégies de Propagande
1. Dénonciation Systématique
Exagérer les problèmes et minimiser les réussites, créant ainsi une atmosphère de crise qui affaiblit la légitimité du pouvoir en place.
2. Discrédit des Institutions
Attaquer la crédibilité des institutions étatiques (parlement, justice, médias publics) en les accusant de corruption, de partialité, ou d'incompétence ce qui permet de semer le doute et préparer le terrain pour un changement de régime.
3. Diffusion de Fausses Informations
Les rumeurs, les fake news, et les théories du complot sont des outils efficaces pour semer la confusion au sein de la population.
4. Exploitation des Divisions Sociales
L'opposition peut aussi exploiter les divisions existantes au sein de la société en jouant sur les différences ethniques, religieuses, sociales ou économiques.
5. Présentation d'une Alternative Séduisante
L'opposition propose souvent un projet politique alternatif qui promet de résoudre tous les problèmes du pays.
Comment nous Protéger de la Propagande ?
1. Développer un Esprit Critique
Il est essentiel de questionner les informations que l'on reçoit, de vérifier les sources, et de confronter les différents points de vue.
2. Diversifier ses Sources d’Information
Ne pas se limiter à une seule source d'information.
3. Échanger avec d’Autres Personnes
Discuter de l'actualité avec des personnes qui ont des opinions différentes permet de confronter ses idées.
Commentaires
Enregistrer un commentaire