Lorsque vous utilisez les médias sociaux, vous réalisez probablement que des entreprises comme Facebook, Twitter, Google, etc. ont des données qui documentent les publications auxquelles vous ressemblez, les recherches que vous effectuez et les sites que vous visitez. Mais savez-vous que ces sites savent également quand vous êtes heureux, triste, en colère ou seul? Ou qu'ils façonnent subtilement votre comportement à chaque balayage de votre flux? C’est le sujet du film hybride documentaire-dramatique Le dilemme social , réalisé par Jeff Orlowski ( Chasser le corail ).
LE DILEMME SOCIAL : DIFFUSEZ-LE OU PASSEZ-LE?
L'essentiel: Orlowski interroge un certain nombre d'anciens dirigeants de la Silicon Valley, dont beaucoup ont quitté leur entreprise - principalement les trois susmentionnés, ainsi que Pinterest et d'autres - en raison de doutes moraux quant à la manipulation des algorithmes des entreprises et de l'intelligence artificielle qui prend ces algorithmes. et les transforme en quelque chose d'imparable, le sont vraiment. La personne principale à qui Orlowski parle est Tristan Harris, un ancien cadre de Google en charge de l'éthique, qui est le co-fondateur du Center for Humane Technology.
il fait toujours beau service de streaming
Si vous vous demandez pourquoi il semble que le monde soit si divisé ces jours-ci, les médias sociaux sont une énorme raison, et pour le démontrer, Orlowski se tourne vers une famille fictive dont les enfants sont dépendants des médias sociaux à des degrés divers. La fille aînée Cassandra (Kara Hayward) n'a même pas de téléphone, et la plus jeune fille Isla (Sophia Hammons) est tellement accro à son téléphone que lorsque sa mère essaie de l'enfermer dans un coffre-fort en plastique juste pour l'heure où ils dînent. , elle brise le coffre-fort avec un marteau (mais porte des lunettes!) après environ cinq minutes.
Ben (Skyler Gisondo) est presque aussi accro, mais essaie de s'en passer pendant une semaine; il dure deux jours. On voit l'IA qui gère les flux de Ben via trois personnes, toutes jouées par Vincent Kartheiser. Quand il se rend sur une page politique du centre extrême, les triplés de l'IA poussent plus du même contenu vers lui, au point qu'il arrête d'aller à l'entraînement de football, de flirter avec son ami mignon ou de faire autre chose. Il se rend à une manifestation et se fait arrêter, tout comme Cassandra, alors qu'elle ne faisait que le retrouver. À l'intérieur de la cellule AI cependant, l'avatar de Ben se remplit lentement jusqu'à ce qu'il ressemble à peu près à un sosie.
Le point entier et effrayant du film est que les médias sociaux ne vendent pas seulement une photo de vous, ils vous vendent et vous montrent des choses pour changer votre comportement de manière presque imperceptible, d'autant plus pour vous accrocher à leur écosystème à l'aide de psychologiques. signifie généralement utilisé pour accrocher les joueurs.
Le meilleur signe que ces entreprises fonctionnent est que les personnes interrogées à propos de ces algorithmes admettent avoir leurs propres addictions en ligne. Oh, et ils refusent de donner des téléphones à leurs enfants. Mais aucun d'entre eux ne pense avoir entrepris de créer quelque chose qui s'est avéré faire [fait un signe de la main] tout cela.
Photo: Netflix
Épisodes de vie célibataire de fiancé de 90 jours
De quels films vous rappellera-t-il?: C'est comme un loyer modique Miroir noir épisode associé à l'un de ces documentaires inquiétants que nous avons vus récemment sur la perniciosité d'Internet et des médias sociaux, comme Le grand hack ou alors Animaux sociaux .
Des performances à surveiller: Les charmes visqueux de Kartheiser fonctionnent bien ici en tant qu'IA à trois volets pour Ben. Mais parmi les non-acteurs, Harris expose son cas sur la façon dont des entreprises comme Google, Facebook et Twitter sont allées après les profits avant la responsabilité sociale, et tente d'expliquer comment cela peut être corrigé.
Dialogue mémorable: Jaron Lanier, l'auteur du livre Dix arguments pour supprimer vos comptes de médias sociaux dès maintenant, dit vers la fin du film que si les choses continuent ainsi pendant encore 20 ans, disons, nous détruirons probablement notre civilisation par ignorance volontaire. Tim Kendall, l'ancien président de Pinterest, l'exprime plus franchement, lorsqu'on lui demande ce qui l'inquiète le plus: je pense que dans le plus court laps de temps… la guerre civile.
Notre prise: Orlowski a certainement décidé de faire peur à quiconque regarde Le dilemme social , pour leur montrer ce que signifie leur utilisation continue des médias sociaux. Si vous êtes parfaitement satisfait d'utiliser votre SM alors que vous savez que ces entreprises ont un profil détaillé sur vous afin de diffuser des annonces et du contenu, ce film vous donnera probablement un signal de réveil indésirable. Si vous saviez que ces entreprises ne servaient à rien, mais que vous n'arriviez pas à vous arracher à votre téléphone [lève la main], alors… eh bien, vous avez également peur. Mais vous invitera-t-il à supprimer vos applications SM?
Cela dépend vraiment de la façon dont vous êtes alarmé par la façon dont les médias sociaux façonnent votre comportement. Même quelqu'un comme moi, qui n'est pas sur SM pour attiser la peur ou acheter des complots, qui est conscient que les utilisateurs se construisent des bulles et des chambres d'écho, rendant leurs points de vue et leurs comportements encore plus équilibrés d'un côté ou de l'autre, a reconnu une grande partie de la manipulation. illustré dans le film. L'idée que ces cadres ont libéré leurs algorithmes sociaux dans le monde, sans connaître les conséquences attendues, encore moins les conséquences involontaires, et maintenant une sorte de haussement d'épaules avec des phrases comme le dentifrice est sorti du tube est ce qui était le plus alarmant.
Certains des dirigeants interrogés ont exprimé l'espoir que nous, en tant que civilisation, pouvons nous sortir de cette spirale, mais cet espoir semblait assez faible, ou du moins Orlowski l'a modifié de cette façon.
Et, malgré le goût de fromage inhérent à la partie scénarisée, c'était une assez bonne illustration de la façon dont une personne apparemment moyenne peut être aspirée et changée par ce qu'elle voit sur les réseaux sociaux. Cela a brisé la monotonie du défilé de visages blancs, principalement masculins, principalement barbus, racontant à Orlowski à quel point ils regrettaient d'avoir créé des choses comme le bouton J'aime sur Facebook et m'a mis un peu plus en concentration. Habituellement, quand je vois une pièce scénarisée dans un documentaire, je hurle. Mais la partie scénarisée a fait le travail qu'elle était censée faire, c'est-à-dire montrer à quel point les médias sociaux sont vraiment invasifs et manipulateurs.
Notre appel: Diffusez-le. Le dilemme social est une vue assez complète de la façon dont les médias sociaux changent notre société via leur manipulation du comportement humain alimentée par l'IA. Cela conduira-t-il à des suppressions massives de Twitter, Instagram, TikTok et Facebook? Probablement pas. Mais vous pouvez finir par utiliser ces applications pour démarrer une conversation sur la façon de changer les choses.
Devriez-vous diffuser ou ignorer #TheSocialDilemma au @netflix ? #SIOSI
- Décideur (@) 10 septembre 2020
Noel Great British Bake Off
Joel Keller ( @joelkeller ) écrit sur la nourriture, le divertissement, la parentalité et la technologie, mais il ne se trompe pas: il est accro à la télévision. Ses écrits ont été publiés dans le New York Times, Slate, Salon, RollingStone.com, VanityFair.com, Fast Company et ailleurs.