Qu'est-ce que vous obtenez lorsque vous combinez le «Black Mirror» de Netflix avec les expériences controversées de choc électrochimique de Stanley Milgram, psychologue social, sur le libre arbitre contre l'obéissance? Personne ne peut le dire avec certitude, mais il est probable que cet enfant d'amour dystopique ressemblerait beaucoup à BeeMe, une expérience sociale en ligne commençant à 23 heures mercredi soir.
Comme le rapporte Dave Mosher pour Business Insider, les chercheurs du Media Laboratory du Massachusetts Institute of Technology sont à l'origine de cette expérience, qui permettra à un groupe d'internautes de contrôler un individu du monde réel alors qu'il tente de vaincre une intelligence artificielle diabolique appelée Zookd. .
«À une époque où les algorithmes prennent la plupart de nos décisions pour nous, un individu renoncera entièrement à son libre arbitre pendant un jour pour se laisser guider par une foule d'utilisateurs dans une quête épique visant à vaincre une IA perverse», indique le site Web BeeMe. . "Qui est en charge? Qui est responsable de ses actions? Où finit l'individu et où commencent les autres?
Le laboratoire du MIT a en quelque sorte une tradition de marquer Halloween de manière aussi effroyable. Dans les années passées, ils nous ont apporté la machine Nightmare et Shelley. Le premier transformait des photographies normales en scènes de cauchemar, tandis que le second écrivait des histoires d'horreur en collaboration avec des utilisateurs de Twitter.
Mais cette année, l'équipe a vraiment amélioré son jeu. Selon la description du projet, BeeMe est le premier «jeu de réalité augmentée» au monde - un renversement ludique sur le champ en plein essor de la réalité augmentée.
Niccolò Pescetelli, chercheur en intelligence collective au laboratoire, a déclaré à Mosher que le jeu mettrait en vedette un acteur qualifié engagé pour représenter le cobaye humain à la commande d'un public captif en ligne. L'emplacement et l'identité de l'acteur ne seront pas révélés, mais les participants seront en mesure de regarder ses actions à travers un enregistrement vidéo voyeuriste.
Pour diriger les étapes du "personnage", les internautes doivent soumettre des commandes allant de la décision banale de "préparer du café" à l'ordre plus inquiétant de "fuir". Les participants voteront sur l'assortiment des actions soumises, en passant par le acteur interprétera ceux qui obtiennent le plus de votes.
Il y a bien sûr des paramètres dans le jeu: BeeMe n'acceptera pas des commandes qui violent la loi ou mettent l'acteur, sa vie privée ou son image en danger. Mais le jeu n'imposera pas de limites au-delà, ce qui laissera la porte ouverte à de nombreux méfaits.
Quelles sont les implications de l'effacement du libre arbitre de quelqu'un, même pour une nuit seulement avec des limites définies? Dans les années 1960, les études de Milgram ont jeté un éclairage positif sur ce point, en concluant que les individus sous l'influence d'une personnalité faisant autorité suivent souvent les ordres d'une manière sans précédent. Dans ses expériences, 65% des participants agissant en tant qu '«enseignants» ont accepté d'administrer un choc maximum de 450 volts à des «apprenants» involontaires, qui étaient en réalité des acteurs faisant simplement semblant de ressentir les effets des chocs mortels.
Comme le souligne Shannon Liao, du groupe The Verge, BeeMe a l'impression qu'il a été retiré d'un épisode de «Black Mirror» de 2014 intitulé «White Christmas». Dans la série, un gourou de rencontres skeezy équipe ses sujets d'une puce qui lui permet voir et entendre ce que son expérience protégée. Comme il s’agit de «Black Mirror», l’épisode montre de manière prévisible comment la technologie fait ressortir le pire de la nature humaine.
BeeMe, bien sûr, n’est pas tout à fait du niveau de «Noël blanc», mais Pescetelli du MIT a déclaré au Steve Globe du Steve Globe qu’il attendait «un peu de trolling en ligne pour essayer de faire pencher la narration et d’amener le personnage à faire choses bizarres. ”Pourtant, Pescetelli souligne les précautions que l’équipe a mises en place pour la sécurité de l’acteur.
«BeeMe va redéfinir la manière dont nous comprenons les interactions sociales en ligne et dans la vie réelle», écrit le MIT Lab dans un communiqué troublant, prédit que l'expérience «poussera le crowdsourcing et l'intelligence collective à l'extrême pour voir où elle échoue».
Pescetelli confie à Annear qu’en plus d’amuser certains moments de l’Halloween, l’équipe espère voir si un groupe nombreux est capable de faire exécuter à un individu une série de tâches fluide ou si la surcharge d’informations va se transformer en une série de singeries décousues.
Un compte tweeté par le compte de BeeMe en août indique une stratégie de réussite. Citant Charles Darwin, le message écrit: "[En] ... la longue histoire de l’humanité (et du genre animal, aussi) de ceux qui ont appris à collaborer et à improviser le plus efficacement possible a prévalu."
