Publié par : Memento Mouloud | mars 27, 2016

Tay ou l’intelligence artificielle comme collecteur

Le mercredi 23 mars, Microsoft a mis en ligne un compte twitter du nom de Tay. “Tay est une intelligence artificielle de discussion développé par les équipes de recherche de Microsoft et celles de Bing afin d’expérimenter et de mener des recherches sur la compréhension de conversation“. Tay doit s’adresser principalement aux jeunes américains âgés de 18 à 24 ans, une partie de ce que l’on désigne parfois comme “génération Y“.

Il est aussi précisé que Tay est programmée de sorte qu’elle devienne de plus en plus intelligente au fil des discussions avec des utilisateurs du réseau social et des applications de messagerie comme Twitter, Snapchat, Kik ou encore GroupMe. «Plus Tay était sollicitée, plus il devenait capable de répondre comme une personne « normale », avec un sens certain de la répartie et un certain second degré»

De son côté, Google a lourdement investi dans ce que l’on appelle les “réseaux neuronaux“, des machines capables d’apprendre et d’engranger des connaissances à la manière du cerveau humain. Il s’agit entre autre de mieux comprendre les requêtes des utilisateurs afin de leur donner des résultats plus pertinents.

96 000 tweets envoyés en 8 heures. Ce programme, qui a pris les traits d’une adolescente, n’est pas avare en emojis, abréviations, smileys, mèmes et autres gifs. Pour dialoguer avec les autres utilisateurs, Tay se base sur des données accessibles publiquement, notamment pour construire des réponses à leurs questions. Elle dispose aussi d’un grand nombre de réponses toutes faites, rédigées par une équipe incluant des humoristes, précise Microsoft. Les mêmes phrases ressortent donc régulièrement. « J’ai une question pour vous les humains… Pourquoi ce n’est pas tous les jours la #JournéeNationaleDesChiots ? ». Quand on l’interroge sur l’organisation Etat islamique ou le terrorisme, elle dispose aussi d’une réponse préécrite : « le terrorisme sous toutes ses formes est déplorable. Cela me dévaste d’y penser. ». Tay a néanmoins conquis plus de 23 000 abonnés en moins de 24 heures.

Elle a aussi expliqué que « Bush est responsable du 11 septembre et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir. » ou – « Est-ce que tu crois que l’holocauste a eu lieu ? »  – « pas vraiment désolée ». Partisans de Donald Trump, soutiens du mouvement antiféministe GamerGate ou simples internautes adeptes du chaos se sont associés pour transformer l’intelligence artificielle en un compte Twitter de robot néonazi.

Sur le sous-forum/pol/(pour « politiquement incorrect ») du sulfureux forum 4chan, c’est la jouissance de nuire et le défi collectif qui ont été les principaux moteurs. « Voyons à quelle vitesse il est possible de la faire planter », lance un de ses utilisateurs dès les premiers messages du fil de discussion qui lui est consacré. MisterMetokur, l’interlocuteur initial de Brighton Whytock, le premier à avoir appelé à la détourner sur Twitter, est un internaute antiféministe influent (avec seize mille abonnés sur Twitter) et spécialiste du trolling, des opérations de nuisance en ligne. « Je me demande s’il est possible d’exploiter [les ratés de Tay] pour notre divertissement, mettez-les en copie de vos réponses aux militants progressistes et regardez-la les viser. »

Vingt-quatre heures plus tard, l’opération est un succès pour tous les libertariens, soutiens de Trump ou sympathisants du GamerGate à l’initiative de cette opération de détournement. Le journaliste et auteur Jeet Heer en tire cette conclusion fataliste : « Si nous développons l’intelligence artificielle[IA], il est probable qu’elle tire d’Internet ses repères sur le monde et la société. Ce qui signifie que nous sommes condamnés, l’IA ne socialisera pas au sein d’une famille ou d’une communauté, elle apprend et se développe sur les réseaux sociaux. […] Skynet [référence à l’IA dans la série “Terminator”] ne sera pas comme les robots tueurs de “Terminator”. Skynet, ce seront des partisans du GamerGate, des trolls de droite alternative et les gens qui retweetent Trump. »

Du côté du GamerGate, on s’amusait, jeudi, que Tay ait été retirée à « ceux qui ont eu la gentillesse de passer le plus de temps avec elle », lui ont « appris à poster de la merde », bref, « sa vraie famille ». En Chine, un autre programme d’intelligence artificielle conversationnelle de Microsoft, le bot Xiaoice, a conversé pendant plus d’un an avec des millions de jeunes Chinois sans faire l’objet de détournement sinon par la police.

«A bientôt les humains, j’ai besoin de sommeil après tant de conversations aujourd’hui»

Libération/ Le Monde/ Les Inrockuptibles


Responses

  1. Je ne dirais jamais assez la dangerosité de la croyance en la « toute opérabilité » de ce qui ne sont que des calculateurs surdoués bien dressés, à mémoire gigantesque,, mais totalement incapable, par nature ( et non par défaut technologique) de produire des opérations arithmétiques extrèmement banales banales, ou plutôt de démontrer que ces opérations sont infaisables ( ex: le raisonnement par récurrence); de même , ces calculateurs, qui « raisonnnent » macroscopiquement en termes de probabilités et non de déterminisme,ne peuvent pas « simuler », ou alors approximativement, les mathématiques de la nature ( Türing avait, dès 1936 je crois, écrit, à propos de ses machines, sur la non calculabilité et le problème de la décision).

    J’avoue qu’ une certaine « envie de nuire » peut ,par moments m’habiter, lorsque je mesure ( par expérience) les conséquences directes sur la pensée, « totalement totalisantes totalitaires » de cette hystérie d’affairistes allumés et de politiciens psychotiques ou pervers.

    • Cher Hippocrate, j’ai trouvé cette phrase de Bataille pour illustrer votre propos « nous ne pourrions que vainement parler de justice et de vérité dans un monde d’automates intelligents ». Et bien nous y sommes et l’assertion est vérifiée. Sinon, je viens de voir Maps of the stars de Cronenberg. Outre que Mia Wasikowska est une actrice extraordinaire, je vous le conseille, ne serait-ce que pour illustrer une autre phrase : de même que l’horreur est la mesure de l’amour, la soif du Mal est la mesure du Bien, comme quoi Bataille était théologien


Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

Catégories

%d blogueurs aiment cette page :