La technologie ne nous enthousiasme plus… comment en est-on arrivé là ?

J’étais assis à la maison un soir récemment, parcourant mon fil Twitter, qui – étant donné que je suis un philosophe qui étudie l’intelligence artificielle (IA) et les données – est toujours plein d’informations sur les nouveaux développements technologiques. Au bout d’un moment, mon estomac a commencé à me faire mal. C’est une sorte de signe qui vous dit que vous n’êtes pas réel ne pas passer un bon moment. Mais pourquoi l’ai-je ressenti ? Mais je n’ai pas lu d’informations liées à la politique, à la crise climatique ou à la pandémie – les sources habituelles d’anxiété. J’ai pris quelques minutes pour analyser la situation. Qu’est-ce que je regardais ?

J’ai juste cligné des yeux devant la pauvreté graphique de la dernière démo du jeu Horizon Mondes VR de Meta. Il présentait un avatar aux yeux morts de Mark Zuckerberg sur un fond visuel qu’un utilisateur de Twitter vient de comparer aux “murs peints d’une pépinière abandonnée”. J’ai laissé échapper un léger soupir à l’annonce Anneau Nation, une émission télévisée produite par Amazon présentant un “contenu viral léger” provenant de l’empire de contrôle de Ringo. J’ai serré la mâchoire devant une capture d’écran de la conversion texte-image du modèle Stable Diffusion, qui présente des illustrations conçues par l’IA qui imitent le style de dizaines d’artistes humains non rémunérés dont le travail a été ajouté à la base de données utilisée pour former le modèle. Le travail que l’IA a broyé avant d’être recraché.

J’ai déjà ressenti ce sentiment et je sais comment ça s’appelle. C’était une annulation. C’est le sentiment d’être coincé dans un endroit où vous ne voulez pas être mais que vous ne pouvez pas quitter. J’ai décidé d’étudier la technologie précisément pour éviter de tels sentiments. Quelle ironie! La technologie était mon paradis. Naturellement, j’ai exprimé mon malaise à travers une série de tweets :

Je viens de toucher une corde sensible. Alors que mes notifications commençaient à exploser avec des milliers de réponses et de retweets, la récompense initiale de dopamine de la viralité a cédé la place à une tristesse encore plus profonde. Beaucoup de gens ont ressenti le même nœud dans leur estomac que moi. Cependant, on ressent une certaine catharsis à lire tant d’autres personnes s’exprimer sur ce sujet.

Lire Aussi :  Un marché de Noël solidaire à Lausanne

L’innovation technologique a radicalement changé de schéma

Il manque quelque chose dans nos vies et dans nos technologies. Cette absence alimente un malaise grandissant exprimé par les personnes qui travaillent ou étudient la technologie. C’est ce qui motive la nouvelle génération de chercheurs doctorants et postdoctoraux avec qui je travaille à l’Université d’Édimbourg. Qu’ils viennent des disciplines des arts techniques, des sciences ou des sciences humaines, ils travaillent ensemble pour comprendre ce qui ne fonctionne pas dans notre écosystème technologique et comment nous pouvons y remédier. Pour ce faire, nous devons comprendre comment et pourquoi les priorités de cet écosystème ont évolué.

Dans le passé, l’objectif du développement des technologies grand public était assez simple : concevoir et construire quelque chose de valeur pour les gens et leur donner une raison de l’acheter. Ce nouveau réfrigérateur est génial : il me fait économiser de l’argent sur mes factures d’énergie et fait des glaçons très frais. Alors je l’achète. C’est fait. Cet aspirateur Roomba promet d’aspirer les poils de mon chat sous mon canapé pendant que je fais la sieste. C’est vendu! Mais cette vision de la technologie est de plus en plus dépassée. De nos jours, un réfrigérateur ne devrait pas seulement garder vos aliments au frais. Les modèles actuels ont des caméras et des capteurs qui peuvent suivre ce que je mange et comment je le mange, tandis que l’aspirateur Roomba peut communiquer avec Amazon et envoyer à la société américaine une carte détaillée de ma maison.

Le problème va bien au-delà des risques évidents pour la vie privée. Il s’agit d’un changement radical de tout le modèle d’innovation et des incitations qui en découlent. Pourquoi se contenter d’une transaction rentable pour une entreprise alors qu’elle peut concevoir un produit qui extraira un flux de données monétisées de chaque client et générera des revenus pour eux pendant des années ? Une fois qu’une entreprise capture ce flux de données, elle le protège, même aux dépens du client. Après tout, si une entreprise achète suffisamment d’un marché, elle peut se permettre d’absorber la colère et la frustration de ses clients. Demandez à Mark Zuckerberg.

Lire Aussi :  NVIDIA déclare que la GeForce RTX 4090 a été vendue en 2 semaines et que les stocks se stabilisent

Nous sommes le produit et non les utilisateurs des technologies

Ce changement n’a pas seulement été motivé par les plateformes technologiques grand public et les médias sociaux. La grande marque agro-technologique John Deere, par exemple, autrefois appréciée de ses clients, combat désormais un mouvement de « droit à réparer » dirigé par des agriculteurs mécontents qu’il leur soit interdit de réparer leurs propres machines par crainte de perturbations du logiciel qui envoie de précieux données sur les terres et les cultures des agriculteurs à son créateur. Comme l’ont souligné plus d’un commentaire sur mon fil Twitter, dans la technologie d’aujourd’hui, nous sommes le produit, pas le principal bénéficiaire. Les dispositifs mécaniques qui composaient autrefois le produit deviennent de plus en plus de simples intermédiaires.

Il y a aussi un changement dans les destinataires des innovations technologiques actuelles. Après mon fil, plusieurs personnes ont exprimé des avis différents sur la question du marché en plein essor des technologies destinées aux “geeks” et aux “nerds” comme le Raspberry Pi, les logiciels open source ou les robots programmables. Bien que bon nombre de ces outils conviennent à ceux qui ont le temps, la compétence et l’intérêt de les utiliser les rendent attrayants pour un public restreint. La joie de véritables innovations dans la technologie biomédicale, comme les vaccins à ARN messager, est également tempérée quand on voit que les bénéfices sont concentrés dans les pays les plus riches, c’est-à-dire. chez ceux qui sont déjà mieux lotis avec la technologie.

Bien sûr, les nouvelles technologies restent une source de joie et d’excitation dans de nombreux endroits qui n’ont pas eu leur juste part de commodité dans le passé. Il était une fois, l’innovation nous promettait bien plus que de nouveaux appareils et applications. L’ingénierie et l’invention étaient autrefois des professions axées principalement sur la création d’infrastructures plus efficaces plutôt que sur la fabrication articles jetables.

La technologie doit profiter aux gens

Les technologies vitales telles que les routes, les réseaux électriques, les égouts et les systèmes de transport public étaient autrefois au cœur de l’entreprise d’ingénierie aux États-Unis. Aujourd’hui, nous les traitons comme des fardeaux pour les contribuables, au lieu de diriger nos meilleurs esprits et ressources vers les appareils et applications grand public avides de données. Si les États-Unis sont une indication de la trajectoire du développement technologique mondial, alors nous avons tous de sérieux problèmes parce que nous avons clairement perdu le fil.
La réalité est que la culture technologique n’a plus pour objectif visible de repousser les limites de l’innovation humaine. L’innovation qui nous sert à tous. Même la conquête de l’espace a perdu sa vision humaniste. L’option d’aujourd’hui est le tourisme spatial de luxe et les milliardaires vendant des fantasmes Mars Escape à des investisseurs crédules. Avec huit milliards de personnes au bord de la destruction de l’environnement mondial, nous ne pouvons pas nous permettre d’entrer dans un monde où la mission principale des nouvelles technologies semble être de “prendre l’argent et courir”.

Lire Aussi :  Google Chrome a enfin un paramètre (caché) pour ne plus faire fondre l'autonomie

Si nous continuons à éviter les avantages de la technologie pour les gens, nous risquons d’alimenter une boucle de rétroaction qui sape notre volonté collective de réinvestir dans leur développement. Le danger n’est pas seulement que la technologie d’aujourd’hui ne réponde pas à nos besoins civilisationnels les plus pressants, mais aussi que le désintérêt apparent des technologues pour l’innovation humaine érode notre foi collective en nos propres pouvoirs d’invention.

LIRE AUSSI

Rencontrez Alex Hanna, le chercheur qui a quitté Google pour sauver l’IA

Fidèle à ses racines les plus profondes, elle est toujours animée par une impulsion morale : construire des lieux, des outils et des techniques qui peuvent aider les gens non seulement à survivre, mais à prospérer ensemble. Bien sûr, cette pulsion est facilement associée ou écartée par d’autres : les pulsions de domination, d’extermination, d’appauvrissement, de contrôle et de contrôle.

Cependant, ces motifs plus sombres ne sont pas essentiels à notre capacité technologique en tant qu’espèce. Nous ne pouvons pas leur permettre de définir l’ordre technologique moderne, car si la technologie perd son lien avec la joie et le confort partagés, nous risquons de nous détourner de l’une des manières les plus fondamentales de prendre soin du monde et des autres.

Tribuna Shannon Vallor paru en octobre 2022, traduit de l’anglais par Kozi Pastakia. Shannon Vallor est titulaire de la chaire Baillie Gifford d’éthique des données et d’intelligence artificielle à l’Université d’Édimbourg et directrice du Centre for Technomoral Futures de l’Edinburgh Futures Institute.

LIRE AUSSI

IA : Des experts ont préparé un concours pour identifier les systèmes discriminatoires



Source

Leave a Reply

Your email address will not be published.

Articles Liés

Back to top button