La Sphère Numérique, Promesses et Menaces. Le Meilleur et le Pire des Mondes Possibles

La Sphère Numérique, Promesses et Menaces. Le Meilleur et le Pire des Mondes Possibles

Reda Benkirane

Une des principales conséquences de la pandémie du Covid19 est le fait que l’humanité a complètement basculé dans le numérique. Depuis le début de la crise sanitaire, partout dans le monde, les plateformes numériques ont assuré l’essentiel de nos activités économiques, sociales et culturelles. Travail et enseignement à distance ont été consacrés au cours de l’année 2020…mais aussi traçage et contrôle des individus, surveillance des populations en phase de confinement. D’un côté, toute une économie de la connaissance s’est mise en place, de l’autre, un capitalisme cognitif/culturel ainsi que toutes sortes de pollution affectent les individus autour de la captation de leur attention et de la manipulation de leurs pulsions et de leur psyché. Les technologies de l’information et de la communication promettaient la fin des servitudes concernant l’accès à la connaissance, mais elles peuvent tout autant être utilisées pour miner la démocratie – là où elle régnait jusque-là – et pour renforcer l’autoritarisme et le contrôle grégaire des masses. Comment appréhender le numérique en tant que pharmakon, c’est-à-dire à la fois comme remède et poison, dans ses usages et mésusages au sein de sociétés complexes et sophistiquées ?

Qu’est-ce qui dans l’infotechnologie favoriserait l’intelligence collective, l’accroissement et le partage du savoir, la sauvegarde de l’environnement et des ressources naturelles, la promotion de la démocratie et l’humanisme planétaire ? Qu’est-ce qui est potentiellement toxique pour les individus, les abêtit individuellement et collectivement en tant que bétail cognitif ? L’intelligence artificielle permise par l’essor du numérique va-t-elle triompher en l’humain en le fonctionnalisant en automate comme un autre ? Comment faire pour protéger nos données personnelles qui font les mégadonnées expropriées et exploitées maximalement dans une économie numérique où une poignée d’entreprises fonctionnent en Etats-plateformes autrement plus puissants que les Etats-nations ? Y a-t-il des limites cognitives et psychologiques mais aussi sociétales et environnementales à l’exploitation de ces mégadonnées et à l’emprise de l’infotechnologie sur les sociétés du 21^e siècle ? A l’instar des fumées noires des cheminées de la révolution industrielle, se pourrait-il que les algorithmes de la révolution numérique génèrent des pollutions encore mal identifiées, du côté du monde mental, de l’attention profonde et en prise directe avec la psyché et ses impensés ?

Comment les sociétés peuvent-elles agir de manière à changer notre rapport à ce numérique invasif et totipotent et concourir à assurer la viabilité de l’avenir ?

Qu’en est-il pour un pays comme le Maroc, avec tout son potentiel mais aussi son niveau de développement humain somme toute relativement bas ? Le numérique réduit-il ou au contraire renforce-t-il les inégalités économiques et l’autoritarisme politique ? Permet-il à l’Etat une gestion efficiente et à la société civile de s’exprimer, de s’émanciper, de prospérer et de prendre en main sa destinée ? Quelles promesses et quels risques se profilent derrière le numérique pour les pays arabes et africains après les révoltes sociales et la répression/régression qui s’en est suivie ?

C’est ce que nous nous proposons d’aborder et d’approfondir avec des chercheurs de pointe qui sont aussi de fins observateurs de la sphère numérique et des transformations technologiques et sociétales dont elle est porteuse depuis plus d’un quart de siècle.

Mots-clés : algorithme, intelligence artificielle, méga données, fake news, post-vérité, révoltes sociales, GAFA, cryptographie, algorithme, sécurité, surveillance, contrôle, démocratie, révolutions sociales, droits humains, droits numériques, (trans)humanisme, société du savoir.

Aux origines de l’IA, les questions ouvertes : qui parle/joue ? et à/de qui ? *

On peut trouver au cœur du texte fondateur de l’intelligence artificielle présents les principaux traits ambivalents de la sphère numérique : confusion et profusion discursive, ambiguïté et jeu autour de l’intelligence et du genre

La mesure des progrès de l’intelligence artificielle (IA) est généralement examinée à travers le « test de Turing». Le logicien britannique Alan Turing a écrit en 1950 un article paru dans une revue de psychologie et de philosophie qui est considéré comme le fondement théorique de l’IA. Dans cet article, il pose tout d’abord la question de savoir si les machines peuvent penser, et comment alors définir la « machine » et la « pensée ». Puis il établit au travers du « jeu de l’imitation » un dispositif composé de trois acteurs : un homme A, une femme B et un interrogateur C. L’interrogateur C, qui n’est pas dans la même pièce que les deux autres, leur pose des questions au travers d’un échange dactylographié. Le jeu de l’imitation commence quand Turing pose la question de savoir ce qui se passerait si une machine prenait le rôle de l’homme A dans la poursuite des questions-réponses avec l’interrogateur C.

Cet article a fait l’objet de très nombreuses exégèses, son ambiguïté ne concerne pas seulement la confusion entre homme et machine, mais la confusion des sexes. La question du sexe des joueurs du jeu de l’imitation intervient à plusieurs reprises puisque Turing imagine la possibilité « de faire jouer à O [l’ordinateur] le rôle de A [l’homme] dans le jeu de l’imitation, le rôle de B [la femme] étant tenu par un homme ». Dans ce même article, un paragraphe intitulé « L’objection théologique », il va même jusqu’à demander « Comment les chrétiens considèrent-ils l’opinion musulmane : « Les femmes n’ont pas d’âme ? » »

Pour Alan Turing (homosexuel dans une Angleterre puritaine et conservatrice), le jeu de l’imitation met en scène l’ambivalence de l’intelligence et de la sexualité comme il l’exprimera au travers d’un paradoxe logique peu avant de mourir tragiquement :

« Turing pense que les machines pensent. Turing ment aux hommes (lies with men). Donc les machines ne pensent pas. »

Il faut savoir qu’Alan Turing fut arrêté en 1952 pour « délits sexuels avec un jeune homme » et condamné à une castration chimique. Il a fini par se suicider par empoisonnement au cyanure.

Cf. Alan TURING, « Computing Machinery and Intelligence », Mind, vol. LXI, n. 236, 1950, (URL:

http://mind.oxfordjournals.org/content/LIX/236/433). Ce texte est paru en français, « Les ordinateurs et l’intelligence », traduit par Patrice Blanchard, paru dans La Machine de Turing, Paris, Seuil, 1999, pp. 134-175.

* Note extraite de Reda Benkirane, Islam, à la reconquête du sens, Paris, Le Pommier, 2017, p. 224.

Le numérique n’est pas neutre, Quid de l’éthique dans la sphère numérique

Amal EL FALLAH SEGHROUCHNI

Leviers de Motivation et de Gouvernance, des Pouvoirs Numériques en Entreprise: Enjeux, Progrès et Risques

Amine BENJELLOUN

Je prend très au sérieux cette conférence et travaille à un contenu innovant, pertinent, intelligible au plus grand nombre et proposant un ensemble de pistes de solutions correctives/alternatives, à l’approche systémique du développement portée aujourd’hui, par les politiques publiques et les stratégies des grands groupes tenant le leadership de l’économie mondialisée.

Le numérique peut promouvoir autant le confort que la toxicité, la justice que l’exclusion, la praticité que la complexification.

En un mot : l’exercice de la citoyenneté ne saurait devenir une compétence. elle doit demeurer pour chacune et chacun d’entre nous, un droit et une responsabilité.

Il y a une dimension trop peu considérée à ce jour, celle de la gouvernance de l’avènement et de l’appropriation numérique. Ce n’est pas seulement une question de compatibilité au quotidien, mais un enjeu majeur pour l’humanité, puisque le numérique est parvenu à un taux de pénétration de notre milieu, pour nous poser désormais question, par son indéniable dimension CIVILISATIONNELLE.

Ainsi, de même qu’il existe des institutions de gouvernance du droit (Conseil Constitutionnel), de l’information (Conseil de l’Audiovisuel), des transformations sociétales à travers le progrès et le vivant (Conseil économique, social et environnemental) ou encore de l’éthique (Conseil de l’éthique scientifique), il nous faut aujourd’hui songer très sérieusement à installer une institution de gouvernance de l’avènement et de l’appropriation numérique et laquelle, dirait le droit, l’opportunité et la sécurité collective à l’aune de l’intégration d’une nouvelle technologie dans notre vivre ensemble.

Voici, les premières considérations suscitant l’intérêt, les échanges et les enjeux de ce que nous sommes entrain de valider par une adoption silencieuse dans nos modes de vies, sans toujours mesurer l’impact pas seulement communicationnel, de ce qui est entrain de profondément les transformer.

Je témoignerai également de situations concrètes vécues, de transformations d’organisations et de territoires, de l’Académie d’Excellence de l’avionneur Airbus aux États Généraux de l’Alimentation ou encore l’intégration de modèles innovants dans l’économie rurale africaine, que j’ai eu l’honneur de diriger et les impacts multiples et notamment psycho-sociologiques de ces progrès, pas toujours simples à maîtriser.

Comment les mathématiques et l’informatique peuvent améliorer la démocratie

Rida LARAKI

La démocratie est en crise. Les citoyens Européens, Américains, Anglais, Suisses ou encore Marocains éprouvent une méfiance croissante à l’égard des mécanismes utilisés pour élire leurs représentants et organiser des référendums. Ces mécanismes sont injustes et manipulables. De plus, ils peuvent produire des résultats électoraux polarisants – par opposition à consensuels. Par exemple, les référendums binaires qui offrent deux options de réponses : oui-non peuvent conduire à une ambiguïté d’interprétation et donc à une division au lieu de donner des instructions claires à l’exécutif (e.g. le Brexit).

Une démocratie qui fonctionne commence par une élection qui fonctionne. Pour engager les électeurs dans le processus politique et obtenir un mandat plus clair, le vote doit être exprimé d’une manière optimale. Pour renforcer la confiance des électeurs dans le système, le vote doit être juste et résistant aux manipulations.

Motivée par ces principes démocratiques, la présentation vise à démontrer que :

A) Les mathématiques aident à concevoir de nouveaux mécanismes de vote qui sont justes, robustes et possibles. Nous développerons deux exemples: le jugement majoritaire (où les électeurs peuvent mieux exprimer leurs opinions complexes en évaluant chaque option dans une langue commune de notes, telles que «Excellent», «Très bien», «Bien, «Acceptable», «Insuffisant», «Rejeter».) et le système bi-proportionnel (qui nécessite un algorithme complexe pour calculer ses résultats mais qui est néanmoins devenu la loi dans plusieurs Cantons en Suisse).

B) Le numérique est important à différents niveaux pour garantir le bon fonctionnement de la démocratie et notamment la mise en place :

1)  d’une plateforme de votes qui permet aux électeurs de voter facilement et d’obtenir rapidement les résultats;

2) d’un algorithme efficace pour calculer et représenter les résultats;

3) d’une double sécurité : anonymat du vote et intégrité des résultats (cryptographie, blockchain).

4) d’une transparence, notamment des codes sources et d’un contrôle citoyen et juridique à tous les niveaux.

D’autres conditions sont évidement nécessaires pour garantir le bon fonctionnement d’une démocratie : l’éducation depuis le jeune âge (école, université), les institutions juridiques, un contrôle populaire, des médias indépendants, transparence du financement politique, etc.

Présentation PPT de Professeur Rida LARAKI

Voir la version PDF