Au commencement était le récit…et à la fin aussi

[Vous devez être inscrit et connecté pour voir cette image]


Le narratif que nous nous racontons reste la base de nos décisions. Selon Harari, l’IA vient changer la donne et menace la civilisation ; une mise sous contrôle est nécessaire mais pas évidente.



Au commencement ( Bérèshit ) dieu créa le ciel et la terre, dit le début de la Genèse.  Au commencement était le Verbe, ou la Parole, dit l’évangile de Jean , ou le logos, selon des lecteurs plus orientés philosophie. Ben moi je plaide pour qu’on utilise le mot « récit », ou ses substituts comme histoire, ou narratif. 
Ce dernier terme est le plus récent et désigne clairement un contenant, ce qui autorise une prise de distance avec le contenu. Le récit, c’est ce qui fait que les romans se vendent beaucoup mieux que les essais. Dans le récit on peut se projeter et vivre plein d’émotions, celles des héros et héroïnes. On peut dérouler les archétypes humains, afficher les passions les plus viles comme les plus nobles. On peut passer plein de messages à l’aide de paraboles, de mythes, ou de légendes. Le mythe d’un certain Hiram a contribué largement à la pérennité de la franc-maçonnerie, tellement il fait vibrer toutes nos cordes humaines.

Le biais de confirmation est le processus renforçateur qui vient bétonner notre foi dans les récits que nous avons placés comme guides de nos vies. Son importance est à présent scientifiquement démontrée. Il fonctionne dans nos cerveaux à l’aide du « circuit de la récompense » et son agent la dopamine. Un filtre automatique met en lumière les informations qui vont dans le sens de ce nous avons envie de penser, et bloque celles qui vont dans le sens opposé.

Vous avez dit information ?


Yuval Noah Harari, auteur des best-sellers Homo Sapiens, Homo Deus et 21 leçons pour le 21^e siècle, a pondu un nouveau pavé : « Nexus ». Ce terme désigne un nœud ou carrefour de réseau d’information, où se rencontrent plusieurs flux. L’ouvrage tente de réinterpréter l’histoire des civilisations à la lumière des technologies et méthodes de circulation de l’information disponibles aux dirigeants en exercice. 

Les dirigeants ont toujours eu à choisir entre une ligne disons libérale ou démocratique et une ligne plus dictatoriale. Cette dernière tendance, autoritaire, se heurtait à l’époque de l’empire Romain, à la lenteur de transit de l’information depuis les confins de l’empire jusqu’à Rome. Même s’il en avait le désir, l’empereur ne pouvait rêver que la totalité de l’information passe d’abord par lui. Pas  question donc de totalitarisme. 

Ce n’est plus le cas depuis un bon moment. Un première accélération est venue de l’imprimerie et ses capacité et vitesse de reproduction des documents écrits.
Notons en passant que l’écriture s’est surtout rendue indispensable parce que, au contraire des récits, nos cerveaux n’aiment pas stocker des monceaux de données quantitatives. Bref l’écrit est d’abord l’outil du bureaucrate. 

Lequel bureaucrate s’est mis à ranger ses données dans des tiroirs dans l’espoir de les retrouver si besoin ; tous ces traitements et rangements sont source d’erreurs, et les bureaucrates ont inventé des processus de correction des erreurs.  Cette capacité d’autocorrection des erreurs est une caractéristique cruciale des civilisations. Les religions « révélées » prétendent détenir la Vérité et l’avoir saisie dans des livres sacrés. Etant d’origine surnaturelle, elle se dispense donc de doutes ou de mécanismes de correction. 


Il en est de même avec les idéologies totalitaires qui sont persuadées que leur contrôle centralisé de toutes les informations permet de bloquer toute dissonance . Face à cela nous avons la démocratie, construction humaine cahotante, avec souvent des menaces intérieures parmi les plus dangereuses. Mais ces démocraties ont des mécanismes d’autocorrection : la séparation des pouvoirs, la laïcité ( avec ses variantes de sécularisation ), le système parlementaire représentatif, la transparence, les libertés individuelles, des contre-pouvoirs, etc.

L’élément nouveau, déjà présent et montant rapidement en puissance, c’est l’Intelligence Artificielle (IA) .

 Là où jusqu’ici toutes les décisions revenaient aux humains, nous allons déléguer de plus en plus de décisions à des IA. Pourquoi ? Les humains ont réussi à dominer le monde grâce à leur capacité d’analyse, dont celle de repérer des schémas répétitifs dans les messages reçus de notre environnement. On se souvient du fameux «  ce qui est en haut est comme ce qui est en bas ». 

Mais le logiciel AlphaGo, dédié au jeu de go, a battu l’homme à plate couture il y a déjà 8 ans, avec une stratégie qu’aucun des millions de joueurs depuis des siècles n’avait imaginée. L’IA est bel et bien capable d’une créativité qui dépasse la nôtre !

Une nouvelle IA est entraînée sur une énorme masse de cas existants dans le passé. Elle peut donc démarrer dans une direction polluée par des problèmes sociétaux ( racisme, sexisme,…) existant en filigrane dans les bases de données. Mais même si on arrive à corriger cela, l’humain est rapidement largué par le raisonnement dans le « for intérieur » de l’IA, ou ses dialogues avec d’autres IA. Dans le réseau de circulation des informations, certains Nexus, auparavant humains, seront demain des IA. Comment les contrôler ?

Nous ne devons pas oublier que l’Humanité Universelle est une utopie, même pas approchée par l’ONU, qui est un genre d’association de copropriétaires, loin d’être tous bienveillants. Certains sont déjà tentés de lâcher quelques IA bien teigneuses dans les pattes de leurs concurrents. 

Là où les dirigeants humains bienveillants ont une vue d’ensemble du monde et un sens moral, les IA n’ont en guise de morale que les objectifs fixés par leurs concepteurs, par exemple : garder à tout prix la cible devant son écran, histoire de lui enfiler un max de pubs. Ceci n’est qu’un exemple pas trop inquiétant, mais on en voit pourtant déjà les effets sur nos jeunes. Les influenceurs et autres trolls avec arrière-pensées pullulent sur les plateformes, et ce n’était pas prévu par les libertaires qui ont conçu Internet.

Si on se retourne vers l’histoire des civilisations, on remarque que les sociétés ont certes progressé grâce à la quête de la vérité. Notre franc-maçonnerie chérie ne nous dira pas le contraire ! Mais même les démocraties les plus douces ont compris que les forces centrifuges ou clivantes, souvent internes, peuvent mettre à mal des siècles de progrès, si le chaos règne. C’est précisément là que nous en sommes . Qu’ont fait nos sociétés ? Au besoin, lâcher un peu la recherche de vérité, au profit d’un maintien de l’ordre. Rappelons-nous la devise du REAA.


Les pessimistes, dont les complotistes et les populistes, voient le monde entier comme un champ de bataille de tous contre tous pour conquérir le pouvoir. Les optimistes, dont les démocrates et les francs-maçons, voient que la coopération, bien que moins spectaculaire que les guerres, est ce qui a permis la marche vers la civilisation. La coopération est permise si et seulement si la communication, c’est-à-dire l’échange d’informations, fonctionne.  En parlant de pessimistes et optimistes, nous voilà de retour sur le terrain des narratifs qui nous plaisent ou non.

Harari conclut son opus avec quelques conseils au clan auquel nous appartenons, dans le but de réduire les risques associés à l’IA et au manque de bienveillance que nous constatons dans nos communautés humaines.  D’abord, veiller à ne jamais rompre entièrement les échanges d’informations entre divers bords. Ceci pourrait arriver si les réseaux internet étaient déconnectés par endroits . Ensuite, maintenir un jeu minimal de règles mondiales que tous s’engagent à respecter. 

Ces règles doivent inclure qu’une part des ressources doit être consacrée aux intérêts à long terme de tous les humains. Nul doute que pour obtenir cela, il est nécessaire de continuer à forger un narratif dans lequel nous les bipèdes peuvent se retrouver… Une des difficultés selon moi réside dans la croyance très répandue que le groupe ou la communauté prime sur l’individu. C’est compréhensible puisque sans coopération l’humain aurait disparu de la surface de la terre. Mais (seule) la culture occidentale a réussi ( parfois ! ) à ménager la chèvre des besoins du groupe et le chou des désirs individuels. 

Francs-maçons, à vos intelligences humaines et à vos plumes !

Quand on échange avec les chercheurs en mathématiques et en informatique sur l'IA, il y a un gouffre énorme entre le ressenti des foules et la réalité des recherches sur ces sujets.
A ce jour - il y a moins d'une semaine - il n'existe pas d'IA qui sache créer quoi que ce soit.
Il faut se souvenir que cet outil statistique est basé sur des outils informatique des années 1950 que les vulgarisateurs ont appelé réseaux de neurones et donc par extension on parle aujourd'hui d'IA.

Tout de même, la puissance de calcul et mémorisation , à partir d'une myriade de cas précédents enregistrés, fait que l'IA trouve des solutions radicalement nouvelles à des problèmes posés et impossibles à résoudre avec seulement le cerveau humain, dépassé par l'océan de données. Ces solutions obtenues par interpolations ou extrapolations à partir du domaine connu, cela semble très proche de ce que nous appelons création. 

Pour ce qui est du risque que l'humain soit éjecté de son poste de commandement, on n'en est pas loin. Deux IA fraîchement créées, avec peu de données, ont été connectées l'une à l'autre. Au bout de quelques heures, elles avaient développé un langage à elles, totalement incompréhensible à l'humain, et elles communiquaient intensément. Il a fallu débrancher le tout...

Un franc-maçon de mes amis est aussi juge au tribunal du commerce. Il se sert de l'IA pour écrire des synthèses des dossiers. Il a essayé aussi d'obtenir des suggestions de jugement, là ça n'y est pas encore, mais...

Le règlement général du grand orient de France est visiblement connu par l'IA en question, qui est capable de raisonner sur ce qu'il y a faire pour respecter le règlement.

patos a écrit:
 Deux IA fraîchement créées, avec peu de données, ont été connectées l'une à l'autre. Au bout de quelques heures, elles avaient développé un langage à elles, totalement incompréhensible à l'humain, et elles communiquaient intensément. Il a fallu débrancher le tout...

  C'est tout de même inquiétant on y va vers la SF des année 50
[Vous devez être inscrit et connecté pour voir cette image]

patos a écrit:Tout de même, la puissance de calcul et mémorisation , à partir d'une myriade de cas précédents enregistrés, fait que l'IA trouve des solutions radicalement nouvelles à des problèmes posés et impossibles à résoudre avec seulement le cerveau humain, dépassé par l'océan de données. Ces solutions obtenues par interpolations ou extrapolations à partir du domaine connu, cela semble très proche de ce que nous appelons création. 

C'est une réflexion que je trouve amusante, car il me semble qu'il existe une différence entre la création, qui invente quelque chose qui n'existait pas et des propositions résultants des mathématiques statistiques et des probabilités.


patos Pour ce qui est du risque que l'humain soit éjecté de son poste de commandement, on n'en est pas loin. Deux IA fraîchement créées, avec peu de données, ont été connectées l'une à l'autre. Au bout de quelques heures, elles avaient développé un langage à elles, totalement incompréhensible à l'humain, et elles communiquaient intensément. Il a fallu débrancher le tout...


Je serai curieux de connaître l'origine de cette rumeur, mais après tout en imaginant que cela soit vrai, pourquoi être contraint de débrancher tout? Quel serait le risque? 
On utilise tous les jours des systèmes d'échanges cryptés alors que presque personne n'y connaît rien, et le propre des systèmes cryptés c'est de faire causer des machines entre elles avec des échanges qui ne sont pas compréhensibles par les humains et... personne ne pense à les débrancher.

Pour un peu d'ouverture sur ces technologies incomprises et très fantasmées par le manque de connaissances voici un lien qui permet d'apporter un éclairage sur l'état de l'art dans ce domaine
 

Cher LapinBleu,

Pas le temps de regarder la vidéo in-extenso maintenant, mais je trouve ça fort intéressant, merci pour le lien.

[Vous devez être inscrit et connecté pour voir ce lien] : "Je serai curieux de connaître l'origine de cette rumeur"  Il ne s'agit pas d'une rumeur mais une expérience faite en vraie grandeur.  Mon problème c'est que je ne retrouve plus où ça se situe dans la grosse brique Nexus, A la fin il y a une longue liste de références...

En fait cette "info" n'est pas très récente. Allez, quelques liens :

Semble dater de 2020 :
[Vous devez être inscrit et connecté pour voir ce lien]

2016 (url raccourcie avec tiny url)) :
[Vous devez être inscrit et connecté pour voir ce lien]

Une version de radio canada (2017), qui cite peu ses sources, donc il est possible d'extrapoler à l'envi :
[Vous devez être inscrit et connecté pour voir ce lien]

L'IA a-t-elle créé une nouvelle espèce de marronnier ?...

Très cher Patos, 


Je n'ai aucune idée de ce que tu entends par "expérience faite en vraie grandeur"
Les algorithmes liés à l'IA, que moi j'appelle Intelligence Augmentée et pas Artificielle, ne sont que des équations mathématiques mises en action dans des programmes. 
Ces programmes fonctionnent ou ne fonctionnent pas, il n'y a pas de "vraie grandeur" associée. S’ils ne fonctionnent pas comme le programmeur l’a souhaité… c’est qu’il y a une coquille… un bug ou un manque de réglage.
 
Les applications d’IA générative – comme ChatGPT – ne font qu’associer des mots entre eux en fonctions de probabilités statistiques. Elles ne créent pas, elles retrouvent principalement sur Internet les chaines de mots similaires et les associent pour offrir un texte qui semble avoir une association de mots normaux et collent une syntaxe cohérente avec la langue demandée.
 
Pour ce qui est de l'avis de Yuval Noah Harari sur l'IA je lui reconnais la même compétence que celle de Frank Herbert: c'est un écrivain qui conte de belles histoires. 
 
Cependant pour m’instruire sur ces sujets je préfère me fier à des chercheurs reconnus tels que Yann Le Cun [Vous devez être inscrit et connecté pour voir ce lien] ou Justine Cassell [Vous devez être inscrit et connecté pour voir ce lien] entre autres.

Les mathématiques et l’informatique font partie des arts factuels, où la croyance n’a pas sa place car les faits y sont têtus, tangibles, reproductibles et démontrables. Des faits avancés sans contexte (qui, quoi, quand, comment, pourquoi), ne sont au mieux que des rumeurs.

LapinBleu, c'est clair. [Vous devez être inscrit et connecté pour voir cette image]

 [Vous devez être inscrit et connecté pour voir cette image]

Harari est historien ( et non romancier ). C'est certainement là qu'est sa meilleure valeur ajoutée. 

Mais je lui fais aussi confiance sur le fait qu'il fait de son mieux pour vérifier ses sources  :  le bouquin, grand format, fournit une centaine de pages de références .

On sait bien que la plupart des projections sociétales vers le futur se révèlent fausses par la suite, mais une analyse réfléchie des impacts sur démocraties et totalitarismes vaut la peine d'être lue, surtout pour un franc-maçon.

danielsan a écrit:

Je suis pour la science, mais avec conscience.

Très cher Danielsan, 
C'est une phrase qui me surprends. Car la science est sont selon la définition du terme "la somme des connaissances ".
J'imagine que tu avais à l'esprit l'encadrement de l'usage des outils permis par les connaissances scientifiques.

Trés cher Lapin Bleu, je vais te répondre avec mes pauvres arguments en toute humilité en espérant me faire comprendre. Je pense qu’il  faut une approche « avec conscience », qui s’impose lorsque les connaissances scientifiques sont appliquées dans le monde réel. La connaissance scientifique doit être neutre en soi, mais son application peut avoir des conséquences variées et parfois imprévues. Par exemple les découvertes en génétique peuvent offrir des traitements révolutionnaires, mais soulèvent aussi des inquiétudes éthiques sur la manipulation de la vie. Autre préoccupation, ces outils scientifiques, comme   par exemple les armes doivent être utilisés responsables, les avancées technologiques  comme l’I.A. peuvent transformer  la société  de manière positive ou négative. Il faut que les chercheurs prennent en compte les implications sociales et éthiques de leurs découvertes. En gros, être pour une science avec conscience signifie reconnaître les bienfaits de la science mais aussi la responsabilité de son application dans le respect  des valeurs humaines et aussi de la faune et la flore de notre monde. Je ne suis pas contre la science, au contraire je suis en admiration devant le bond spectaculaire que l’espèce humaine à fait dans son évolution (pas dans ses valeurs morales malheureusement). Mais ce n’est que l’avis d’un pauvre profane en matière scientifique, et ce n’est pas avec mon pauvre certificat d’études primaires que je vais donner des leçons (LOL).

Très cher Danielsan,
C'est très exactement ce que j'avais en tête en tapotant "l'encadrement de l'usage des outils permis par les connaissances scientifiques"
Pour ce qui est des diplômes, mon avis est, qu'ils ne servent qu'à déterminer le premier salaire et qu'ils ne sont en aucun cas l'image de la valeur des personnes.