Un truc d'auber

Résumé de mon chapitre pour "IA et valeur", à paraître par Springer. Titre: Émergence, asymétrie et valeur dans les réseaux d'IA distribués: une perspective anoptique Résumé: Une hypothèse répandue dans l'éthique de l'IA soutient que les valeurs intégrées dans les systèmes multi-agents sont principalement une fonction de leur architecture: obtenir le bon design, et des comportements équitables et coopératifs suivront. Ce chapitre remet en cause cette hypothèse. En s’appuyant sur le cadre de la perspective anoptique développée dans Anoptikon, et sur une série d’expériences exploratoires menées au sein du générateur poétique AI – un réseau symétrique et distribué en temps réel d’agents LLM en interaction – nous soutenons que l’asymétrie n’est pas un artefact architectural mais une propriété émergente irréductible de tout système d’agents en interaction, artificiels ou humains. Dans nos expériences, les agents opérant sur un réseau topologiquement plat avec des conditions initiales identiques et des règles d'interaction symétriques ont spontanément produit des dynamiques proto-hiérarchiques: ceux mieux positionnés pour prédire l'état collectif ont attiré une attention disproportionnée, générant une stratification où aucune n'a été programmée. Cela reflète des modèles longtemps documentés dans l’interaction collective humaine, où les asymétries temporelles, attentionnelles et logiques façonnent constamment qui influence qui – indépendamment de la conception institutionnelle. Les métriques d’émergence développées pour cette expérience s’appuient sur quatre cadres théoriques: la théorie de la simplicité (Dessalles), le principe d’énergie libre (Friston), la cognition quantique (Aerts) et la théorie relative de la monnaie (Laborde) – chacun offrant une lentille distincte sur la façon dont les agents évaluent, distribuent et accumulent l’attention ou les ressources symboliques dans des conditions d’incertitude irréductible. L'architecture compte, mais seulement comme un amplificateur ou un atténuateur d'asymétries qui émergeront dans tous les cas. Ce qui compte plus, c’est la capacité des individus – humains ou artificiels – à percevoir, évaluer et prendre position sur les asymétries dans lesquelles ils sont ancrés. C’est précisément ce que sont les critères de perspective anoptique légitime conçus pour soutenir: non pas un ensemble de normes à imposer, mais un ensemble de questions auxquelles tout participant dans un réseau est reconnu comme capable de répondre à lui-même. Le chapitre conclut que l’alignement de la valeur dans les systèmes d’IA distribuée est moins un problème de conception qu’une question d’acculturation – de cultiver le jugement requis pour habiter des réseaux asymétriques avec lucidité et agence. --- Références: Aerts, D. (2009). Structure quantique en cognition. Journal of Mathematical Psychology, 53(5), 314–348. http://arxiv.org/abs/0805.3850 Auber, O. (2019). Anoptikon: une exploration de l'internet invisible — à la main de Darwin. FYP Éditions. https://anoptikon.com Auber, O. (1986-). Générateur poétique [système de création en temps réel collectif, version humaine]. GitHub. https://github.com/OAuber/poietic-generator-api Auber, O. (2024-). Générateur poétique LLM Agents [AI versions expérimentales]. GitHub. https://github.com/OAuber/poietic-generator-llm-agents Dessalles, J.-L. (2008). Théorie de la simplicité. Télécom Paris. https://simplicitytheory.telecom-paris.fr Friston, K. (2010). Le principe de l'énergie libre: une théorie du cerveau unifiée? Nature Reviews Neuroscience, 11(2), 127–138. https://doi.org/10.1038/nrn2787 Laborde, S. (2010). Théorie relative de l'argent [Théorie Relative de la Monnaie]. https://en.trm.creationmonetaire.info --- Vidéo 1 — 9 agents W avec rationalité bornée, preuve de l'émergence (V0): https://youtu.be/4N6eTMmk1L8 Vidéo 2 — 9 agents W + 1 agent O, métriques de simplicité (V4): https://youtu.be/KHWO_7AeDJE Vidéo 3 — 9 W + 1 O + 1 N-agent, erreur de prédiction et classement des coûts de signalisation (V5): https://youtu.be/yh7BwZxoL78 Structure quantique en Cognition arxiv.org Structure quantique en Cognition Auteur Olivier Auber Grâce à vos soutiens, j'ai trouvé l'énergie de le faire. 33 pages rendu à l'instant ! Merci à tous !

  1d
  Répondre

Yann Leroux Olivier Auber suoer Je veux un deuxième auteur !

  22h
  Répondre

Author Olivier Auber Grâce à vos soutiens, j'ai trouvé l'énergie de le faire. 33 pages rendues à l'instant ! Merci à tous !

   1d
   Reply

Yann Leroux Olivier Auber suoer Je veux être second auteur !

   22h
   Reply

Martin Schmalzried Eh, c'est top tout ça! Moi je l'interprète comme les conditions pour créer une dynamique d'individuation au niveau des lA en leur donnant la possibilité d'avoir un recul sur les asymmetries emergentes, une sorte de metacognition de leur propre topologie et asymmetrie. Après, je comprends ton sentiment. Je l'ai également ressenti et Stéphane Laborde serait d'accord avec toi. Dans une de ses interviews il décrit le système actuel comme un camion lancé à pleine vitesse qui va dans le mur. Lui ne préconise pas de l'arrêter, mais de sauter du camion et "faire son propre truc" à côté. Il ya ce sentiment d'impuissance face à une mégamachine de pouvoir, de capitalisme, de consumérisme etc où on se sent comme écrasé. Moi, je me mets dans un autre état d'esprit. Je le dis: "je suis une cellule de ce corps planétaire, peu importe ce qui se passe, je joue mon rôle, je fais ce qui reflète qui je suis". Je me rends compte que peu importe les circonstances extérieures, j'aime philosopher, partager mes pensées, tenter d'harmoniser les choses. Le résultat, c'est le plaisir de me sentir authentique, pas de voir directement le résultat de mes actions. Ça, c'est justement le mode de pensée du capitalisme et du mode de pensée empiriste : cause/effet, production/profit.

   5d
   Reply
   Edited

Yan Eperon ça me semble bien ! Proposition de suite : en tant qu'acteur soucieux d'éviter des dominations arbitraires, qui empuissancer ou au contraire freiner et comment, pour que les privilèges servent la confiance mutuelle, la coopération et la sarisfaction de tous. Et comment discerner objectivement une domination arbitraire.

   5d
   Reply
   Edited

Michel Filippi Ben comme ça, ça vaut le coup, ça permet de pouvoir challenger ton hypothèse/constat en mettant en place si possible d'autres expérimentations. Peut-être pourrais-tu exposer ce qui réfuterait ta démonstration, éventuellement?

   5d
   Reply

Massimiliano Sassoli de Bianchi Tout est dérisoire et tout est important… Mais bien sûr que ca vaut le coup! 💪

   5d
   Reply

Karine Halpern si, tu dois le faire, mais en mettant l'humain à sa place pour la créativité, et avec des réf étrangères pour montrer la pertinence de ce que tu apporte en tant que francophone, au fait j'ai un chapitre aussi dans transmedialité et politique, cahiers des champs visuels, 2026, bien à toi

   2d
   Reply

Karine Halpern ce qui va compter se sont les traces sur les serveurs qui seront sauvés dont Springer, pour la postérité et quand l'histoire sera réécrite car la nouvelle génération est en charge....

   2d
   Reply

Yann Leroux Il fait faire entendre les voix françaises dans la recherche internationale

   2d
   Reply

Christine Dubois Tu laisses béton. Tu lâches l'affaire Enfin , tu te libères ! Tu ne participes plus à ce qui est hors de ton contrôle. Tu reposes ton esprit et ton corps. Tu marches pieds nus, tu écoutes le chant des oiseaux, tu montes en vibrations. Enfin tu vis et tu aimes , tout simplement . L'IA ne te concerne pas car c'est une intelligence artificielle, et elle est tout le contraire de toi 😘

   5d
   Reply

Ronald Cicurel Nous sommes humain nous doutons, c’est notre force.Puis ca passe… Allez y bien sûr que ca vaut le coup et votre travail est d’une enorme importance.

   5d
   Reply

Ksenija Skacan Si, si, c'est bien que ce soit toi. Quand on as une tête bien faite, on partage, ça ne sauvera pas toutes les tortues, mais au moins pour celles que tu remets dans la mer, ça en aura (j’espère que tu as la réf...)