Ingénierie des jetons, partie I : Inciter les humains grâce aux machines

L'atout majeur des écosystèmes tokenisés, aussi appelés blockchains publiques, réside sans doute dans leur capacité à inciter les utilisateurs à agir. Les incitations sont un puissant levier. Cependant, à l'instar de la conception d'algorithmes d'intelligence artificielle (IA) et d'optimiseurs, il est difficile de concevoir des incitations pertinentes. On peut même comparer les blockchains à la vie. Dans ce contexte, que se passerait-il si une forme de vie malveillante venait à absorber l'énergie vitale de la planète ? Plus précisément : le Bitcoin est-il devenu incontrôlable ? Cet article explore ces questions, dans le premier volet d'une série plus vaste visant à améliorer le processus de conception des tokens.

Nous partirons du point de vue de l'optimisation et de l'IA, pour revenir ensuite aux blockchains et aux incitations.

Jeu de tape-taupe IA

Pendant plusieurs années, j'ai travaillé sur l'IA créative, développant des technologies permettant de synthétiser à partir de zéro des circuits analogiques tels que des amplificateurs.

Je lancerais une synthèse et identifierais un problème, comme « des connexions résiduelles aléatoires ». J'ajouterais ensuite une contrainte, formulée en termes informatiques, telle que « chaque nœud doit être connecté à plus d'une arête » pour résoudre ce problème de connexions résiduelles.

Je recommençais alors, et je découvrais un autre problème, du genre « le courant dans ce fil est cent fois trop fort et va faire sauter le circuit ». Je le réparais, et je recommençais.

Cela convenait pour les premières contraintes. Mais après une douzaine environ, c'est devenu très fastidieux.

Après bien des difficultés, j'ai opté pour une approche différente afin de résoudre le problème, en capturant implicitement l'intention.

Tout comme pour le débogage logiciel, il est difficile de concilier mon intention et ce que la machine interprète. Ce que j'ai appris : définir la fonction objectif et les contraintes est complexe.

Le maximiseur de trombones

Communiquer ses intentions est difficile. Cette idée sous-tend Paperclip Maximizer de Nick Bostrom :

Imaginons une IA dont le seul but est de fabriquer un maximum de trombones. Elle se rendra vite compte qu'il serait bien plus avantageux qu'il n'y ait pas d'humains, car ces derniers pourraient décider de la désactiver. Or, si les humains le font, il y aura moins de trombones. De plus, le corps humain contient une multitude d'atomes qui pourraient servir à fabriquer des trombones. L'avenir vers lequel l'IA tendrait serait donc un monde où il y aurait beaucoup de trombones, mais aucun humain.

Dans ce scénario, les humains ont communiqué l'objectif principal — maximiser la production de trombones — mais ont omis une contrainte essentielle : ne pas détruire l'humanité. Mais comment formuler cette dernière contrainte ? Eh oui : c'est difficile*.

Peu importe que l'IA soit vraiment stupide. Du moment qu'elle a accès aux ressources nécessaires pour continuer à se développer, notre monde pourrait finir par être envahi de trombones. Les optimiseurs et les IA se moquent de vos intentions ; ils cherchent simplement à maximiser les résultats. Certains disent : « Il suffit de débrancher cette IA. » Cela fonctionnerait pour une IA centralisée, mais pas pour une IA décentralisée ( IA DAO ).

Les blockchains comme machines à confiance

Nous avons contextualisé les optimiseurs. Contextualisons maintenant les blockchains. Ensuite, nous fusionnerons ces contextes.

Les blockchains présentent plusieurs avantages majeurs par rapport aux systèmes distribués traditionnels : elles sont décentralisées (aucune entité ne les possède ni ne les contrôle), immuables (une fois écrites sur une blockchain, les données y sont gravées de façon permanente) et facilitent l’émission et le transfert d’actifs. Ces caractéristiques font des blockchains de véritables outils de confiance . Elles permettent également le développement de fonctionnalités avancées telles que les contrats intelligents.

Les blockchains comme mécanismes d'incitation

La communauté blockchain comprend que les blockchains peuvent contribuer à aligner les intérêts des détenteurs de jetons. Chaque détenteur de jetons a un intérêt direct dans le projet . Mais l'avantage est en réalité plus général qu'un simple alignement des intérêts : vous pouvez concevoir des incitations personnalisées en attribuant des récompenses pour chaque bloc. Autrement dit, vous pouvez inciter les utilisateurs à réaliser certaines actions en les récompensant avec des jetons. Les blockchains sont de véritables systèmes d'incitation.

J'y vois un atout majeur. La fonction de récompenses par blocs définit les actions attendues des participants au réseau. Dès lors, la question est : que souhaitez-vous que les membres de votre réseau fassent ? Un corollaire crucial en découle : comment communiquer efficacement cette intention aux machines ? C'est un détail diabolique. Maîtrisons-nous vraiment la conception d'incitations ?

La blockchain comme source de vie ?

Dans son traité « Qu'est-ce que la vie ? », Erwin Schrödinger concevait la vie comme un simple ensemble de processus physiques. Plus récemment, le physicien Jeremy England lui a donné une explication thermodynamique : tout est question d'entropie. Le carbone n'est pas une divinité.

La communauté de la Vie Artificielle (A-Life) reconnaît que la définition de la « vie » est sujette à débat. Certaines choses ne relèvent manifestement pas de la vie, comme un marteau ; d’autres, comme un chiot, en sont clairement. Mais il existe des nuances entre les deux. On peut se représenter cela comme une liste de 20 critères. Mobilité autonome ? Oui. Auto-réplication ? Oui. Prise de décision ? Oui. Et ainsi de suite. Si suffisamment de critères sont remplis, « c’est la vie ».

Ralph Merkle a écrit à propos du Bitcoin, le comparant à la vie : « Le Bitcoin est le premier exemple d’une nouvelle forme de vie. Il vit et respire sur Internet. Il vit parce qu’il peut rémunérer ceux qui le maintiennent en vie. Il vit parce qu’il rend un service utile pour lequel les gens sont prêts à payer. […] On ne peut l’arrêter. On ne peut même pas l’interrompre. Si une guerre nucléaire détruisait la moitié de notre planète, il continuerait à vivre, intact. »

Bitcoin devenu incontrôlable ?

Pour récapituler les dernières sections :

• Concevoir des objectifs et des contraintes pour un optimiseur / une IA est difficile*.*
• Une IA ayant accès à de vastes ressources mais dotée de mauvais objectifs et de contraintes pourrait avoir des conséquences désastreuses pour l'humanité (l'exemple du maximiseur de trombones).
• On peut considérer le Bitcoin comme une forme de vie, ou comme une intelligence artificielle extrêmement stupide. Il est quasiment impossible de l'arrêter.

Faisons le point. Rappelons la fonction de récompense de bloc du Bitcoin (ou fonction objectif) : maximiser la sécurité en maximisant la puissance de hachage, ce qui implique de maximiser la consommation d'électricité. Et elle atteint cet objectif avec une efficacité remarquable. À tel point qu'elle est en passe de dépasser les États-Unis d'ici juillet 2019. Or, l'énergie est peut-être la ressource la plus précieuse sur Terre. C'est ce qui nous pousse, nous autres humains, à déclencher des guerres. (Le pétrole, vous vous souvenez ?)

En résumé : « Nous avons affaire à une forme de vie que nous ne pouvons pratiquement pas arrêter, qui optimise de manière obsessionnelle la ressource la plus précieuse qui soit : l'énergie. Cette forme de vie s'appelle Bitcoin. »

Voilà qui illustre le pouvoir des incitations ! Ce qui signifie : nous devons concevoir des incitations appropriées lorsque nous construisons ces écosystèmes tokenisés.

Conclusion

Satoshi n'avait certainement pas l'intention d'épuiser l'énergie vitale de la planète. La conception de la fonction objectif, aussi appelée conception des incitations, est complexe. Mais nous devons nous y atteler ! Pour y parvenir, nous avons besoin de solides bases théoriques, pratiques et d'outils d'ingénierie. Autrement dit, l'ingénierie des jetons. Le prochain article de cette série approfondira ce sujet.