ChainCatcher a organisé et compilé le contenu (avec des omissions).
Point clé :
Les technologies de rupture pourraient être plus facilement accessibles aux riches et aux privilégiés, exacerbant ainsi les inégalités sociales, entraînant un écart de longévité et d'avantages entre les riches et les pauvres, et même créant une classe inférieure mondiale.
L'abus technologique existe sous une autre forme, où les fabricants exercent le pouvoir sur les utilisateurs par la collecte de données, la dissimulation d'informations, etc. Cela diffère de la nature inégale de l'accès à la technologie.
L'open source est une troisième voie sous-estimée qui peut améliorer l'égalité d'accès à la technologie et l'égalité des producteurs, renforcer la vérifiabilité et éliminer le verrouillage des fournisseurs.
Les points de vue opposés à l'open source estiment qu'il existe un risque d'abus, mais le contrôle centralisé par des gardiens de porte n'est pas fiable, peut facilement être abusé à des fins militaires, et il est difficile de garantir l'égalité entre les pays.
Si la technologie présente un risque élevé d'abus, une meilleure solution pourrait être de ne pas l'utiliser ; si les dynamiques de pouvoir sont inconfortables, une approche open source pourrait rendre les choses plus équitables.
L'open source ne signifie pas liberté totale, mais doit être compatible avec des normes telles que la législation, l'essentiel étant d'assurer la démocratisation de la technologie et l'accessibilité de l'information.
Une préoccupation que nous entendons souvent est que certaines technologies radicales pourraient aggraver les inégalités de pouvoir, car ces technologies sont inévitablement réservées à l'usage des riches et des élites.
Voici une citation d'une personne qui exprime des inquiétudes concernant les conséquences de l'extension de la vie.
«Certaines personnes vont-elles être laissées pour compte ? Allons-nous rendre la société encore plus inégale qu'elle ne l'est aujourd'hui ? » a-t-il demandé. Tuljapurkar prédit que l'augmentation de l'espérance de vie sera limitée aux pays riches, dont les citoyens peuvent se permettre des technologies de lutte contre le vieillissement, et où les gouvernements peuvent financer la recherche scientifique. Cet écart complique encore le débat actuel sur l'accessibilité des soins de santé, car les riches et les pauvres s'éloignent non seulement en termes de qualité de vie, mais aussi en termes de durée de vie.
« Les grandes entreprises pharmaceutiques ont un historique constant de rigueur lorsqu'il s'agit de fournir des produits à ceux qui ne peuvent pas payer, » a déclaré Tuljapurkar.
« Si la technologie de l'anti-vieillissement était distribuée sur un marché libre non réglementé, il est tout à fait possible que nous finissions par former une classe inférieure mondiale permanente, ces pays étant enfermés dans les conditions de mortalité actuelles, » a déclaré Tuljapurkar. « Si cela se produisait, un rétroaction négative se mettrait en place, créant un cercle vicieux. Les pays exclus seront à jamais exclus. »
Voici une déclaration tout aussi forte tirée d’un article préoccupé par les conséquences de l’amélioration génétique chez l’homme :
Plus tôt ce mois-ci, des scientifiques ont annoncé qu'ils avaient modifié des gènes dans des embryons humains, en éliminant une mutation pathogène. Ce travail est stupéfiant et représente la réponse à laquelle de nombreux parents prient. Qui ne voudrait pas avoir la chance d'empêcher ses enfants de souffrir de douleurs qui pourraient aujourd'hui être évitées ?
Mais ce ne sera pas la fin. De nombreux parents espèrent garantir à leurs enfants un avantage optimal grâce à l'amélioration génétique. Les personnes capables peuvent accéder à ces technologies. Avec l'arrivée de ces capacités, les questions éthiques dépassent la sécurité ultime de ces technologies. Le coût élevé des procédures engendrera une rareté et exacerbéra l'inégalité de revenus déjà croissante.
Opinions similaires dans d'autres domaines technologiques :
Technologie numérique globale :
Voyage spatial :
Ingénierie solaire de la Terre :
Dans de nombreuses critiques des nouvelles technologies, ce thème peut être retrouvé. Un thème lié mais fondamentalement différent est que les produits technologiques sont utilisés comme outils de collecte de données, de verrouillage des fournisseurs, de dissimulation intentionnelle des effets secondaires (comme les vaccins modernes ont été critiqués de cette manière) et d'autres formes d'abus.
Les nouvelles technologies créent souvent plus d'opportunités, permettant aux gens d'acquérir quelque chose sans leur conférer de droits ou d'informations complètes sur cet objet. Ainsi, sous cet angle, les anciennes technologies semblent souvent plus sûres. C'est aussi une forme de renforcement des classes privilégiées au détriment des autres, mais le problème réside dans la projection du pouvoir des fabricants sur les utilisateurs à travers la technologie, et non dans l'inégalité d'accès comme dans l'exemple précédent.
Je soutiens personnellement la technologie. Si c'est un choix binaire entre « faire avancer les choses » ou « maintenir le statu quo », même s'il y a des risques, je serais heureux de faire avancer tout sauf un très petit nombre de projets (comme la recherche sur les fonctions, les armes et l'IA superintelligente).
C'est parce qu'en général, les avantages sont une vie plus longue et plus saine, une société plus prospère, le maintien d'une plus grande pertinence humaine à l'ère des progrès rapides de l'IA, et le maintien de la continuité culturelle à travers la génération âgée en tant que personnes vivantes plutôt que comme des souvenirs dans des livres d'histoire.
Mais que se passerait-il si je me mettais à la place de ceux qui ne sont pas très optimistes quant aux effets positifs, ou qui craignent davantage que les puissants utilisent les nouvelles technologies pour dominer l'économie et exercer un contrôle, ou qui ressentent les deux ? Par exemple, j'ai ce sentiment à propos des produits de maison intelligente, les avantages de pouvoir dialoguer avec des ampoules sont compensés par mes inquiétudes à ne pas vouloir que ma vie personnelle soit dirigée vers Google ou Apple.
Si j'avais une hypothèse plus pessimiste, je pourrais également imaginer ressentir quelque chose de similaire à l'égard de certaines technologies médiatiques : si elles permettent aux puissants de diffuser des informations plus efficacement que les autres, alors elles peuvent être utilisées pour exercer un contrôle et submerger les autres. Pour de nombreuses technologies de ce type, les bénéfices que nous tirons d'une meilleure information ou d'un meilleur divertissement ne compensent pas suffisamment la manière dont elles redistribuent le pouvoir.
L'open source comme troisième voie
Je pense qu'un point de vue gravement sous-estimé dans ces cas est : la technologie développée uniquement de manière open source.
L'argument selon lequel l'open source accélère le progrès est très crédible : il permet aux gens de construire plus facilement sur les innovations des autres. En même temps, l'argument selon lequel l'exigence de l'open source ralentit le progrès est également très crédible : cela empêche les gens d'utiliser un grand nombre de stratégies potentiellement rentables.
Mais la conséquence la plus intéressante de l'open source est celle qui n'est pas liée à la rapidité des progrès :
L'open source améliore l'égalité d'accès. Si quelque chose est open source, il est naturellement accessible à toute personne dans n'importe quel pays. Pour les biens et services physiques, les gens doivent encore payer le coût marginal, mais dans de nombreux cas, les prix des produits propriétaires sont élevés parce que les coûts fixes de l'invention de ce produit sont trop élevés pour attirer plus de concurrence, donc le coût marginal est souvent très bas, comme c'est le cas dans l'industrie pharmaceutique.
L'amélioration open source vise à égaliser l'accès pour les producteurs. Une critique est que fournir des produits finaux gratuitement aux gens ne les aide pas à acquérir des compétences et de l'expérience, les empêchant ainsi de gravir les échelons de l'économie mondiale vers la prospérité, qui est la véritable garantie d'une vie de haute qualité durable. Ce n'est pas le cas de l'open source, qui vise essentiellement à permettre aux gens du monde entier de devenir des producteurs à toutes les étapes de la chaîne d'approvisionnement, et non seulement des consommateurs.
Amélioration de la vérifiabilité par le biais de l'open source. Si quelque chose est open source, dans l'idéal, cela inclut non seulement les résultats, mais aussi le processus d'invention, les choix de paramètres, etc., il est donc plus facile de vérifier que vous obtenez ce que le fournisseur prétend, et de permettre à des tiers d'étudier et d'identifier les défauts cachés.
Opportunité d'éliminer le verrouillage des fournisseurs en open source. Si quelque chose est open source, le fabricant ne peut pas le rendre inutile par une fonction de suppression à distance ou simplement par faillite, comme une voiture hautement informatisée / connectée qui ne peut pas fonctionner après la fermeture du fabricant. Vous avez toujours le droit de le réparer vous-même ou de demander à d'autres fournisseurs.
Nous pouvons analyser cela à partir de certaines perspectives de technologies plus radicales énumérées au début de l'article :
Si nous avons une technologie de prolongement de la vie propriétaire, elle pourrait alors être réservée aux milliardaires et aux dirigeants politiques. Bien que je prévoie personnellement que le prix de cette technologie va rapidement diminuer. Mais si elle est open source, alors n'importe qui peut l'utiliser et la fournir à d'autres à bas prix.
Si nous avions une technologie d'amélioration génétique humaine dédiée, elle pourrait être limitée aux milliardaires et aux dirigeants politiques, créant une classe supérieure. De même, je pense personnellement que cette technologie se répandra, mais il y aura certainement un écart entre ce que les riches et les gens ordinaires obtiennent. Cependant, si elle est open source, l'écart entre le contenu obtenu par les bien connectés et les puissants et celui obtenu par les autres sera beaucoup plus petit.
Pour toute technologie biologique, un écosystème de test de sécurité scientifique open source peut être plus efficace et honnête que les entreprises qui soutiennent leurs propres produits et sont estampillées par des régulateurs complaisants.
Si seules quelques personnes peuvent aller dans l'espace, en fonction des orientations politiques, certains d'entre eux pourraient avoir l'opportunité de monopoliser toute une planète ou la lune. Si la technologie est plus largement répartie, leurs chances de le faire seront moindre.
Si les voitures intelligentes sont open source, alors vous pouvez vérifier que le fabricant ne vous surveille pas et que vous ne dépendez pas du fabricant pour continuer à utiliser la voiture.
Nous pouvons résumer les arguments dans un tableau :
Notez que la bulle "construire cela uniquement dans le cas de l'open source" est plus large, reflétant une plus grande incertitude quant aux progrès que l'open source apportera et à la quantité de risques de concentration de pouvoir qu'il empêchera. Cependant, dans de nombreux cas, en moyenne, cela reste une bonne affaire.
Risques d'open source et d'abus
Un des principaux arguments contre les technologies puissantes et open source est parfois avancé, à savoir le risque de comportements à somme nulle et de formes d'abus non hiérarchiques. Donner des armes nucléaires à tout le monde mettrait certainement fin à l'inégalité nucléaire. C'est un problème réel, nous voyons plusieurs pays puissants utiliser l'asymétrie d'accès nucléaire pour intimider les autres, mais cela conduirait presque certainement à des milliards de morts.
Comme exemple de conséquences sociales négatives sans intention de nuire, donner à tout le monde l'opportunité de subir une chirurgie esthétique peut conduire à un jeu à somme nulle, où chacun dépense d'énormes ressources et prend même des risques pour la santé afin d'être plus beau que les autres, mais finalement, nous nous habituons tous à des niveaux de beauté plus élevés, et la société ne s'améliore pas vraiment. Certaines formes de biotechnologie pourraient avoir de tels effets à grande échelle. De nombreuses technologies, y compris de nombreuses biotechnologies, se situent entre ces deux extrêmes.
« Je ne soutiens que si cela est soigneusement contrôlé par des gardiens de confiance ». C'est un argument valide, soutenant une direction opposée. Les gardiens peuvent permettre des cas d'utilisation positifs de la technologie tout en excluant les cas d'utilisation négatifs. Les gardiens peuvent même se voir confier une mission publique, garantissant un accès non discriminatoire à tous ceux qui ne violent pas certaines règles.
Cependant, j'ai de forts doutes par défaut sur cette méthode. La principale raison est que je doute de l'existence réelle de gardiens de confiance dans le monde moderne. De nombreux cas d'utilisation les plus à somme nulle et les plus risqués sont des cas militaires, et les armées ont historiquement mal réussi à se contraindre.
Un bon exemple est le programme d'armes biologiques de l'Union soviétique :
Hoffman souligne que l'action de Gorbatchev concernant le SDI et la retenue sur les armes nucléaires est déroutante, étant donné qu'elle est liée au programme soviétique d'armes biologiques illégales. Lorsque Gorbatchev est arrivé au pouvoir en 1985, bien que l'Union soviétique ait été signataire de la Convention sur les armes biologiques, elle avait déjà un vaste programme d'armes biologiques lancé par Brejnev. En plus de l'anthrax, l'Union soviétique menait également des recherches sur la variole, la peste et la myxomatose, mais les intentions et les objectifs de ces armes demeurent flous.
« Les documents de Kateyev montrent qu'il y a eu plusieurs résolutions du comité central concernant le programme de guerre biologique à la fin des années 80. Il est difficile de croire que tout cela a été signé et publié sans que Gorbatchev en soit informé, » a déclaré Hoffman.
« Il y a même un mémo sur le programme d'armes biologiques adressé à Gorbatchev en mai 1990 - ce mémo ne raconte toujours pas toute l'histoire. L'Union soviétique a trompé le monde, et aussi ses propres dirigeants. »
Le programme russe d'armes biologiques : a-t-il disparu ou s'est-il évaporé ? Il a été soutenu qu'après l'effondrement de l'Union soviétique, ce programme d'armes biologiques aurait pu être fourni à d'autres pays.
D'autres pays ont également des erreurs majeures qu'ils doivent expliquer eux-mêmes. Je n'ai pas besoin de mentionner tous les pays participants à la recherche sur les fonctionnalités et la divulgation des risques implicites. Dans le domaine des logiciels numériques, comme la finance, l'histoire de l'interdépendance militarisée montre que ce qui est censé prévenir les abus glisse facilement vers une projection de pouvoir unilatérale par les opérateurs.
C'est une autre faiblesse des gardiens : par défaut, ils seront contrôlés par les gouvernements nationaux, dont les systèmes politiques peuvent avoir la motivation d'assurer l'égalité d'accès à l'intérieur du pays, mais aucune entité forte n'a pour mission de garantir l'égalité d'accès entre les pays.
Pour clarifier, je ne dis pas que les gardiens sont mauvais non plus, donc laissons-nous faire, du moins en ce qui concerne la recherche sur l'acquisition de fonctionnalités, ce n'est pas le cas. Au contraire, je dis deux choses :
Si quelque chose présente suffisamment de risques de "pair à pair" pour que vous ne vous sentiez à l'aise qu'avec un gardien centralisé en mode verrouillé, envisager la solution appropriée pourrait être de ne rien faire et d'investir dans des technologies alternatives présentant un meilleur risque.
Si quelque chose présente un risque de « dynamique de pouvoir » suffisamment important pour que vous ne vous sentiez pas à l'aise de le voir se dérouler, envisager la bonne solution consiste à le faire, et à le faire de manière open source afin que chacun ait une chance équitable de comprendre et de participer.
Il est également important de noter que l'open source ne signifie pas un laissez-faire total. Par exemple, je soutiens l'ingénierie terrestre par des moyens open source et de sciences ouvertes. Mais cela est différent de "n'importe qui peut détourner une rivière et déverser dans l'atmosphère ce qu'il veut". En pratique, cela ne conduirait pas à cela : il existe des lois et une diplomatie internationale, ce qui rend de telles actions faciles à détecter et rend tout accord assez exécutable.
La valeur ouverte garantit la démocratisation de la technologie, accessible à de nombreux pays et non à un seul ; et augmente l'accessibilité de l'information, afin que les gens puissent former plus efficacement leur propre jugement sur l'efficacité et la sécurité de ce qui est fait.
Fondamentalement, je considère l'open source comme une manière d'atteindre le point de Nash le plus fort de la technologie avec moins de richesse, de concentration du pouvoir et de risques d'asymétrie de l'information. Peut-être que nous pouvons essayer de construire des institutions plus ingénieuses pour séparer les effets positifs et négatifs de la technologie, mais dans le monde chaotique de la réalité, la méthode la plus susceptible de persister est la garantie du droit à l'information du public, c'est-à-dire que les choses se passent de manière transparente, et que quiconque peut comprendre ce qui se passe et y participer.
Dans de nombreux cas, la grande valeur de l'accélération du développement technologique dépasse de loin ces préoccupations. Dans quelques cas, il est crucial de ralentir le développement technologique autant que possible, jusqu'à ce que des contre-mesures ou des alternatives pour atteindre les mêmes objectifs soient disponibles.
Cependant, dans le cadre des développements technologiques existants, choisir l'open source comme moyen d'avancement technologique entraîne des améliorations incrémentales qui constituent une troisième option : moins d'attention portée au rythme des progrès, mais davantage à leur style, en utilisant l'attente de l'open source comme un levier plus acceptable pour faire avancer les choses dans une meilleure direction, ce qui est une approche sous-estimée.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Vitalik a récemment publié : L'Open Source comme troisième voie pour atténuer la centralisation technologique est sous-estimée.
Rédigé par : Vitalik Buterin
Rassemblé et compilé par : Janna, ChainCatcher
ChainCatcher a organisé et compilé le contenu (avec des omissions).
Point clé :
Les technologies de rupture pourraient être plus facilement accessibles aux riches et aux privilégiés, exacerbant ainsi les inégalités sociales, entraînant un écart de longévité et d'avantages entre les riches et les pauvres, et même créant une classe inférieure mondiale.
L'abus technologique existe sous une autre forme, où les fabricants exercent le pouvoir sur les utilisateurs par la collecte de données, la dissimulation d'informations, etc. Cela diffère de la nature inégale de l'accès à la technologie.
L'open source est une troisième voie sous-estimée qui peut améliorer l'égalité d'accès à la technologie et l'égalité des producteurs, renforcer la vérifiabilité et éliminer le verrouillage des fournisseurs.
Les points de vue opposés à l'open source estiment qu'il existe un risque d'abus, mais le contrôle centralisé par des gardiens de porte n'est pas fiable, peut facilement être abusé à des fins militaires, et il est difficile de garantir l'égalité entre les pays.
Si la technologie présente un risque élevé d'abus, une meilleure solution pourrait être de ne pas l'utiliser ; si les dynamiques de pouvoir sont inconfortables, une approche open source pourrait rendre les choses plus équitables.
L'open source ne signifie pas liberté totale, mais doit être compatible avec des normes telles que la législation, l'essentiel étant d'assurer la démocratisation de la technologie et l'accessibilité de l'information.
Une préoccupation que nous entendons souvent est que certaines technologies radicales pourraient aggraver les inégalités de pouvoir, car ces technologies sont inévitablement réservées à l'usage des riches et des élites.
Voici une citation d'une personne qui exprime des inquiétudes concernant les conséquences de l'extension de la vie.
«Certaines personnes vont-elles être laissées pour compte ? Allons-nous rendre la société encore plus inégale qu'elle ne l'est aujourd'hui ? » a-t-il demandé. Tuljapurkar prédit que l'augmentation de l'espérance de vie sera limitée aux pays riches, dont les citoyens peuvent se permettre des technologies de lutte contre le vieillissement, et où les gouvernements peuvent financer la recherche scientifique. Cet écart complique encore le débat actuel sur l'accessibilité des soins de santé, car les riches et les pauvres s'éloignent non seulement en termes de qualité de vie, mais aussi en termes de durée de vie.
« Les grandes entreprises pharmaceutiques ont un historique constant de rigueur lorsqu'il s'agit de fournir des produits à ceux qui ne peuvent pas payer, » a déclaré Tuljapurkar.
« Si la technologie de l'anti-vieillissement était distribuée sur un marché libre non réglementé, il est tout à fait possible que nous finissions par former une classe inférieure mondiale permanente, ces pays étant enfermés dans les conditions de mortalité actuelles, » a déclaré Tuljapurkar. « Si cela se produisait, un rétroaction négative se mettrait en place, créant un cercle vicieux. Les pays exclus seront à jamais exclus. »
Voici une déclaration tout aussi forte tirée d’un article préoccupé par les conséquences de l’amélioration génétique chez l’homme :
Plus tôt ce mois-ci, des scientifiques ont annoncé qu'ils avaient modifié des gènes dans des embryons humains, en éliminant une mutation pathogène. Ce travail est stupéfiant et représente la réponse à laquelle de nombreux parents prient. Qui ne voudrait pas avoir la chance d'empêcher ses enfants de souffrir de douleurs qui pourraient aujourd'hui être évitées ?
Mais ce ne sera pas la fin. De nombreux parents espèrent garantir à leurs enfants un avantage optimal grâce à l'amélioration génétique. Les personnes capables peuvent accéder à ces technologies. Avec l'arrivée de ces capacités, les questions éthiques dépassent la sécurité ultime de ces technologies. Le coût élevé des procédures engendrera une rareté et exacerbéra l'inégalité de revenus déjà croissante.
Opinions similaires dans d'autres domaines technologiques :
Technologie numérique globale :
Voyage spatial :
Ingénierie solaire de la Terre :
Dans de nombreuses critiques des nouvelles technologies, ce thème peut être retrouvé. Un thème lié mais fondamentalement différent est que les produits technologiques sont utilisés comme outils de collecte de données, de verrouillage des fournisseurs, de dissimulation intentionnelle des effets secondaires (comme les vaccins modernes ont été critiqués de cette manière) et d'autres formes d'abus.
Les nouvelles technologies créent souvent plus d'opportunités, permettant aux gens d'acquérir quelque chose sans leur conférer de droits ou d'informations complètes sur cet objet. Ainsi, sous cet angle, les anciennes technologies semblent souvent plus sûres. C'est aussi une forme de renforcement des classes privilégiées au détriment des autres, mais le problème réside dans la projection du pouvoir des fabricants sur les utilisateurs à travers la technologie, et non dans l'inégalité d'accès comme dans l'exemple précédent.
Je soutiens personnellement la technologie. Si c'est un choix binaire entre « faire avancer les choses » ou « maintenir le statu quo », même s'il y a des risques, je serais heureux de faire avancer tout sauf un très petit nombre de projets (comme la recherche sur les fonctions, les armes et l'IA superintelligente).
C'est parce qu'en général, les avantages sont une vie plus longue et plus saine, une société plus prospère, le maintien d'une plus grande pertinence humaine à l'ère des progrès rapides de l'IA, et le maintien de la continuité culturelle à travers la génération âgée en tant que personnes vivantes plutôt que comme des souvenirs dans des livres d'histoire.
Mais que se passerait-il si je me mettais à la place de ceux qui ne sont pas très optimistes quant aux effets positifs, ou qui craignent davantage que les puissants utilisent les nouvelles technologies pour dominer l'économie et exercer un contrôle, ou qui ressentent les deux ? Par exemple, j'ai ce sentiment à propos des produits de maison intelligente, les avantages de pouvoir dialoguer avec des ampoules sont compensés par mes inquiétudes à ne pas vouloir que ma vie personnelle soit dirigée vers Google ou Apple.
Si j'avais une hypothèse plus pessimiste, je pourrais également imaginer ressentir quelque chose de similaire à l'égard de certaines technologies médiatiques : si elles permettent aux puissants de diffuser des informations plus efficacement que les autres, alors elles peuvent être utilisées pour exercer un contrôle et submerger les autres. Pour de nombreuses technologies de ce type, les bénéfices que nous tirons d'une meilleure information ou d'un meilleur divertissement ne compensent pas suffisamment la manière dont elles redistribuent le pouvoir.
L'open source comme troisième voie
Je pense qu'un point de vue gravement sous-estimé dans ces cas est : la technologie développée uniquement de manière open source.
L'argument selon lequel l'open source accélère le progrès est très crédible : il permet aux gens de construire plus facilement sur les innovations des autres. En même temps, l'argument selon lequel l'exigence de l'open source ralentit le progrès est également très crédible : cela empêche les gens d'utiliser un grand nombre de stratégies potentiellement rentables.
Mais la conséquence la plus intéressante de l'open source est celle qui n'est pas liée à la rapidité des progrès :
L'open source améliore l'égalité d'accès. Si quelque chose est open source, il est naturellement accessible à toute personne dans n'importe quel pays. Pour les biens et services physiques, les gens doivent encore payer le coût marginal, mais dans de nombreux cas, les prix des produits propriétaires sont élevés parce que les coûts fixes de l'invention de ce produit sont trop élevés pour attirer plus de concurrence, donc le coût marginal est souvent très bas, comme c'est le cas dans l'industrie pharmaceutique.
L'amélioration open source vise à égaliser l'accès pour les producteurs. Une critique est que fournir des produits finaux gratuitement aux gens ne les aide pas à acquérir des compétences et de l'expérience, les empêchant ainsi de gravir les échelons de l'économie mondiale vers la prospérité, qui est la véritable garantie d'une vie de haute qualité durable. Ce n'est pas le cas de l'open source, qui vise essentiellement à permettre aux gens du monde entier de devenir des producteurs à toutes les étapes de la chaîne d'approvisionnement, et non seulement des consommateurs.
Amélioration de la vérifiabilité par le biais de l'open source. Si quelque chose est open source, dans l'idéal, cela inclut non seulement les résultats, mais aussi le processus d'invention, les choix de paramètres, etc., il est donc plus facile de vérifier que vous obtenez ce que le fournisseur prétend, et de permettre à des tiers d'étudier et d'identifier les défauts cachés.
Opportunité d'éliminer le verrouillage des fournisseurs en open source. Si quelque chose est open source, le fabricant ne peut pas le rendre inutile par une fonction de suppression à distance ou simplement par faillite, comme une voiture hautement informatisée / connectée qui ne peut pas fonctionner après la fermeture du fabricant. Vous avez toujours le droit de le réparer vous-même ou de demander à d'autres fournisseurs.
Nous pouvons analyser cela à partir de certaines perspectives de technologies plus radicales énumérées au début de l'article :
Si nous avons une technologie de prolongement de la vie propriétaire, elle pourrait alors être réservée aux milliardaires et aux dirigeants politiques. Bien que je prévoie personnellement que le prix de cette technologie va rapidement diminuer. Mais si elle est open source, alors n'importe qui peut l'utiliser et la fournir à d'autres à bas prix.
Si nous avions une technologie d'amélioration génétique humaine dédiée, elle pourrait être limitée aux milliardaires et aux dirigeants politiques, créant une classe supérieure. De même, je pense personnellement que cette technologie se répandra, mais il y aura certainement un écart entre ce que les riches et les gens ordinaires obtiennent. Cependant, si elle est open source, l'écart entre le contenu obtenu par les bien connectés et les puissants et celui obtenu par les autres sera beaucoup plus petit.
Pour toute technologie biologique, un écosystème de test de sécurité scientifique open source peut être plus efficace et honnête que les entreprises qui soutiennent leurs propres produits et sont estampillées par des régulateurs complaisants.
Si seules quelques personnes peuvent aller dans l'espace, en fonction des orientations politiques, certains d'entre eux pourraient avoir l'opportunité de monopoliser toute une planète ou la lune. Si la technologie est plus largement répartie, leurs chances de le faire seront moindre.
Si les voitures intelligentes sont open source, alors vous pouvez vérifier que le fabricant ne vous surveille pas et que vous ne dépendez pas du fabricant pour continuer à utiliser la voiture.
Nous pouvons résumer les arguments dans un tableau :
Notez que la bulle "construire cela uniquement dans le cas de l'open source" est plus large, reflétant une plus grande incertitude quant aux progrès que l'open source apportera et à la quantité de risques de concentration de pouvoir qu'il empêchera. Cependant, dans de nombreux cas, en moyenne, cela reste une bonne affaire.
Risques d'open source et d'abus
Un des principaux arguments contre les technologies puissantes et open source est parfois avancé, à savoir le risque de comportements à somme nulle et de formes d'abus non hiérarchiques. Donner des armes nucléaires à tout le monde mettrait certainement fin à l'inégalité nucléaire. C'est un problème réel, nous voyons plusieurs pays puissants utiliser l'asymétrie d'accès nucléaire pour intimider les autres, mais cela conduirait presque certainement à des milliards de morts.
Comme exemple de conséquences sociales négatives sans intention de nuire, donner à tout le monde l'opportunité de subir une chirurgie esthétique peut conduire à un jeu à somme nulle, où chacun dépense d'énormes ressources et prend même des risques pour la santé afin d'être plus beau que les autres, mais finalement, nous nous habituons tous à des niveaux de beauté plus élevés, et la société ne s'améliore pas vraiment. Certaines formes de biotechnologie pourraient avoir de tels effets à grande échelle. De nombreuses technologies, y compris de nombreuses biotechnologies, se situent entre ces deux extrêmes.
« Je ne soutiens que si cela est soigneusement contrôlé par des gardiens de confiance ». C'est un argument valide, soutenant une direction opposée. Les gardiens peuvent permettre des cas d'utilisation positifs de la technologie tout en excluant les cas d'utilisation négatifs. Les gardiens peuvent même se voir confier une mission publique, garantissant un accès non discriminatoire à tous ceux qui ne violent pas certaines règles.
Cependant, j'ai de forts doutes par défaut sur cette méthode. La principale raison est que je doute de l'existence réelle de gardiens de confiance dans le monde moderne. De nombreux cas d'utilisation les plus à somme nulle et les plus risqués sont des cas militaires, et les armées ont historiquement mal réussi à se contraindre.
Un bon exemple est le programme d'armes biologiques de l'Union soviétique :
Hoffman souligne que l'action de Gorbatchev concernant le SDI et la retenue sur les armes nucléaires est déroutante, étant donné qu'elle est liée au programme soviétique d'armes biologiques illégales. Lorsque Gorbatchev est arrivé au pouvoir en 1985, bien que l'Union soviétique ait été signataire de la Convention sur les armes biologiques, elle avait déjà un vaste programme d'armes biologiques lancé par Brejnev. En plus de l'anthrax, l'Union soviétique menait également des recherches sur la variole, la peste et la myxomatose, mais les intentions et les objectifs de ces armes demeurent flous.
« Les documents de Kateyev montrent qu'il y a eu plusieurs résolutions du comité central concernant le programme de guerre biologique à la fin des années 80. Il est difficile de croire que tout cela a été signé et publié sans que Gorbatchev en soit informé, » a déclaré Hoffman.
« Il y a même un mémo sur le programme d'armes biologiques adressé à Gorbatchev en mai 1990 - ce mémo ne raconte toujours pas toute l'histoire. L'Union soviétique a trompé le monde, et aussi ses propres dirigeants. »
Le programme russe d'armes biologiques : a-t-il disparu ou s'est-il évaporé ? Il a été soutenu qu'après l'effondrement de l'Union soviétique, ce programme d'armes biologiques aurait pu être fourni à d'autres pays.
D'autres pays ont également des erreurs majeures qu'ils doivent expliquer eux-mêmes. Je n'ai pas besoin de mentionner tous les pays participants à la recherche sur les fonctionnalités et la divulgation des risques implicites. Dans le domaine des logiciels numériques, comme la finance, l'histoire de l'interdépendance militarisée montre que ce qui est censé prévenir les abus glisse facilement vers une projection de pouvoir unilatérale par les opérateurs.
C'est une autre faiblesse des gardiens : par défaut, ils seront contrôlés par les gouvernements nationaux, dont les systèmes politiques peuvent avoir la motivation d'assurer l'égalité d'accès à l'intérieur du pays, mais aucune entité forte n'a pour mission de garantir l'égalité d'accès entre les pays.
Pour clarifier, je ne dis pas que les gardiens sont mauvais non plus, donc laissons-nous faire, du moins en ce qui concerne la recherche sur l'acquisition de fonctionnalités, ce n'est pas le cas. Au contraire, je dis deux choses :
Si quelque chose présente suffisamment de risques de "pair à pair" pour que vous ne vous sentiez à l'aise qu'avec un gardien centralisé en mode verrouillé, envisager la solution appropriée pourrait être de ne rien faire et d'investir dans des technologies alternatives présentant un meilleur risque.
Si quelque chose présente un risque de « dynamique de pouvoir » suffisamment important pour que vous ne vous sentiez pas à l'aise de le voir se dérouler, envisager la bonne solution consiste à le faire, et à le faire de manière open source afin que chacun ait une chance équitable de comprendre et de participer.
Il est également important de noter que l'open source ne signifie pas un laissez-faire total. Par exemple, je soutiens l'ingénierie terrestre par des moyens open source et de sciences ouvertes. Mais cela est différent de "n'importe qui peut détourner une rivière et déverser dans l'atmosphère ce qu'il veut". En pratique, cela ne conduirait pas à cela : il existe des lois et une diplomatie internationale, ce qui rend de telles actions faciles à détecter et rend tout accord assez exécutable.
La valeur ouverte garantit la démocratisation de la technologie, accessible à de nombreux pays et non à un seul ; et augmente l'accessibilité de l'information, afin que les gens puissent former plus efficacement leur propre jugement sur l'efficacité et la sécurité de ce qui est fait.
Fondamentalement, je considère l'open source comme une manière d'atteindre le point de Nash le plus fort de la technologie avec moins de richesse, de concentration du pouvoir et de risques d'asymétrie de l'information. Peut-être que nous pouvons essayer de construire des institutions plus ingénieuses pour séparer les effets positifs et négatifs de la technologie, mais dans le monde chaotique de la réalité, la méthode la plus susceptible de persister est la garantie du droit à l'information du public, c'est-à-dire que les choses se passent de manière transparente, et que quiconque peut comprendre ce qui se passe et y participer.
Dans de nombreux cas, la grande valeur de l'accélération du développement technologique dépasse de loin ces préoccupations. Dans quelques cas, il est crucial de ralentir le développement technologique autant que possible, jusqu'à ce que des contre-mesures ou des alternatives pour atteindre les mêmes objectifs soient disponibles.
Cependant, dans le cadre des développements technologiques existants, choisir l'open source comme moyen d'avancement technologique entraîne des améliorations incrémentales qui constituent une troisième option : moins d'attention portée au rythme des progrès, mais davantage à leur style, en utilisant l'attente de l'open source comme un levier plus acceptable pour faire avancer les choses dans une meilleure direction, ce qui est une approche sous-estimée.