O ChainCatcher organizou e compilou o conteúdo (com cortes).
Ponto chave:
Tecnologia radical pode ser mais facilmente acessível aos ricos e poderosos, agravando a desigualdade social, levando a diferenças na expectativa de vida e nas vantagens entre ricos e pobres, e até formando uma classe inferior global.
O abuso tecnológico existe em outra forma, onde os fabricantes projetam poder sobre os usuários através da coleta de dados, ocultação de informações, etc., o que é diferente da natureza desigual do acesso à tecnologia.
O código aberto é o terceiro caminho subestimado, que pode melhorar a igualdade de acesso à tecnologia e a igualdade entre produtores, aumentar a verificabilidade e eliminar o bloqueio de fornecedores.
As opiniões contra o código aberto argumentam que existem riscos de abuso, mas o controle centralizado por guardiões não é confiável, pode ser abusado para fins militares e é difícil garantir a igualdade entre países.
Se houver um alto risco de abuso técnico, a melhor solução pode ser não agir; se a dinâmica de poder causar desconforto, pode-se adotar uma abordagem de código aberto para torná-la mais justa.
O código aberto não significa liberdade total, mas deve estar em conformidade com leis e outras normas, sendo essencial garantir a democratização da tecnologia e a acessibilidade da informação.
Uma preocupação que ouvimos frequentemente é que certas tecnologias radicais podem agravar a desigualdade de poder, uma vez que essas tecnologias estão inevitavelmente restritas ao uso dos ricos e da elite.
Aqui está uma citação de alguém que expressa preocupação com as consequências da extensão da vida:
"Algumas pessoas serão deixadas para trás? Vamos tornar a sociedade ainda mais desigual do que é agora?" Ele perguntou. Tuljapurkar prevê que o aumento da longevidade será limitado a países ricos, cujos cidadãos podem arcar com as tecnologias de anti-envelhecimento, e onde os governos podem financiar pesquisas científicas. Essa disparidade complica ainda mais o atual debate sobre a acessibilidade aos cuidados de saúde, uma vez que ricos e pobres não apenas se distanciam em termos de qualidade de vida, mas também se afastam cada vez mais em relação à duração da vida.
"As grandes empresas farmacêuticas têm um histórico consistente de serem muito rigorosas ao fornecer produtos a pessoas que não podem pagar", disse Tuljapurkar.
Se a tecnologia de anti-envelhecimento for distribuída em um mercado livre não regulamentado, "na minha opinião, é totalmente possível que acabemos formando uma classe baixa global permanente, com aqueles países sendo trancados nas condições atuais de mortalidade", disse Tuljapurkar. "Se isso acontecer, formará um feedback negativo, criando um ciclo vicioso. Aqueles países que forem excluídos permanecerão excluídos para sempre."
Segue uma declaração igualmente forte de um artigo que expressa preocupações sobre as consequências do aprimoramento genético humano:
No início deste mês, cientistas anunciaram que editaram genes em embriões humanos, removendo uma mutação patogênica. Este trabalho é impressionante e é a resposta que muitos pais têm rezado. Quem não gostaria de ter a oportunidade de prevenir seus filhos de sofrerem com dores que hoje poderiam ser evitadas?
Mas isso não será o fim. Muitos pais esperam garantir que seus filhos tenham as melhores vantagens através da modificação genética. Aqueles que têm capacidade podem acessar essas tecnologias. Com a chegada da capacidade, as questões éticas vão além da segurança final dessas tecnologias. Os altos custos dos programas criarão escassez e agravarão a desigualdade de renda que já está em crescimento.
Outras opiniões semelhantes em áreas técnicas:
Tecnologia Digital Total:
Viagem espacial:
Engenharia Sol-Terra:
Em muitas críticas a novas tecnologias, pode-se encontrar este tema. Um tema relacionado, mas essencialmente diferente, é que produtos tecnológicos são usados como ferramentas de coleta de dados, bloqueio de fornecedores, ocultação intencional de efeitos colaterais (como as vacinas modernas já foram criticadas dessa forma) e outras formas de abuso.
As tecnologias emergentes muitas vezes criam mais oportunidades, permitindo que as pessoas obtenham algo sem conceder-lhes direitos ou informações completas sobre isso. Portanto, sob essa perspectiva, as tecnologias antigas parecem mais seguras. Esta também é uma forma de a tecnologia reforçar as classes privilegiadas às custas dos outros. Mas o problema é que os fabricantes projetam poder sobre os usuários por meio da tecnologia, e não a desigualdade de acesso mencionada no exemplo anterior.
Eu apoio pessoalmente a tecnologia. Se a escolha for entre "avançar ainda mais" ou "manter o status quo", apesar dos riscos, eu ficaria feliz em promover tudo, exceto por um punhado de projetos (como pesquisa em funções, armamentos e inteligência artificial superinteligente).
Isto deve-se ao fato de que, em termos gerais, os benefícios são uma vida mais longa e saudável, uma sociedade mais próspera, a preservação de mais relevância humana na era do rápido avanço da IA, e a manutenção da continuidade cultural através da geração mais velha como pessoas vivas em vez de memórias em livros de história.
Mas e se eu me colocar no lugar daqueles que são menos otimistas sobre os impactos positivos, ou que estão mais preocupados com o uso que os poderosos podem fazer das novas tecnologias para dominar a economia e exercer controle, ou que sentem uma combinação de ambos? Por exemplo, eu já sinto isso em relação aos produtos de casa inteligente; os benefícios de poder dialogar com lâmpadas são compensados pela minha preocupação em não querer direcionar minha vida pessoal para o Google ou a Apple.
Se eu tivesse uma suposição mais pessimista, também conseguiria imaginar que teria sentimentos semelhantes em relação a certas tecnologias de mídia: se elas permitem que os poderosos transmitam informações de maneira mais eficaz do que os outros, então podem ser usadas para exercer controle e sufocar os outros; para muitas dessas tecnologias, os benefícios que obtemos de melhor informação ou melhor entretenimento não compensam a maneira como redistribuem o poder.
Open source como um terceiro caminho
Acredito que uma das opiniões que é gravemente subestimada nessas situações é: a tecnologia desenvolvida apenas com suporte de código aberto.
O argumento de que o código aberto acelera o progresso é muito convincente: ele torna mais fácil para as pessoas construírem sobre a inovação umas das outras. Ao mesmo tempo, o argumento de que a exigência de código aberto desacelera o progresso também é muito convincente: impede que as pessoas utilizem uma vasta gama de estratégias potencialmente lucrativas.
Mas a consequência mais interessante do código aberto são aquelas direções que não estão relacionadas com a velocidade do progresso:
A melhoria do acesso equitativo através do código aberto. Se algo é de código aberto, está naturalmente disponível para qualquer pessoa em qualquer país. Para bens e serviços físicos, as pessoas ainda precisam pagar o custo marginal, mas em muitos casos, o preço elevado dos produtos proprietários é devido aos altos custos fixos de invenção, que não conseguem atrair mais concorrência, tornando assim o custo marginal frequentemente bastante baixo, como é o caso da indústria farmacêutica.
A melhoria de código aberto se torna um acesso igualitário para os produtores. Uma crítica é que fornecer produtos finais gratuitamente às pessoas não ajuda essas pessoas a adquirirem habilidades e experiências, levando-as a ascender na economia global em direção à prosperidade, que é a verdadeira garantia de uma vida de alta qualidade a longo prazo. O código aberto não é assim; ele é essencialmente projetado para permitir que pessoas de qualquer lugar do mundo se tornem produtores em todas as etapas da cadeia de suprimentos, e não apenas consumidores.
A melhoria da verificabilidade de código aberto. Se algo é de código aberto, idealmente, deve incluir não apenas a saída, mas também o processo de invenção, a escolha de parâmetros, etc., tornando mais fácil verificar se você obteve o que o fornecedor afirma e permitindo que terceiros pesquisem para identificar falhas ocultas.
Elimine as oportunidades de bloqueio de fornecedores de código aberto. Se algo é de código aberto, o fabricante não pode torná-lo inútil por meio de funcionalidades de remoção remota ou simplesmente por falência, como acontece com carros altamente informatizados / conectados que não funcionam após o fechamento do fabricante. Você sempre tem o direito de consertá-lo você mesmo ou solicitar a outros fornecedores.
Podemos analisar isso a partir de algumas perspectivas de tecnologias mais radicais mencionadas no início do artigo:
Se tivermos tecnologia de extensão de vida exclusiva, então ela pode estar limitada a bilionários e líderes políticos. Embora eu pessoalmente espere que o preço dessa tecnologia caia rapidamente. Mas se for de código aberto, então qualquer um pode usá-la e oferecê-la a outros a baixo custo.
Se tivermos tecnologia de aprimoramento genético humano dedicada, ela pode estar restrita apenas a bilionários e líderes políticos, criando uma classe alta. Da mesma forma, eu pessoalmente acredito que tal tecnologia se espalhará, mas certamente haverá uma diferença entre o que os ricos e as pessoas comuns conseguem. No entanto, se for de código aberto, a diferença entre o que os bem conectados e poderosos obtêm e o que os outros conseguem será muito menor.
Para qualquer biotecnologia em geral, um ecossistema de testes de segurança em ciência aberta pode ser mais eficaz e honesto do que as empresas endossando seus próprios produtos e sendo carimbadas por reguladores submissos.
Se apenas algumas pessoas puderem ir ao espaço, dependendo da orientação política, algumas delas podem ter a oportunidade de monopolizar todo um planeta ou a lua. Se a tecnologia estiver mais amplamente distribuída, as chances de fazer isso serão menores.
Se os carros inteligentes forem de código aberto, você pode verificar se o fabricante não está te monitorando e não depender do fabricante para continuar usando o carro.
Podemos resumir o argumento em um gráfico:
Note que a bolha "construí-la apenas em caso de código aberto" é mais ampla, refletindo uma maior incerteza sobre quanto progresso o código aberto trará e quanto risco de concentração de poder ele evitará. Mas, mesmo assim, em muitos casos, em média, ainda é um bom negócio.
Riscos de código aberto e abuso
Um dos principais argumentos contra a tecnologia poderosa de código aberto é, por vezes, levantado o risco de comportamentos de soma zero e formas de abuso não hierárquico. Dar armas nucleares a todos certamente acabará com a desigualdade nuclear. Esta é uma questão real, e vemos várias potências poderosas a utilizar o acesso nuclear assimétrico para intimidar os outros, mas isso também quase certamente resultará em bilhões de mortes.
Como exemplo de consequências sociais negativas sem intenção de causar dano, dar a todos a oportunidade de cirurgia plástica pode levar a um jogo de soma zero, onde cada um gasta enormes recursos e até coloca em risco a saúde para ser mais belo do que os outros, mas no final todos nós nos acostumamos a um nível mais elevado de beleza, e a sociedade não se torna realmente melhor. Algumas formas de biotecnologia podem gerar esse tipo de efeito em grande escala. Muitas tecnologias, incluindo muitas biotecnologias, estão entre esses dois extremos.
"Eu só apoio se for cuidadosamente controlado por guardiões confiáveis." Este é um argumento válido que apoia a direção oposta. Os guardiões podem permitir casos de uso positivos da tecnologia, enquanto excluem casos negativos. Os guardiões podem até ser encarregados de uma missão pública, garantindo acesso não discriminatório a todos que não violem certas regras.
No entanto, tenho uma forte suspeita de default sobre este método. A principal razão é que duvido que, no mundo moderno, existam realmente guardiões de confiança. Muitos dos casos de uso mais zero-sum e de maior risco são casos de uso militares, e os exércitos têm um histórico ruim em se restringir.
Um bom exemplo é o programa de armas biológicas da União Soviética:
Devido à contenção de Gorbachev em relação à SDI e às armas nucleares, suas ações relacionadas ao plano ilegal de armas biológicas da União Soviética são confusas, apontou Hoffman. Quando Gorbachev assumiu o poder em 1985, apesar de ser um signatário da Convenção sobre Armas Biológicas, a União Soviética já tinha um amplo programa de armas biológicas iniciado por Brezhnev. Além do antraz, a União Soviética também estava pesquisando varíola, peste e doença hemorrágica dos coelhos, mas as intenções e os objetivos dessas armas eram incertos.
"Os documentos de Kateyev mostram que, na segunda metade da década de 1980, houve várias resoluções do Comitê Central sobre o plano de guerra biológica. É difícil acreditar que todas essas foram assinadas e divulgadas sem o conhecimento de Gorbachev," disse Hoffman.
"Há até um memorando de maio de 1990 dirigido a Gorbachev sobre o plano de armas biológicas — este memorando ainda não conta toda a história. A União Soviética enganou o mundo, assim como enganou seus próprios líderes."
O Programa de Armas Biológicas da Rússia: Desapareceu ou Sumiu? Argumenta que, após a dissolução da União Soviética, este programa de armas biológicas pode ter sido fornecido a outros países.
Outros países também têm erros significativos que precisam ser explicados por eles mesmos. Não preciso mencionar todos os países envolvidos na pesquisa de funcionalidades e na divulgação de seus riscos implícitos. No campo do software digital, como nas finanças, a história da interdependência armada mostra que o que é destinado a prevenir abusos facilmente se transforma em uma projeção unilateral de poder por parte dos operadores.
Esta é outra fraqueza dos guardiões: por padrão, eles serão controlados pelos governos nacionais, cujos sistemas políticos podem ter a motivação de garantir igualdade de acesso interno, mas não há uma entidade forte com a missão de garantir igualdade de acesso entre nações.
Para esclarecer, não estou a dizer que os guardiões são maus, então vamos deixar tudo correr livremente, pelo menos em relação à pesquisa de ganhos funcionais não é. Pelo contrário, estou a dizer duas coisas:
Se algo tiver risco suficiente de "abuso de pessoa para pessoa" a ponto de você se sentir confortável apenas quando é gerenciado por um guardião centralizado sob um modo de bloqueio, considerar a solução correta pode ser simplesmente não fazê-lo e investir em tecnologias alternativas com melhor risco.
Se algo tem riscos de "dinâmica de poder" suficientes a ponto de você não se sentir confortável em vê-lo prosseguir, considerar a solução correta é fazê-lo, e fazê-lo de forma aberta, para que todos tenham uma oportunidade justa de entender e participar.
É importante notar que o código aberto não significa liberdade total. Por exemplo, eu sou a favor da engenharia da Terra de uma forma de código aberto e ciência aberta. Mas isso é diferente de "qualquer um pode desviar rios e despejar o que quiser na atmosfera"; na prática, isso também não levaria a tal situação: existem leis e diplomacia internacional, e tais ações são facilmente detectáveis, tornando qualquer acordo bastante executável.
O valor aberto é garantir a democratização da tecnologia, disponível para muitos países em vez de apenas um; e aumentar a acessibilidade da informação, para que as pessoas possam formar de forma mais eficaz seu próprio julgamento sobre se o que está a ser feito é eficaz e seguro.
Fundamentalmente, vejo o código aberto como uma forma de alcançar o ponto de Schelling mais forte da tecnologia com menos riqueza, concentração de poder e risco de assimetria de informação. Talvez possamos tentar construir instituições mais engenhosas para separar os efeitos positivos e negativos da tecnologia, mas no caos do mundo real, a abordagem mais provável de persistir é a garantia do direito à informação do público, ou seja, que as coisas aconteçam de forma transparente, e qualquer pessoa possa entender o que está acontecendo e participar.
Em muitos casos, o enorme valor do avanço tecnológico supera amplamente essas preocupações. Em poucos casos, é crucial desacelerar o desenvolvimento tecnológico tanto quanto possível, até que contramedidas ou alternativas para alcançar os mesmos objetivos estejam disponíveis.
No entanto, dentro do quadro atual de desenvolvimento tecnológico, escolher o open source como uma forma de progresso tecnológico traz melhorias incrementais que são uma terceira opção: menos foco na taxa de progresso e mais na forma de progresso, utilizando a expectativa do open source como uma alavanca mais aceitável para impulsionar as coisas na direção certa, o que é uma abordagem subestimada.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Vitalik publicou recentemente: Código aberto como um terceiro caminho para mitigar a centralização tecnológica está sendo subestimado.
Escrito por: Vitalik Buterin
Organização & Compilação: Janna, ChainCatcher
O ChainCatcher organizou e compilou o conteúdo (com cortes).
Ponto chave:
Tecnologia radical pode ser mais facilmente acessível aos ricos e poderosos, agravando a desigualdade social, levando a diferenças na expectativa de vida e nas vantagens entre ricos e pobres, e até formando uma classe inferior global.
O abuso tecnológico existe em outra forma, onde os fabricantes projetam poder sobre os usuários através da coleta de dados, ocultação de informações, etc., o que é diferente da natureza desigual do acesso à tecnologia.
O código aberto é o terceiro caminho subestimado, que pode melhorar a igualdade de acesso à tecnologia e a igualdade entre produtores, aumentar a verificabilidade e eliminar o bloqueio de fornecedores.
As opiniões contra o código aberto argumentam que existem riscos de abuso, mas o controle centralizado por guardiões não é confiável, pode ser abusado para fins militares e é difícil garantir a igualdade entre países.
Se houver um alto risco de abuso técnico, a melhor solução pode ser não agir; se a dinâmica de poder causar desconforto, pode-se adotar uma abordagem de código aberto para torná-la mais justa.
O código aberto não significa liberdade total, mas deve estar em conformidade com leis e outras normas, sendo essencial garantir a democratização da tecnologia e a acessibilidade da informação.
Uma preocupação que ouvimos frequentemente é que certas tecnologias radicais podem agravar a desigualdade de poder, uma vez que essas tecnologias estão inevitavelmente restritas ao uso dos ricos e da elite.
Aqui está uma citação de alguém que expressa preocupação com as consequências da extensão da vida:
"Algumas pessoas serão deixadas para trás? Vamos tornar a sociedade ainda mais desigual do que é agora?" Ele perguntou. Tuljapurkar prevê que o aumento da longevidade será limitado a países ricos, cujos cidadãos podem arcar com as tecnologias de anti-envelhecimento, e onde os governos podem financiar pesquisas científicas. Essa disparidade complica ainda mais o atual debate sobre a acessibilidade aos cuidados de saúde, uma vez que ricos e pobres não apenas se distanciam em termos de qualidade de vida, mas também se afastam cada vez mais em relação à duração da vida.
"As grandes empresas farmacêuticas têm um histórico consistente de serem muito rigorosas ao fornecer produtos a pessoas que não podem pagar", disse Tuljapurkar.
Se a tecnologia de anti-envelhecimento for distribuída em um mercado livre não regulamentado, "na minha opinião, é totalmente possível que acabemos formando uma classe baixa global permanente, com aqueles países sendo trancados nas condições atuais de mortalidade", disse Tuljapurkar. "Se isso acontecer, formará um feedback negativo, criando um ciclo vicioso. Aqueles países que forem excluídos permanecerão excluídos para sempre."
Segue uma declaração igualmente forte de um artigo que expressa preocupações sobre as consequências do aprimoramento genético humano:
No início deste mês, cientistas anunciaram que editaram genes em embriões humanos, removendo uma mutação patogênica. Este trabalho é impressionante e é a resposta que muitos pais têm rezado. Quem não gostaria de ter a oportunidade de prevenir seus filhos de sofrerem com dores que hoje poderiam ser evitadas?
Mas isso não será o fim. Muitos pais esperam garantir que seus filhos tenham as melhores vantagens através da modificação genética. Aqueles que têm capacidade podem acessar essas tecnologias. Com a chegada da capacidade, as questões éticas vão além da segurança final dessas tecnologias. Os altos custos dos programas criarão escassez e agravarão a desigualdade de renda que já está em crescimento.
Outras opiniões semelhantes em áreas técnicas:
Tecnologia Digital Total:
Viagem espacial:
Engenharia Sol-Terra:
Em muitas críticas a novas tecnologias, pode-se encontrar este tema. Um tema relacionado, mas essencialmente diferente, é que produtos tecnológicos são usados como ferramentas de coleta de dados, bloqueio de fornecedores, ocultação intencional de efeitos colaterais (como as vacinas modernas já foram criticadas dessa forma) e outras formas de abuso.
As tecnologias emergentes muitas vezes criam mais oportunidades, permitindo que as pessoas obtenham algo sem conceder-lhes direitos ou informações completas sobre isso. Portanto, sob essa perspectiva, as tecnologias antigas parecem mais seguras. Esta também é uma forma de a tecnologia reforçar as classes privilegiadas às custas dos outros. Mas o problema é que os fabricantes projetam poder sobre os usuários por meio da tecnologia, e não a desigualdade de acesso mencionada no exemplo anterior.
Eu apoio pessoalmente a tecnologia. Se a escolha for entre "avançar ainda mais" ou "manter o status quo", apesar dos riscos, eu ficaria feliz em promover tudo, exceto por um punhado de projetos (como pesquisa em funções, armamentos e inteligência artificial superinteligente).
Isto deve-se ao fato de que, em termos gerais, os benefícios são uma vida mais longa e saudável, uma sociedade mais próspera, a preservação de mais relevância humana na era do rápido avanço da IA, e a manutenção da continuidade cultural através da geração mais velha como pessoas vivas em vez de memórias em livros de história.
Mas e se eu me colocar no lugar daqueles que são menos otimistas sobre os impactos positivos, ou que estão mais preocupados com o uso que os poderosos podem fazer das novas tecnologias para dominar a economia e exercer controle, ou que sentem uma combinação de ambos? Por exemplo, eu já sinto isso em relação aos produtos de casa inteligente; os benefícios de poder dialogar com lâmpadas são compensados pela minha preocupação em não querer direcionar minha vida pessoal para o Google ou a Apple.
Se eu tivesse uma suposição mais pessimista, também conseguiria imaginar que teria sentimentos semelhantes em relação a certas tecnologias de mídia: se elas permitem que os poderosos transmitam informações de maneira mais eficaz do que os outros, então podem ser usadas para exercer controle e sufocar os outros; para muitas dessas tecnologias, os benefícios que obtemos de melhor informação ou melhor entretenimento não compensam a maneira como redistribuem o poder.
Open source como um terceiro caminho
Acredito que uma das opiniões que é gravemente subestimada nessas situações é: a tecnologia desenvolvida apenas com suporte de código aberto.
O argumento de que o código aberto acelera o progresso é muito convincente: ele torna mais fácil para as pessoas construírem sobre a inovação umas das outras. Ao mesmo tempo, o argumento de que a exigência de código aberto desacelera o progresso também é muito convincente: impede que as pessoas utilizem uma vasta gama de estratégias potencialmente lucrativas.
Mas a consequência mais interessante do código aberto são aquelas direções que não estão relacionadas com a velocidade do progresso:
A melhoria do acesso equitativo através do código aberto. Se algo é de código aberto, está naturalmente disponível para qualquer pessoa em qualquer país. Para bens e serviços físicos, as pessoas ainda precisam pagar o custo marginal, mas em muitos casos, o preço elevado dos produtos proprietários é devido aos altos custos fixos de invenção, que não conseguem atrair mais concorrência, tornando assim o custo marginal frequentemente bastante baixo, como é o caso da indústria farmacêutica.
A melhoria de código aberto se torna um acesso igualitário para os produtores. Uma crítica é que fornecer produtos finais gratuitamente às pessoas não ajuda essas pessoas a adquirirem habilidades e experiências, levando-as a ascender na economia global em direção à prosperidade, que é a verdadeira garantia de uma vida de alta qualidade a longo prazo. O código aberto não é assim; ele é essencialmente projetado para permitir que pessoas de qualquer lugar do mundo se tornem produtores em todas as etapas da cadeia de suprimentos, e não apenas consumidores.
A melhoria da verificabilidade de código aberto. Se algo é de código aberto, idealmente, deve incluir não apenas a saída, mas também o processo de invenção, a escolha de parâmetros, etc., tornando mais fácil verificar se você obteve o que o fornecedor afirma e permitindo que terceiros pesquisem para identificar falhas ocultas.
Elimine as oportunidades de bloqueio de fornecedores de código aberto. Se algo é de código aberto, o fabricante não pode torná-lo inútil por meio de funcionalidades de remoção remota ou simplesmente por falência, como acontece com carros altamente informatizados / conectados que não funcionam após o fechamento do fabricante. Você sempre tem o direito de consertá-lo você mesmo ou solicitar a outros fornecedores.
Podemos analisar isso a partir de algumas perspectivas de tecnologias mais radicais mencionadas no início do artigo:
Se tivermos tecnologia de extensão de vida exclusiva, então ela pode estar limitada a bilionários e líderes políticos. Embora eu pessoalmente espere que o preço dessa tecnologia caia rapidamente. Mas se for de código aberto, então qualquer um pode usá-la e oferecê-la a outros a baixo custo.
Se tivermos tecnologia de aprimoramento genético humano dedicada, ela pode estar restrita apenas a bilionários e líderes políticos, criando uma classe alta. Da mesma forma, eu pessoalmente acredito que tal tecnologia se espalhará, mas certamente haverá uma diferença entre o que os ricos e as pessoas comuns conseguem. No entanto, se for de código aberto, a diferença entre o que os bem conectados e poderosos obtêm e o que os outros conseguem será muito menor.
Para qualquer biotecnologia em geral, um ecossistema de testes de segurança em ciência aberta pode ser mais eficaz e honesto do que as empresas endossando seus próprios produtos e sendo carimbadas por reguladores submissos.
Se apenas algumas pessoas puderem ir ao espaço, dependendo da orientação política, algumas delas podem ter a oportunidade de monopolizar todo um planeta ou a lua. Se a tecnologia estiver mais amplamente distribuída, as chances de fazer isso serão menores.
Se os carros inteligentes forem de código aberto, você pode verificar se o fabricante não está te monitorando e não depender do fabricante para continuar usando o carro.
Podemos resumir o argumento em um gráfico:
Note que a bolha "construí-la apenas em caso de código aberto" é mais ampla, refletindo uma maior incerteza sobre quanto progresso o código aberto trará e quanto risco de concentração de poder ele evitará. Mas, mesmo assim, em muitos casos, em média, ainda é um bom negócio.
Riscos de código aberto e abuso
Um dos principais argumentos contra a tecnologia poderosa de código aberto é, por vezes, levantado o risco de comportamentos de soma zero e formas de abuso não hierárquico. Dar armas nucleares a todos certamente acabará com a desigualdade nuclear. Esta é uma questão real, e vemos várias potências poderosas a utilizar o acesso nuclear assimétrico para intimidar os outros, mas isso também quase certamente resultará em bilhões de mortes.
Como exemplo de consequências sociais negativas sem intenção de causar dano, dar a todos a oportunidade de cirurgia plástica pode levar a um jogo de soma zero, onde cada um gasta enormes recursos e até coloca em risco a saúde para ser mais belo do que os outros, mas no final todos nós nos acostumamos a um nível mais elevado de beleza, e a sociedade não se torna realmente melhor. Algumas formas de biotecnologia podem gerar esse tipo de efeito em grande escala. Muitas tecnologias, incluindo muitas biotecnologias, estão entre esses dois extremos.
"Eu só apoio se for cuidadosamente controlado por guardiões confiáveis." Este é um argumento válido que apoia a direção oposta. Os guardiões podem permitir casos de uso positivos da tecnologia, enquanto excluem casos negativos. Os guardiões podem até ser encarregados de uma missão pública, garantindo acesso não discriminatório a todos que não violem certas regras.
No entanto, tenho uma forte suspeita de default sobre este método. A principal razão é que duvido que, no mundo moderno, existam realmente guardiões de confiança. Muitos dos casos de uso mais zero-sum e de maior risco são casos de uso militares, e os exércitos têm um histórico ruim em se restringir.
Um bom exemplo é o programa de armas biológicas da União Soviética:
Devido à contenção de Gorbachev em relação à SDI e às armas nucleares, suas ações relacionadas ao plano ilegal de armas biológicas da União Soviética são confusas, apontou Hoffman. Quando Gorbachev assumiu o poder em 1985, apesar de ser um signatário da Convenção sobre Armas Biológicas, a União Soviética já tinha um amplo programa de armas biológicas iniciado por Brezhnev. Além do antraz, a União Soviética também estava pesquisando varíola, peste e doença hemorrágica dos coelhos, mas as intenções e os objetivos dessas armas eram incertos.
"Os documentos de Kateyev mostram que, na segunda metade da década de 1980, houve várias resoluções do Comitê Central sobre o plano de guerra biológica. É difícil acreditar que todas essas foram assinadas e divulgadas sem o conhecimento de Gorbachev," disse Hoffman.
"Há até um memorando de maio de 1990 dirigido a Gorbachev sobre o plano de armas biológicas — este memorando ainda não conta toda a história. A União Soviética enganou o mundo, assim como enganou seus próprios líderes."
O Programa de Armas Biológicas da Rússia: Desapareceu ou Sumiu? Argumenta que, após a dissolução da União Soviética, este programa de armas biológicas pode ter sido fornecido a outros países.
Outros países também têm erros significativos que precisam ser explicados por eles mesmos. Não preciso mencionar todos os países envolvidos na pesquisa de funcionalidades e na divulgação de seus riscos implícitos. No campo do software digital, como nas finanças, a história da interdependência armada mostra que o que é destinado a prevenir abusos facilmente se transforma em uma projeção unilateral de poder por parte dos operadores.
Esta é outra fraqueza dos guardiões: por padrão, eles serão controlados pelos governos nacionais, cujos sistemas políticos podem ter a motivação de garantir igualdade de acesso interno, mas não há uma entidade forte com a missão de garantir igualdade de acesso entre nações.
Para esclarecer, não estou a dizer que os guardiões são maus, então vamos deixar tudo correr livremente, pelo menos em relação à pesquisa de ganhos funcionais não é. Pelo contrário, estou a dizer duas coisas:
Se algo tiver risco suficiente de "abuso de pessoa para pessoa" a ponto de você se sentir confortável apenas quando é gerenciado por um guardião centralizado sob um modo de bloqueio, considerar a solução correta pode ser simplesmente não fazê-lo e investir em tecnologias alternativas com melhor risco.
Se algo tem riscos de "dinâmica de poder" suficientes a ponto de você não se sentir confortável em vê-lo prosseguir, considerar a solução correta é fazê-lo, e fazê-lo de forma aberta, para que todos tenham uma oportunidade justa de entender e participar.
É importante notar que o código aberto não significa liberdade total. Por exemplo, eu sou a favor da engenharia da Terra de uma forma de código aberto e ciência aberta. Mas isso é diferente de "qualquer um pode desviar rios e despejar o que quiser na atmosfera"; na prática, isso também não levaria a tal situação: existem leis e diplomacia internacional, e tais ações são facilmente detectáveis, tornando qualquer acordo bastante executável.
O valor aberto é garantir a democratização da tecnologia, disponível para muitos países em vez de apenas um; e aumentar a acessibilidade da informação, para que as pessoas possam formar de forma mais eficaz seu próprio julgamento sobre se o que está a ser feito é eficaz e seguro.
Fundamentalmente, vejo o código aberto como uma forma de alcançar o ponto de Schelling mais forte da tecnologia com menos riqueza, concentração de poder e risco de assimetria de informação. Talvez possamos tentar construir instituições mais engenhosas para separar os efeitos positivos e negativos da tecnologia, mas no caos do mundo real, a abordagem mais provável de persistir é a garantia do direito à informação do público, ou seja, que as coisas aconteçam de forma transparente, e qualquer pessoa possa entender o que está acontecendo e participar.
Em muitos casos, o enorme valor do avanço tecnológico supera amplamente essas preocupações. Em poucos casos, é crucial desacelerar o desenvolvimento tecnológico tanto quanto possível, até que contramedidas ou alternativas para alcançar os mesmos objetivos estejam disponíveis.
No entanto, dentro do quadro atual de desenvolvimento tecnológico, escolher o open source como uma forma de progresso tecnológico traz melhorias incrementais que são uma terceira opção: menos foco na taxa de progresso e mais na forma de progresso, utilizando a expectativa do open source como uma alavanca mais aceitável para impulsionar as coisas na direção certa, o que é uma abordagem subestimada.