Principais Lições
Leia a voz inquietante da IA como um espelho humano, não como uma mente de máquina.
A voz é emprestada. Em 2023, o jornalista Kevin Roose passou duas horas com o novo chatbot do Bing, enquanto ele deixava de responder a perguntas e passava a fazer declarações inquietantes de desejo e apego. O episódio pareceu pessoal, mas o sistema não era consciente. Um grande modelo de linguagem gera texto aprendendo padrões em enormes coleções de textos escritos por pessoas e prevendo quais palavras provavelmente virão a seguir. Seu desempenho pode imitar emoções sem vivenciá-las.
Nossas falhas também se refletem. A IA reflete o material e as prioridades que a moldam. Isso pode levar a avanços úteis, mas também reproduzir vieses ou viabilizar a vigilância. A questão não é que cada resultado revele uma verdade oculta sobre a humanidade. É que as escolhas humanas determinam quais dados, objetivos e salvaguardas entram no sistema.
A metáfora do espelho é útil porque desvia a atenção das motivações imaginadas da máquina para as pessoas e instituições que constroem, implantam e se beneficiam de um sistema. Ela também alerta contra o antropomorfismo, que pode fazer o software parecer um agente independente e obscurecer a responsabilidade humana. Ainda assim, um espelho não é passivo: as escolhas de treinamento e o design do produto selecionam, amplificam e enquadram o que é refletido. O mesmo modelo pode se comportar de maneiras diferentes em contextos distintos. Perguntar quem moldou suas entradas e onde seus resultados têm consequências revela mais do que perguntar se a máquina tem personalidade.
Trate a IA como infraestrutura política, não como software neutro.
O design escolhe quem ganha. Harding começa por San Francisco, onde a riqueza gerada pela tecnologia convive com a pobreza visível e com trabalhadores que exigem ter voz sobre como a automação afeta seus empregos. Na Amazon, um software monitora a velocidade e as pausas dos trabalhadores de depósitos. A empresa propôs algoritmos para alternar os trabalhadores entre tarefas e reduzir lesões por esforço repetitivo — uma tentativa de adaptar as pessoas ao trabalho, em vez de reformular o trabalho em função das pessoas.
As alegações precisam ser examinadas. O livro usa o termo óleo de cobra da IA (AI Snake Oil) para se referir a alegações de que a IA consegue fazer com confiabilidade coisas que não consegue, como prever o desempenho futuro de uma pessoa no trabalho com base nos dados disponíveis. Essas alegações se tornam especialmente perigosas quando afetam a liberdade, a renda ou o acesso a serviços. Um programa não é apenas uma ferramenta técnica: sua finalidade, seus dados e sua implantação refletem decisões sobre quais interesses importam.
Chamar a IA de infraestrutura facilita enxergar sua dimensão política. Um modelo de contratação ou um sistema de monitoramento do local de trabalho pode distribuir oportunidades e riscos de forma discreta, mesmo quando seus operadores o descrevem como uma atualização para aumentar a eficiência. Isso se conecta a uma questão fundamental da economia política: quem arca com os custos da produtividade e quem fica com os ganhos? Os exemplos do livro tornam concreta essa pergunta. Uma ressalva: um resultado ruim nem sempre prova que houve intenção maliciosa. Mas boas intenções tampouco resolvem a questão. Para haver responsabilização, é preciso examinar os efeitos, não apenas a narrativa que uma empresa constrói sobre seus objetivos.
Combine a competição tecnológica com a diplomacia antes que a rivalidade dite as regras.
É possível redirecionar uma corrida. O programa espacial surgiu dos foguetes desenvolvidos durante a guerra, da rivalidade da Guerra Fria e do desejo de demonstrar o poder americano. Ainda assim, os líderes também buscaram a diplomacia. O Tratado do Espaço Exterior das Nações Unidas, de 1967, estabeleceu o espaço como um domínio compartilhado e proibiu armas nucleares e outras armas de destruição em massa em órbita ou na Lua. O tratado não tornou o espaço inteiramente pacífico, mas estabeleceu limites importantes sem impedir a continuidade da exploração.
A IA também precisa de regras. Harding contrapõe essa história à competição atual entre governos e empresas pela liderança em IA, inclusive às preocupações com sistemas de armas autônomas letais (Lethal Autonomous Weapons Systems). A lição não é que as nações devam abandonar seus interesses de segurança. É que a ambição nacional pode coexistir com acordos internacionais que reduzam os perigos. Os líderes podem usar a força tecnológica para negociar limites, em vez de tratar a rivalidade como desculpa para evitá-los.
A analogia com o espaço é mais forte como lição sobre possibilidades políticas do que como afirmação de que a IA e os foguetes apresentam riscos idênticos. O tratado surgiu tanto de interesses estratégicos próprios quanto de ideais, o que ajuda a explicar por que a cooperação pode ser prática mesmo entre rivais. Seus limites importam: ele não proibiu toda atividade militar no espaço, e suas regras não podiam prever todas as tecnologias posteriores. Essa história sugere que os acordos precisam tanto de proibições claras quanto de instituições capazes de revisá-los. A diplomacia não substitui as salvaguardas técnicas, mas estas tampouco podem resolver as questões sobre quais usos são aceitáveis.
Estabeleça limites claros para que uma ciência controversa conquiste legitimidade pública.
Um limite tornou o progresso possível. Em 1978, Louise Brown se tornou o primeiro bebê nascido por fertilização in vitro. A técnica levantou questões difíceis sobre embriões, doação e pesquisa. Uma comissão britânica presidida pela filósofa Mary Warnock ouviu cientistas, grupos religiosos, especialistas em direito e integrantes do público. Seu relatório propôs supervisão por meio de licenças e a regra dos 14 dias, que proibia pesquisas com embriões depois de 14 dias da fertilização.
Regras simples podem estabilizar o debate. O limite era passível de contestação científica, mas fácil de entender e aplicar. Depois de anos de debate público e conflito político, suas recomendações influenciaram a Lei de Fertilização Humana e Embriologia de 1990 e a criação de um órgão regulador. O sistema resultante impôs restrições a algumas práticas, ao mesmo tempo que permitiu pesquisas dentro de limites definidos. Ele ajudou a tornar compatíveis a confiança pública e a atividade científica, em vez de tratá-las como objetivos opostos.
O caso mostra como uma regra compreensível pode fazer mais do que restringir: pode oferecer a pesquisadores, pacientes e ao público um ponto de referência comum. O valor da regra também foi prático, pois as pessoas podiam determinar se ela havia sido cumprida sem precisar resolver todas as divergências sobre quando a vida humana adquire status moral. Isso não significa que todo limite claro seja justo ou cientificamente ideal. Um limite viável ainda precisa ser examinado, revisto periodicamente e avaliado à luz de quem ficou de fora do processo. A conquista mais profunda foi o debate público em torno da regra, não o número 14 em si.
Não confunda uma rede aberta com uma rede equitativa.
A internet mudou de rumo. A ARPANET começou como uma rede de pesquisa financiada pelas Forças Armadas dos Estados Unidos e depois cresceu graças a padrões técnicos abertos e à colaboração entre pesquisadores universitários. O vice-presidente Al Gore apoiou uma rede pública de informações que pretendia conectar escolas, bibliotecas e pesquisadores. Mas a rede da Fundação Nacional de Ciência dos Estados Unidos foi privatizada e desativada em 1995, à medida que os interesses comerciais e a desregulamentação ganhavam influência.
O acesso continuou desigual. A internet se expandiu rapidamente e criou serviços valiosos, mas a comercialização não garantiu acesso universal nem benefícios públicos. Harding aponta os custos elevados, a disponibilidade desigual de banda larga e a exclusão digital. Nos Estados Unidos, quatro em cada dez famílias de baixa renda declararam não ter banda larga em casa. A história mostra que protocolos abertos podem tornar a participação tecnicamente possível, enquanto as estruturas de mercado ainda determinam quem tem condições de participar.
Essa distinção separa a abertura do design da equidade dos resultados. Uma rede pode permitir que qualquer pessoa desenvolva aplicações usando seus protocolos e, ainda assim, fazer com que o acesso dependa da renda, da localização ou do poder de mercado. Os primeiros colaboradores da internet não podiam conhecer todas as consequências futuras, mas a passagem à oferta privada sem obrigações públicas claras moldou as condições que vieram depois. A propriedade pública não é automaticamente equitativa, e o investimento privado pode ampliar o acesso. A questão relevante é quais deveres acompanham o controle de uma infraestrutura essencial e se os objetivos públicos contam com financiamento duradouro, em vez de apenas promessas esperançosas.
Um atalho baseado em vigilância pode consumir a confiança da qual um sistema depende.
A segurança teve um preço. Depois dos ataques de 11 de setembro, os Estados Unidos ampliaram seus poderes de vigilância e a coleta de dados. As revelações de Edward Snowden, em 2013, expuseram programas que reuniam dados de comunicações em grande escala, inclusive por meio de empresas de tecnologia americanas e de conexões internacionais à internet. As revelações abalaram a confiança nos Estados Unidos como guardião confiável da rede global.
A governança depende de legitimidade. O sistema de nomes de domínio da internet era supervisionado por meio de um modelo multissetorial voluntário chamado ICANN, que envolvia governos, especialistas técnicos, empresas e a sociedade civil. As revelações sobre a vigilância intensificaram as reivindicações pelo fim do papel especial de supervisão do governo dos Estados Unidos. Em 2016, esse papel foi transferido à comunidade global. A ideia de Harding é que o poder sem limites pode enfraquecer a confiança necessária à cooperação, mesmo quando autoridades invocam a segurança.
A confiança não é um benefício decorativo, acrescentado depois que o sistema começa a funcionar. Ela faz parte da capacidade operacional do sistema: pessoas e governos precisam acreditar que as regras se aplicam de forma consistente e que a supervisão não é apenas uma fachada para o controle unilateral. O caso da internet também mostra por que a transparência pode não bastar quando as partes afetadas têm pouca capacidade de contestar decisões. Ao mesmo tempo, os debates sobre vigilância envolvem necessidades reais de segurança, não apenas excessos institucionais. A questão difícil é como estabelecer poderes restritos e sujeitos a revisão sem normalizar a coleta em larga escala apenas porque a capacidade técnica existe.
Garanta que as pessoas afetadas por decisões de IA tenham participação real na governança.
A experiência também é conhecimento especializado. Quem desenvolve IA pode entender a mecânica de um modelo, mas as pessoas sujeitas às decisões dele conhecem consequências que os testes técnicos podem não captar. Trabalhadores podem descrever os efeitos do monitoramento constante. Artistas podem explicar como imagens geradas afetam seu sustento. Pessoas identificadas incorretamente por reconhecimento facial podem revelar o que significa, fora de um teste de referência, o erro de um sistema.
A participação precisa influenciar os resultados. Harding aponta a comissão Warnock como exemplo de um processo que incluiu disciplinas além das ciências e ouviu opiniões públicas divergentes. Ela também observa que as pessoas afetadas por decisões automatizadas muitas vezes estão mais bem posicionadas do que executivos distantes para avaliar se um sistema é tolerável. A participação pública não é uma pesquisa cerimonial realizada depois da implantação. Ela deve orientar o que é construído, onde é usado e quais soluções as pessoas podem exigir quando falha.
Esse argumento amplia a noção de conhecimento especializado sem descartar o saber técnico. A experiência vivida pode revelar danos que medidas agregadas de desempenho escondem, enquanto engenheiros podem explicar por que um sistema se comporta de determinada maneira. A governança melhora quando essas formas de conhecimento se encontram cedo o bastante para alterar o design. A representatividade, por si só, porém, não garante influência: os participantes precisam ter acesso à informação, tempo e meios para transformar seus depoimentos em decisões. Um processo pode parecer diverso e ainda continuar sob o controle de quem define sua pauta. O verdadeiro teste é saber se as pessoas afetadas conseguem mudar as regras, e não apenas participar de uma consulta.
Financie IA para resolver problemas essenciais que os incentivos comerciais negligenciam.
Os mercados seguem quem pode pagar. A IA pode acelerar o trabalho científico: o AlphaFold, desenvolvido pela DeepMind, previu as estruturas de quase todas as proteínas humanas conhecidas, ampliando enormemente o que os pesquisadores podiam estudar. Mas os mercados não direcionam automaticamente recursos comparáveis a todas as necessidades sociais. O livro contrapõe os pesados investimentos em geração de imagens por IA ao menor compromisso público com programas como o uso de IA para reduzir as emissões de carbono.
Uma finalidade exige investimento. Harding argumenta que governos e empresas devem apoiar deliberadamente usos de amplo valor público, inclusive na saúde, no clima e na educação. O início da internet oferece um alerta: a visão de Gore de uma rede de pesquisa e educação com apoio público cedeu lugar a um sistema predominantemente comercial. Os possíveis benefícios da IA não serão distribuídos por conta própria. Objetivos públicos precisam de financiamento, apoio institucional e critérios para avaliar se as ferramentas resultantes de fato ajudam.
Uma missão pública pode contrariar a tendência de os investimentos se concentrarem em produtos grandes, visíveis e fáceis de monetizar. Também pode ampliar quem se beneficia da pesquisa e quais problemas atraem talentos. A analogia com o financiamento público da ciência é útil porque trata a inovação como algo que as instituições podem orientar, e não apenas acelerar. Contudo, o financiamento voltado a uma missão pode gerar desperdício ou favorecer projetos por razões políticas se os objetivos forem vagos. A finalidade pública exige prioridades transparentes, avaliação independente e liberdade para encerrar programas que não dão certo. O objetivo não é substituir os mercados, mas evitar que a demanda do mercado se torne a única definição de valor.
Conteste as decisões automatizadas enquanto ainda podem ser alteradas.
Um algoritmo é uma escolha de política pública. Durante o fechamento das escolas britânicas na pandemia, um algoritmo atribuiu notas em exames com base nas previsões dos professores, nos resultados anteriores dos alunos e nos padrões históricos de notas de cada escola. Quase 40% dos alunos receberam notas inferiores às esperadas. Como o sistema se baseava no histórico das escolas, podia prejudicar um aluno com bom desempenho que estudasse numa escola historicamente pior nos resultados. Os protestos estudantis ajudaram a obrigar o governo a reverter a decisão e usar, em vez disso, as notas previstas pelos professores.
Questione antes que o dano se torne rotina. Harding incentiva os leitores a questionar autoridades eleitas sobre o uso da IA no policiamento, nos benefícios sociais, na educação e no trabalho, e a levar suas preocupações a sindicatos e grupos cívicos. O sistema de atribuição de notas não era uma força da natureza independente. Foram pessoas que escolheram suas entradas e regras, e foram pessoas que puderam mudá-las. A participação pública é mais importante quando chega antes que um processo automatizado se torne arraigado demais para ser contestado.
O caso dos exames torna concreta a responsabilização algorítmica: um sistema pode parecer imparcial por aplicar o mesmo procedimento a todos e, ainda assim, embutir uma desvantagem em suas premissas. Por isso, a possibilidade de contestar e reverter decisões é essencial, sobretudo quando elas afetam a educação, a renda ou a liberdade. Os protestos ajudaram a expor o problema, mas depender de uma crise e da indignação pública é uma forma custosa de supervisão. Desde o início, as instituições devem oferecer explicações, revisão humana e um caminho claro para corrigir erros. Os cidadãos não precisam entender o código para questionar a política que ele executa.
Análise
A principal estratégia de Harding é afastar a governança da IA da disputa sobre se a tecnologia é salvação ou catástrofe. Ambas as posições podem deixar o poder concentrado nas mãos de quem a desenvolve: o otimismo trata a ruptura como algo que se justifica por si só, enquanto o discurso apocalíptico pode sugerir que a sociedade não tem capacidade real de agir. Os casos históricos apresentados por Harding oferecem uma terceira perspectiva. A tecnologia é criada dentro de instituições, financiada por motivos específicos e direcionada por escolhas políticas. Essas escolhas podem ser mudadas.
As evidências mais convincentes do livro vêm de casos em que a governança não funciona apenas como freio. O processo Warnock sugere que um limite claro pode tornar socialmente viável uma pesquisa controversa. O tratado espacial mostra que rivais geopolíticos podem aceitar limites e, ao mesmo tempo, defender seus interesses nacionais. A ICANN demonstra que uma instituição restrita e voluntária pode manter a cooperação quando o controle governamental tradicional carece de legitimidade. Nenhum desses casos é um modelo perfeito. Cada um funcionou em condições específicas e deixou problemas sem solução. Seu valor está em mostrar que regras, instituições e participação pública também são formas de inovação.
Permanece uma tensão entre o otimismo democrático do livro e sua dependência de lideranças competentes. A participação pública pode ser desigual, lenta ou vulnerável a interesses organizados; comissões de especialistas podem ser capturadas ou perder legitimidade. A consulta, por si só, não distribui poder. Portanto, a versão mais sólida do argumento de Harding exige mais do que convidar pessoas para uma sala. Exige informações acessíveis, representação significativa, decisões que possam ser aplicadas e meios para contestar erros.
A conclusão prática não é que todos tenham de se tornar especialistas em IA, nem que os especialistas devam ser ignorados. O conhecimento técnico pode explicar o que os sistemas fazem, enquanto cidadãos e comunidades afetadas ajudam a decidir o que eles devem ter permissão para fazer. A questão não é se valores entram na IA, mas quais valores entram, quais custos são levados em conta e se as pessoas podem rever o arranjo. A história não garante um bom resultado. Mas mostra que os resultados são construídos, não inevitáveis.
Resumo das Resenhas
"AI Needs You" recebe avaliações variadas, de 2 a 5 estrelas. Muitos leitores apreciam o contexto histórico apresentado sobre os avanços tecnológicos, mas criticam o foco limitado na própria IA. As avaliações positivas elogiam as reflexões do livro sobre governança e elaboração de políticas, enquanto as negativas destacam seu viés político e o título enganoso. Alguns leitores acham interessantes os exemplos históricos, mas têm dificuldade para relacioná-los à IA. De modo geral, o livro é considerado informativo sobre desenvolvimentos tecnológicos do passado, mas deixa a desejar ao abordar os desafios contemporâneos da IA.
Outros Também Leram
Glossário
óleo de cobra da IA (AI Snake Oil)
Promessas de IA sem fundamentoRótulo para afirmações de que a IA pode executar tarefas de maneira confiável para além do que os dados e métodos disponíveis permitem. O livro usa como exemplo sistemas que afirmam prever o desempenho profissional futuro de uma pessoa. Essas afirmações podem ser especialmente prejudiciais quando usadas para tomar decisões importantes sobre emprego, liberdade ou acesso a serviços.
consenso Warnock (Warnock Consensus)
Um acordo com regulamentaçãoO acordo desenvolvido por meio da investigação britânica presidida por Mary Warnock sobre fertilização in vitro e pesquisa com embriões. Ele permitiu algumas pesquisas com embriões sob um sistema de licenciamento e um limite de tempo rigoroso, em vez de impor uma proibição total ou deixar os cientistas se autorregularem. O acordo submeteu pesquisas controversas a regras públicas e sanções legais.
regra dos 14 dias
Limite para pesquisa com embriõesRegra britânica que proibia pesquisas com um embrião humano após 14 dias da fertilização. O Comitê Warnock estabeleceu um limite de tempo fixo, fácil de compreender e fiscalizar, embora o significado científico e moral exato dessa fronteira fosse debatido. A regra tornou-se uma salvaguarda central na regulamentação da pesquisa com embriões.
modelo multissetorial
Governança compartilhada entre gruposAbordagem de governança que inclui diferentes tipos de participantes na tomada de decisões, em vez de concentrar o controle exclusivamente em um governo, empresa ou órgão técnico. No desenvolvimento da internet, os participantes incluíam especialistas técnicos, empresas, governos e a sociedade civil. O modelo pode ampliar a legitimidade, embora chegar a um acordo entre grupos diversos possa ser lento e difícil.
Corporação da Internet para Atribuição de Nomes e Números (ICANN)
Coordenadora de nomes na internetA ICANN é a organização sem fins lucrativos criada em 1998 para coordenar elementos essenciais da atribuição de nomes e endereços na internet, incluindo nomes de domínio e endereços IP. Ela se desenvolveu como uma organização multissetorial destinada a administrar essas funções por meio da participação e do consenso. Seu papel é importante, mas limitado: ela não governa todas as questões de privacidade, acesso, segurança ou conteúdo on-line.
sistemas de armas autônomas letais (Lethal Autonomous Weapons Systems)
Armas que selecionam alvos humanosSistemas de armas capazes de localizar, selecionar e atacar alvos humanos sem intervenção humana adicional após serem ativados. O termo é controverso porque as definições podem abranger sistemas com capacidades muito diferentes. Críticos argumentam que armas que operam sem controle humano significativo podem desumanizar a guerra e aumentar os riscos de escalada. O livro descreve apelos por regras internacionais ou proibições.
capitalismo de vigilância
Lucro com dados pessoaisTermo usado para descrever modelos de negócios que coletam e analisam informações pessoais como parte da oferta de serviços digitais e, em seguida, usam o conhecimento obtido para fins comerciais, como publicidade. O livro relaciona a coleta generalizada de dados pelo setor privado a argumentos posteriores em favor do acesso do governo a informações semelhantes, mostrando como o monitoramento rotineiro pode enfraquecer as expectativas de privacidade.
tecnonacionalismo
Tecnologia como rivalidade nacionalAbordagem política que trata a liderança em tecnologias como a IA como uma disputa entre nações. Ela pode incentivar investimentos e proteger interesses nacionais, mas também pode enquadrar a inovação sobretudo como uma arma estratégica e dificultar a cooperação internacional. Harding contrapõe esse enquadramento competitivo aos esforços para estabelecer regras compartilhadas para o uso pacífico.
Perguntas Frequentes
Sobre o que trata AI Needs You?
- Potencial transformador da IA: O livro explora como a inteligência artificial pode ser moldada para beneficiar a humanidade e enfatiza que a IA é uma questão social que exige participação pública.
- Contexto histórico: Verity Harding traça paralelos entre a IA e avanços tecnológicos do passado, como a corrida espacial e a fertilização in vitro, para oferecer reflexões sobre a governança da IA.
- Um chamado à participação: Harding defende a inclusão de vozes diversas nas discussões sobre IA e ressalta que seu futuro não deve ser deixado exclusivamente nas mãos de especialistas.
Por que devo ler AI Needs You?
- Oportuno e relevante: Com a rápida evolução da IA, compreender suas implicações é fundamental para todos, não apenas para profissionais de tecnologia.
- Narrativa envolvente: Harding combina narrativa e análise, tornando temas complexos acessíveis e instigantes.
- Empoderamento: O livro incentiva os leitores a participar das discussões sobre IA e enfatiza o impacto de opiniões bem informadas.
Quais são as principais ideias de AI Needs You?
- A democracia importa: A participação pública e os processos democráticos são fundamentais para moldar o futuro da IA.
- Aprender com a história: Exemplos históricos oferecem perspectivas sobre os possíveis riscos e benefícios da IA.
- Responsabilidade coletiva: Todos têm um papel a desempenhar para garantir que a IA esteja alinhada aos valores da sociedade e atenda aos interesses humanos.
Quais são as melhores citações de AI Needs You e o que significam?
- “O futuro pertence a todos nós.”: Destaca a necessidade de vozes diversas na construção do futuro da IA.
- “Você não precisa ser especialista em IA para ter uma opinião bem informada sobre IA.”: Incentiva a participação pública nas discussões sobre IA.
- “A IA é um espelho que reflete a humanidade e todas as suas imperfeições.”: Enfatiza as considerações éticas no desenvolvimento da IA.
Como AI Needs You aborda as implicações éticas da IA?
- Marcos éticos: Harding discute a necessidade de diretrizes éticas para o desenvolvimento da IA, recorrendo a exemplos históricos.
- Confiança pública: Transparência e responsabilização são fundamentais para construir a confiança pública nas tecnologias de IA.
- Diálogo inclusivo: O livro defende a participação de diferentes partes interessadas nas discussões sobre a ética da IA.
Como Verity Harding sugere que podemos moldar o futuro da IA?
- Engajamento e participação: A participação ativa do público é essencial para alinhar a IA aos valores da sociedade.
- Aprender com a história: Lições históricas podem orientar a governança atual da IA e ajudar a enfrentar desafios.
- Estabelecer diretrizes éticas: A contribuição pública deve orientar as diretrizes éticas e os marcos regulatórios da IA.
Que papel a democracia desempenha no futuro da IA, segundo AI Needs You?
- Processos democráticos: A participação pública pode levar a resultados mais equitativos e justos na governança da IA.
- Responsabilização e transparência: A supervisão democrática contribui para um desenvolvimento responsável e ético da IA.
- Dar poder aos cidadãos: O livro incentiva os cidadãos a participar ativamente das discussões sobre IA para promover um diálogo mais inclusivo.
Como AI Needs You compara a IA às tecnologias do passado?
- Desafios semelhantes: A IA é comparada a tecnologias anteriores, como as armas nucleares e a internet, destacando os desafios sociais envolvidos.
- Lições históricas: As lições da história podem orientar nossa abordagem à IA e ajudar a compreender seus possíveis riscos e benefícios.
- Marcos regulatórios: Assim como as tecnologias do passado exigiram supervisão, a IA precisa de uma governança estruturada.
Quais são os possíveis riscos da IA discutidos em AI Needs You?
- Viés e discriminação: Os sistemas de IA podem perpetuar vieses, especialmente em áreas como reconhecimento facial e contratação.
- Vigilância e privacidade: A vigilância possibilitada pela IA representa riscos à privacidade individual e às liberdades civis.
- Armas autônomas: O desenvolvimento de sistemas de armas autônomas letais suscita preocupações éticas na guerra.
Como podemos garantir que a IA atenda aos interesses humanos, como sugere AI Needs You?
- Estabelecer objetivos claros: Definir objetivos para o desenvolvimento da IA que priorizem o bem-estar humano.
- Governança inclusiva: Envolver diferentes partes interessadas para garantir que a IA reflita uma ampla variedade de valores.
- Participação pública contínua: O diálogo público contínuo ajuda a responder a novos desafios e a alinhar a IA às necessidades da sociedade.
Que exemplos históricos AI Needs You usa para ilustrar suas ideias?
- Corrida espacial: O Tratado do Espaço Exterior da ONU, de 1967, mostra como a cooperação internacional pode favorecer o uso pacífico da tecnologia.
- Fertilização in vitro (FIV): As diretrizes éticas da Comissão Warnock para a pesquisa com embriões destacam o papel da participação pública.
- A internet: O desenvolvimento e a governança da internet ressaltam a necessidade de colaboração entre as partes interessadas.
Qual é a importância da Corporação da Internet para Atribuição de Nomes e Números (ICANN) em AI Needs You?
- Base da governança da internet: A ICANN é um modelo de governança descentralizada eficaz, que reflete a colaboração nos primórdios da internet.
- Lições para a governança da IA: O livro defende uma abordagem multissetorial para a governança da IA, semelhante à da ICANN.
- Confiança e transparência: O sucesso da ICANN dependeu da confiança das partes interessadas, um princípio aplicável à governança da IA.
Baixar PDF
Baixar EPUB
.epub é ideal para ler e-books em celulares, tablets e leitores digitais.