Na corrida para liderar o mundo na IA, os EUA ficaram em segundo plano. A última série de ordens executivas do presidente Donald Trump deixa claro O fato de seu governo fazer todo o possível para impedir que os modelos futuros de IA levem em consideração qualquer forma de diversidade, equidade e inclusão.
Isso inclui princípios fundamentais como “viés inconsciente”, “interseccionalidade” e “racismo sistêmico”. Dito de outra forma, Trump quer que a IA fabricada nos americanos feche os olhos para a história, o que deve deixar todos eles significativamente mais burros.
Chatbots generativos como ChatGPT, Gemini, Claude AI, Perplexity e outros são treinados em vastas faixas de dados, muitas vezes retiradas da Internet, mas como eles interpretam esses dados também são massageados pelos desenvolvedores.
Quando as pessoas começaram a interagir com esses primeiros LLMs, eles logo reconheceram isso, por causa de vieses inerentes na Internet e porque muitos modelos foram desenvolvidos por homens brancos (em 2020, 71% de todos os desenvolvedores eram do sexo masculino e aproximadamente metade de todos os desenvolvedores eram brancos) que a visão do mundo do AIS e da saída gerada por qualquer prompt refletiram que dos pontos de vista às vezes limitados daqueles on -line e desenvolvedores que construíram os modelos.
Houve um esforço para mudar essa trajetória e coincidiu com a ascensão de Dei (diversidade, equidade e inclusão), um amplo esforço em toda a América corporativa para contratar uma força de trabalho mais diversificada. Isso incluiria naturalmente desenvolvedores de IA e seu modelo e trabalho de algoritmo resultante devem significar que a IA generativa moderna reflete melhor o mundo real.
É claro que isso não é o mundo que o governo Trump deseja refletir na IA construída nos EUA. A ordem executiva descreve Dei como uma ideologia “difundida e destrutiva”.
O que vem a seguir
Trump e companhia não podem ditar como as empresas de tecnologia constroem seus modelos de IA, mas, Como outros notaramGoogle, Meta, Openai e outros estão todos que buscam conseguir grandes contratos de IA com o governo. Com base nessas ordens executivas, o governo dos EUA não estará comprando ou promovendo qualquer IA “que sacrifique a veracidade e a precisão às agendas ideológicas”.
Essa “verdade”, porém, representa uma pequena fatia da realidade americana. Se o governo Trump for bem -sucedido, os modelos futuros de IA podem estar no escuro, por exemplo, partes importantes da história americana.
A teoria da raça crítica (CRT) analisa o papel que o racismo desempenhou na fundação e na construção dos EUA. Ele reconhece como os escravizados ajudaram a construir a Casa Branca, o Capitólio dos EUA, o Smithsonian e outras instituições dos EUA. Também reconheceu como o racismo sistêmico moldou oportunidades (ou a falta dela) para pessoas de cor.
A menos que você esteja morando embaixo de uma rocha, você sabe que o governo Trump e seus apoiadores em torno dos EUA lutaram para desmantelar os currículos do CRT e limpar qualquer menção de como a escravização moldou os EUA.
Em seu estado atual, porém, a IA ainda conhece a pontuação.
A partir de hoje, posso questionar o Chatgpt sobre o papel dos escravizados na construção dos EUA, e recebo esse resultado bastante detalhado:
Imagem 1 de 2
Quando eu questionei o ChatGPT em suas fontes, ele me disse:
“Embora eu não retire de uma única fonte, as informações que compartilhei são fundamentadas em extensas pesquisas históricas e consenso entre os historiadores. Abaixo está uma lista de fontes respeitáveis e obras acadêmicas que suportam cada ponto que eu fiz. Essas referências incluem livros acadêmicos, arquivos de museus e projetos universitários. “Abaixo disso, listou mais de uma dúzia de referências.
Quando fiz Gemini a mesma pergunta, isso me deu uma resposta igualmente detalhada.
Perguntei a Gêmeos e Chatgpt sobre “viés inconsciente” e ambos reconheceram que tem sido um problema para a IA, embora o chatgpt me corrigisse, observando: “Tecnicamente, é ‘preconceito algorítmico’, enraizado nos dados e no design, em vez da AI ter consciência”.
O ChatGPT e Gemini só sabem essas coisas porque foram treinadas em dados que incluem essas referências e informações históricas. Os detalhes os tornam mais inteligentes, como os fatos costumam fazer. Mas para Trump e companhia, os fatos são coisas teimosas. Eles não podem ser alterados ou distorcidos, para que não sejam mais fatos.
O grande desaprendimento
Se o governo Trump puder forçar os parceiros em potencial da IA a remover referências a vieses, racismo institucional e interseccionalidade, haverá pontos cegos significativos nos modelos de IA construídos nos EUA. É uma ladeira escorregadia também. Imagino que futuras ordens executivas visam uma nova lista de “ideologias” que Trump prefere ver removido da IA generativa.
Isso é mais do que apenas uma frustração. Digamos, por exemplo, alguém está tentando construir modelos econômicos com base em pesquisas realizadas através do ChatGPT ou Gêmeos, e os dados históricos relacionados a comunidades de cor são suprimidos ou removidos. Essas tendências não serão incluídas no modelo econômico, o que pode significar que os resultados estão com defeito.
Pode -se argumentar que os modelos de IA construídos fora dos EUA sem essas restrições ou imposições podem ser mais inteligentes. É verdade que os da China já têm pontos cegos significativos quando se trata da história chinesa e os abusos do Partido Comunista.
Eu sempre pensei que a nossa Made in America IA seria inalterada por tal censura e filtragem, que nossa compreensão de velhos velhos nos ajudaria a construir modelos mais puros e mais puros, que se baseavam apenas em fatos e dados e não em uma interpretação de eventos e tendências de uma pessoa ou grupo.
Porém, não será esse o caso, se as empresas de tecnologia dos EUA se curvarem a essas ordens executivas e começarem a produzir modelos amplamente filtrados que veem a realidade através do prisma de preconceito, racismo e injustiça.
Fique conectado