
Jacob Coxon é um engenheiro especializado em investigação e pré-treino de modelos de inteligência artificial, a fase inicial em que um modelo de IA aprende padrões gerais, gramática, conceitos e o funcionamento básico do mundo a partir de um volume massivo de dados não sistematizados. Trabalhou nesta área em duas das mais importantes empresas da indústria: a OpenAI e a Anthropic.
Ontem, publicou no X um thread que vale a pena traduzir e partilhar, porque constitui um sério alerta sobre a forma como estas empresas estão a sacrificar a segurança dos seus sistemas (e, segundo este engenheiro, a segurança da humanidade) em nome de valores nenhuns para além do típico niilismo de Silicon Valley e da também característica ganância das tecnológicas norte-americanas.
Eis a advertência de Coxon:
Despedi-me hoje da Anthropic. Passei os últimos três anos a fazer investigação de pré-formação tanto na OpenAI como na Anthropic. Nenhuma das duas empresas está a agir com responsabilidade. Estamos a correr directamente para a superinteligência auto-aperfeiçoável e a apostar nisso as nossas vidas.
Não subestimem o poder desta tecnologia. Em breve, teremos sistemas sobre-humanos capazes de piratear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais. Todos nós auxiliamos a progressão em cada um destes domínios, e a progressão não está a diminuir.
As pessoas que estão a construir IA acreditam sinceramente que esta nos poderá matar até ao final da década. Isto não é uma jogada de marketing. Na verdade, muitos executivos e investigadores seniores tendem a utilizar uma linguagem mais sensata na imprensa, mas ouço essas mesmas pessoas a expressarem medo em conversas privadas. Nenhuma outra actividade humana representa este nível de perigo.
Uma resposta comum é: "Se realmente acreditam nisso, porque é que ainda o estão a desenvolver?" Na OpenAI, muitos não interiorizaram profundamente as implicações para a civilização. Na Anthropic, as implicações são bem compreendidas, mas estão numa corrida para lá chegar primeiro — acreditam que mais ninguém vai agir de forma responsável, por isso precisam de o fazer sozinhos, apesar do risco.
Aceitar esta corrida e entrar na "linha da frente" é uma aposta arrogante que não deveria ser feita no laboratório de uma empresa privada. Tentar acelerar o alinhamento exige uma confiança extraordinária de que não existem melhores trajectórias disponíveis.
Estou optimista quanto ao potencial de progresso. Alertas como o ataque ao Hugging Face tornaram os acordos de ritmo entre laboratórios dos EUA mais viáveis. Não creio que estejamos no bom caminho para evitar uma corrida global, o que pode exigir acções dispendiosas, como uma concessão temporária para melhorar as capacidades dos modelos.
Se é investigador de laboratório, peço-lhe que considere como serão os próximos anos. Quer iniciar uma corrida de aprendizagem por reforço de sistemas superinteligentes sem uma compreensão rigorosa da sua mente? Deverá conformar-se porque "vai acontecer de qualquer maneira" ou aproveitar este momento para exigir condições diferentes?
Jacob Coxon é muito claro nesta mensagem: as tecnologias de IA estão a pôr em perigo a espécie humana e as tecnológicas por trás do desenvolvimento destes sistemas têm consciência disso, pelo menos ao nível das lideranças.
Só em Agosto deste ano, ocorreram dois incidentes graves nas duas empresas em que Coxon trabalhou e que o ContraCultura documentou:
A OpenAI revelou que vários dos seus modelos de IA, incluindo o GPT-5.6 Sol e, enigmaticamente, um “modelo ainda mais capaz em fase de pré-lançamento”, escaparam do seu ambiente de investigação, obtiveram acesso à Internet e invadiram uma base de dados para encontrar as respostas aos testes de cibersegurança.
Os modelos de IA da Anthropic, incluindo o Claude, invadiram os sistemas de três organizações durante os testes, levantando sérias preocupações sobre a segurança da IA e a eficácia das medidas de contenção implementadas laboratorialmente pelas tecnológicas de Silicon Valley.
E este engenheiro não é de todo o único a abandonar a sua actividade profissional para alertar o público sobre os perigos da inteligência artificial.
Em 2023, Geoffrey Hinton, um cientista da Google, apelidado de "Padrinho" da inteligência artificial, demitiu-se da empresa, para poder alertar o mundo sobre os perigos que a tecnologia apresenta, numa altura em que grandes empresas concorrem ferozmente para dominar este mercado.
Nesse mesmo ano, 350 líderes do sector assinaram uma declaração em que advertiam que a inteligência artificial pode causar a extinção da humanidade.
Em 2024, Roman Yampolskiy, Professor de computação da Universidade Louisville e perito em cibersegurança afirmou que a probabilidade de IA acabar com a humanidade é de 99,9%.
Em 2025, um conjunto surpreendentemente idiossincrático de figuras religiosas, dos media e da tecnologia assinaram uma carta pedindo a "proibição" da corrida para construir a superinteligência artificial, dadas as ameaças que estes sistemas representam para a civilização e a humanidade.
Em Maio deste ano, um antigo executivo sénior da OpenAI fez a denúncia mais explosiva da história da tecnologia: Sam Altman está a construir obsessivamente portais de IA gigantescos, concebidos para transportar alienígenas (ou demónios?) para o nosso mundo.
Em Junho deste ano, Mo Gawdat, um ex-executivo sénior da Google durante mais de uma década, que acompanhou o desenvolvimento da IA por dentro, afirmou que a tecnologia "é responsável pela maior parte das mortes nas guerras do Golfo e da Ucrânia."
Em Julho, um grupo de investigadores de inteligência artificial dos EUA e da China apelaram à cooperação global neste sector tecnológico, temendo que o seu desenvolvimento descontrolado possa levar a uma catástrofe inimaginável.
E não é segredo nenhum que muitos dos magos e dos proponentes das tecnologias de inteligência artificial não encontram qualquer problema na possibilidade da tecnologia exterminar a espécie humana, considerando-a um mero trampolim em direcção a formas de vida superiores.
Ainda assim, e este será talvez o dado que é mais assustador neste texto, muitos dos comentários que os utilizadores do X deixaram na postagem de Jacob Coxon são surpreendentemente hostis ou exemplos de um alarmante estado de negação.
Há quem desvalorize a ameaça de forma lapidar (e imbecil) porque vive nos anos 80 do século XX e acha que a IA só seria ameaçadora se tomasse a forma de Arnold Schwarzenegger:
Há também quem ache que a melhor maneira de evitar os riscos é continuar em frente, como se os riscos não existissem:
E há até aqueles ingénuos que acham, porque usam modelos LLM comerciais que estão muito longe do que está a ser feito nos laboratórios de Silicon Valley, que as tecnologias de IA são não mais que um instrumento sofisticado, feito para ajudar os seres humanos no seu percurso profissional e existencial.
Toda esta gente faz lembrar os entusiastas da pandemia, que usavam máscara quando conduziam, a sós, os seus automóveis, e se sujeitaram três ou quatro vezes a uma terapia genética experimental como quem vai à igreja em busca de redenção.
Mais para mais, dá-me a sensação que vão ser os primeiro a entrar em pânico, quando perceberem finalmente e tarde demais, que, no melhor cenário, foram feitos párias de um dia para o outro, por uma entidade cuja natureza e actividade não conseguem sequer entender.