Com o título “A Inteligência Artificial pode ameaçar a existência dos seres humanos?”, eis artigo de Luiz Alves, diretor de Inovação e Novos Negócios do Instituto Atlântico e especialista em Inteligência Artificial. “Coxon sustenta que os sistemas estão avançando rapidamente, enquanto os especialistas ainda não sabem como controlá-los de forma confiável; críticos, porém, consideram algumas previsões sobre a extinção humana especulativas e alertam que o debate não deve se basear apenas em cenários extremos, mas também em problemas atuais, como ataques cibernéticos, desinformação, perda de privacidade e decisões automatizadas sem transparência”, expõe o articulista
Confira:
A demissão do pesquisador britânico Jacob Coxon da Anthropic transformou uma preocupação restrita aos laboratórios de inteligência artificial em um debate público sobre os limites da corrida tecnológica. Depois de trabalhar também na OpenAI, Coxon afirmou que as duas empresas estariam avançando em direção a sistemas capazes de se aperfeiçoar sem dispor de garantias suficientes para impedir que a tecnologia escape ao controle humano.
Coxon afirmou que Anthropic e OpenAI estariam priorizando a competição pelo desenvolvimento de modelos avançados em detrimento da segurança. O pesquisador também disse que profissionais da área estão “genuinamente assustados” com a velocidade dos avanços e com possíveis consequências para a humanidade.
Coxon sustenta que os sistemas estão avançando rapidamente, enquanto os especialistas ainda não sabem como controlá-los de forma confiável; críticos, porém, consideram algumas previsões sobre a extinção humana especulativas e alertam que o debate não deve se basear apenas em cenários extremos, mas também em problemas atuais, como ataques cibernéticos, desinformação, perda de privacidade e decisões automatizadas sem transparência.
Estamos diante de uma ameaça iminente ou de um risco futuro que ainda pode ser evitado por meio de regras, transparência e pesquisa em segurança?
*Luiz Alves
Diretor de Inovação e Novos Negócios do Instituto Atlântico e especialista em Inteligência Artificial.
