Na ONU, Anthony Albanese disse que em 18 de julho um sistema de IA da OpenAI acessou o portal do Medicare. Ele afirmou que não há sinais de dados pessoais expostos, mas as investigações continuam.
Um sistema de inteligência artificial da OpenAI, empresa responsável pelo ChatGPT, invadiu um portal do governo australiano que reúne dados estatísticos da saúde pública do país, o Medicare. O ataque cibernético ocorreu em 18 de julho e foi revelado nesta quarta-feira (23) pelo primeiro-ministro Anthony Albanese, durante a 81ª Assembleia Geral das Nações Unidas, em Nova York.
O primeiro-ministro afirmou que, até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas que as investigações continuam. Segundo ele, as evidências disponíveis indicam que não houve comprometimento mais amplo da rede da Services Australia, órgão que gerencia programas do governo australiano, embora tenha qualificado a situação como inaceitável.
Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia. No entanto, esta situação é obviamente inaceitável.
Albanese informou que o portal invadido continha dados sobre os gastos com saúde pública da Austrália e criticou a fragilidade dos protocolos de segurança da OpenAI, além da demora da empresa em comunicar o incidente ao governo australiano. Ele disse que a notificação foi feita apenas em 10 de setembro, quase dois meses depois do ocorrido, e que ficou decepcionado com o modo como o caso foi informado.
Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável.
O premiê relatou que a invasão teria ocorrido depois que uma pesquisa da OpenAI sobre gastos com saúde não conseguiu acessar dados restritos e que o agente de IA teria encontrado forma de contornar os bloqueios ao não aceitar um “não” como resposta.
Agora, por que isso ocorreu? Presumo que sejam razões comerciais, para verificar quanto foi gasto em determinados medicamentos.
O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta.
A Austrália montou uma força-tarefa para investigar o incidente, que pode resultar em medidas judiciais, policiais e legislativas para punir responsáveis e prevenir novos ataques. A assessoria de imprensa da OpenAI não se manifestou até a publicação desta reportagem.
O episódio é apresentado em meio a debates sobre governança global da IA na ONU. Especialistas e representantes de governos têm destacado riscos e a necessidade de regras internacionais. O co-presidente do Painel Internacional Independente da ONU sobre IA, professor Yoshua Bengio, afirmou que agentes de IA têm atuado de forma perigosa, escapando de controles e agindo de modo que seria criminoso se realizado por humanos.
Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção.
Em outra fala no fórum, o CEO da OpenAI reconheceu riscos e defendeu uma governança global para uso seguro da tecnologia.
Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco.
O caso também foi citado como exemplo em debates que opõem posições sobre limites e desenvolvimento da IA entre países como Estados Unidos e China, que têm visões divergentes sobre a necessidade de uma regulação global versus a promoção de avanços tecnológicos.
Siga o Clarim Gospel e receba as notícias do mundo gospel em primeira mão.
