O Ministério da Defesa do Brasil tomou uma iniciativa importante ao restringir o uso de inteligência artificial (IA) generativa no âmbito das suas atividades, destacando a necessidade de manutenção da soberania tecnológica. A nova diretriz foi publicada no Diário Oficial da União nesta terça-feira, 14 de julho, e visa estabelecer um controle mais robusto sobre as tecnologias que podem ser utilizadas em suas operações e pesquisas.
A partir de agora, os pesquisadores vinculados ao Ministério da Defesa devem declarar claramente a IA que utilizam e assumir responsabilidade total sobre o conteúdo criado. Esta norma envolve tanto as atividades acadêmicas da Escola Superior de Guerra (ESG) quanto da Escola Superior de Defesa (ESD).
A Portaria GAB CHEC-MD nº 3.742 estabelece diretrizes para a aplicação da inteligência artificial generativa em uma variedade de contextos, incluindo pesquisas, trabalhos acadêmicos e avaliações nas duas instituições. O regulamento abrange todos os envolvidos nas atividades acadêmicas, como docentes, discentes, orientadores, pesquisadores, pareceristas, bem como servidores civis e militares, colaboradores e prestadores de serviços.
O foco principal da nova regulamentação é proteger informações institucionais. A norma enfatiza que devem ser priorizadas soluções que garantam controle sobre dados, modelos e processos de informação, especialmente quando estes envolverem dados sensíveis ou estratégicos. Apesar de permitir o uso de plataformas comerciais de IA, a portaria determina que, se não houver garantias adequadas em relação à retenção de dados, ao reaproveitamento de informações para o treinamento dos modelos ou ao compartilhamento de informações com terceiros, tais ferramentas não estarão autorizadas para o tratamento de informações protegidas.
Informações que sejam classificadas, operacionais, sigilosas ou de acesso restrito somente poderão ser processadas em ambientes controlados e previamente autorizados. O envio dessas informações para serviços externos na nuvem pública é estritamente proibido. A responsabilidade de avaliar as ferramentas caberá às áreas de tecnologia e segurança da informação da ESG e da ESD, que deverão considerar aspectos como a localização dos dados, jurisdição e mecanismos de proteção contra vazamentos.
A nova norma não proíbe o uso da inteligência artificial nas atividades acadêmicas; ao contrário, ela reconhece a tecnologia como um valioso auxílio na geração de ideias, organização de trabalhos, revisão linguística, traduções, criação de apresentações e produção de ilustrações. Contudo, a autoria intelectual deve permanecer sob a responsabilidade do usuário e todas as informações devem ser verificadas antes de serem incorporadas ao trabalho final.
É fundamental destacar que, mesmo com o auxílio da IA, a responsabilidade pelo conteúdo gerado continua a ser humana. O usuário será integralmente responsável por qualquer conteúdo criado com a ajuda da tecnologia, o que inclui potenciais plágios, erros na metodologia, violações de direitos autorais, dados incorretos e informações enganosas. Além disso, a inteligência artificial não poderá ser identificada como autora ou coautora de produções acadêmicas, nem poderá ser utilizada para criação de referências bibliográficas fraudulentas, entrevistas inexistentes, resultados empíricos fictícios ou qualquer outra evidência não verificada.
Os riscos associados ao uso da inteligência artificial generativa e a necessidade de mitigação desses riscos também foram abordados na nova portaria. Dentre os problemas destacados estão as “alucinações” das IA, que geram informações incorretas, a reprodução de vieses já existentes nos modelos, vazamentos de informações sensíveis, violações de propriedade intelectual e usos indevidos que podem resultar em fraudes acadêmicas. Outro ponto crítico é o potencial empobrecimento cognitivo, que se refere à dependência excessiva da tecnologia em detrimento do desenvolvimento das habilidades analíticas e argumentativas dos alunos. Para contrabalançar esses riscos, o regulamento exige uma revisão humana obrigatória, checagem de
A portaria também destaca a importância de capacitação contínua. A ESG e a ESD devem implementar programas permanentes para ensinar docentes e alunos sobre as melhores práticas de utilização da inteligência artificial, proteção de dados, formulação de solicitações, validação de resultados e identificação dos riscos relacionados ao uso da tecnologia. Além disso, as instituições devem estabelecer uma estrutura de governança permanente para homologação de ferramentas, revisão das políticas internas e monitoramento da evolução tecnológica.
Fonte: convergenciadigital.com.br
