A PROCURADORA-GERAL DO ESTADO, no uso das suas atribuições legais, e consoante o disposto no art. 51 da Constituição do Estado, c/c art. 19, XXI, da Lei Complementar Estadual nº 20, de 17 de junho de 1999,

CONSIDERANDO a crescente utilização de ferramentas de Inteligência Artificial (IA) por Procuradores do Estado e demais servidores da Procuradoria-Geral do Estado do Tocantins (PGE/TO);

CONSIDERANDO a necessidade de regulamentar o uso de IA a fim de assegurar a segurança, a ética, a transparência e a qualidade técnica das manifestações produzidas no âmbito da PGE/TO;

CONSIDERANDO a Lei Estadual nº 4.645, de 17 de janeiro de 2025, do Estado do Tocantins, que estabelece princípios e diretrizes para implementação e uso da inteligência artificial na Administração Pública Estadual Direta e Indireta;

CONSIDERANDO o disposto na Lei Complementar Estadual nº 20, de 21 de julho de 1999, que dispõe sobre a organização da Procuradoria-Geral do Estado;

CONSIDERANDO a necessidade de promover a contínua capacitação dos membros e servidores da PGE/TO no uso de ferramentas de IA visando ao aprimoramento da prestação de serviços jurídicos à sociedade; e

CONSIDERANDO estudos e recomendações de órgãos e entidades que tratam da matéria, como o Conselho Nacional de Justiça (CNJ), a Controladoria-Geral da União (CGU) e a Ordem dos Advogados do Brasil (OAB),

RESOLVE:

CAPÍTULO I - DISPOSIÇÕES PRELIMINARES

Art. 1º Esta Portaria estabelece diretrizes e normas para uso de sistemas de Inteligência Artificial (IA) no âmbito da Procuradoria-Geral do Estado do Tocantins (PGE/TO) visando a garantir a utilização ética, responsável e eficiente dessas tecnologias.

Art. 2º Para os fins desta Portaria, consideram-se:

I - Inteligência Artificial (IA): sistema computacional que, a partir de determinada programação, realiza tarefas que incluem aprendizado, reconhecimento de padrões, processamento de linguagem natural e tomada de decisões;

II - IA Generativa: sistemas de IA capazes de criar conteúdo novo e original, como textos, imagens, áudios e vídeos;

III - Large Language Models (LLM): modelos de linguagem treinados em grandes volumes de dados textuais;

IV - Prompt: comando ou instrução fornecida a um sistema de IA para gerar uma resposta ou realizar uma tarefa;

V - Alucinação: respostas incorretas ou sem sentido geradas por sistemas de IA apresentadas como fatos;

VI - Viés: tendências ou preconceitos presentes nos dados de treinamento que podem influenciar os resultados da IA;

VII - Deepfake: conteúdo de mídia (vídeos, áudios, imagens) manipulado para representar falsamente eventos ou ações.

CAPÍTULO II - PRINCÍPIOS GERAIS

Art. 3º O uso de IA na PGE/TO observará os seguintes princípios:

I - Primazia da inteligência humana: a IA deve ser empregada como ferramenta de apoio e aprimoramento das atividades dos Procuradores do Estado e servidores, e não como substituta do raciocínio jurídico, da análise crítica e da tomada de decisão humana, sendo essencial que haja sempre controle humano significativo sobre os processos e resultados gerados pela IA, garantindo que as decisões finais, especialmente em matérias complexas ou estratégicas, sejam sempre proferidas, ainda que com auxílio de IA, por seres humanos devidamente qualificados;

II - Responsabilidade: os usuários são responsáveis pelos resultados gerados pela IA e devem garantir a sua precisão e adequação;

III - Privacidade e proteção de dados: os dados pessoais devem ser tratados com respeito à legislação vigente (Lei Geral de Proteção de Dados Pessoais - LGPD), evitando-se o compartilhamento de informações sensíveis com sistemas de IA não seguros;

IV - Não discriminação: a IA deve ser utilizada de forma a evitar a reprodução ou ampliação de preconceitos e discriminações;

V - Segurança da informação: os sistemas de IA devem ser utilizados de forma a garantir a segurança das informações da PGE/TO, prevenindo-se acessos não autorizados e vazamentos de dados;

VI - Eficiência e economicidade: a IA deve ser utilizada para otimizar processos e reduzir custos, sem comprometer a qualidade dos serviços prestados;

VII - Beneficência e não maleficência: a utilização de sistemas de IA no âmbito da PGE/TO deve ser orientada para promoção do bem-estar social e geração de benefícios tangíveis para a Administração Pública e para a sociedade;

VIII - Transparência e auditabilidade: a utilização de sistemas de IA deve ser realizada de forma auditável, garantindo a possibilidade de rastreabilidade dos processos e resultados, de modo a permitir a verificação, a avaliação e a responsabilização por eventuais falhas ou desvios.

IX - Segurança e robustez técnica: os sistemas de IA utilizados na PGE/TO devem apresentar elevado nível de segurança cibernética e robustez técnica, sendo capazes de operar de forma confiável e resiliente, resistindo a ataques, falhas e manipulações, e garantindo a integridade, a disponibilidade e a confidencialidade das informações e dos processos de modo a assegurar a continuidade e a confiabilidade dos serviços prestados;

X - Proporcionalidade e finalidade: o uso de sistemas de IA deve ser proporcional aos objetivos legítimos pretendidos, limitado às finalidades específicas e previamente definidas para as quais a tecnologia foi designada e compatível com as necessidades e os recursos da instituição, evitando-se o uso excessivo ou desnecessário da IA e garantindo que sua aplicação contribua efetivamente para alcance dos resultados esperados sem impor ônus desproporcionais; e

XI - Sustentabilidade e impacto social: a implementação e o uso de IA na PGE/TO devem considerar seus impactos a longo prazo, incluindo aspectos ambientais relacionados ao consumo de energia e recursos computacionais, bem como os impactos sociais, como a necessidade de requalificação profissional e as implicações para a força de trabalho, buscando soluções sustentáveis e que promovam o desenvolvimento social e o bem-estar da comunidade jurídica e da sociedade em geral.

CAPÍTULO III - DIRETRIZES PARA O USO DA IA

Art. 4º O uso de IA na PGE/TO observará as seguintes diretrizes:

I - Escolha das ferramentas de IA: priorizar o uso de sistemas institucionais ou aqueles que garantam a proteção de dados e a não utilização das informações para treinamento;

II - Elaboração de prompts: formular prompts claros, precisos e contextualizados a fim de obter resultados mais relevantes e adequados;

III - Supervisão e validação dos resultados: revisar e validar criticamente os resultados gerados pela IA a fim de identificar e corrigir eventuais erros, imprecisões ou vieses;

IV - Utilização de dados: utilizar dados seguros e confiáveis para alimentar os sistemas de IA evitando-se o uso de informações sigilosas ou protegidas por Lei; e

V - Capacitação e treinamento: participar de programas de capacitação e treinamento sobre o uso da IA a fim de desenvolver as habilidades e competências necessárias para utilização responsável e eficiente da tecnologia.

Art. 5º Para resguardar a confidencialidade, a precisão técnica e a responsabilidade institucional no uso de IA, é vedado, no âmbito da PGE/TO:

I - Alimentar sistemas de IA com quaisquer dados sujeitos a sigilo profissional, documentos confidenciais ou informações pessoais sensíveis;

II - Submeter a sistemas de IA questões jurídicas estratégicas ou confidenciais que possam revelar planos ou táticas de atuação processual do Estado;

III - Considerar como definitivas, sem prévia verificação rigorosa, citações de normas, decisões judiciais ou entendimentos doutrinários gerados por sistemas de IA, bem como fundamentar manifestações jurídicas exclusivamente em conteúdo produzido por IA, sem checagem independente das fontes;

IV - Utilizar a IA como substituta do raciocínio jurídico, elaborando versões finais de pareceres, peças processuais ou quaisquer documentos jurídicos sem substancial revisão por profissional habilitado; e

V - Atribuir a sistemas de IA a elaboração de posicionamentos acerca de temas sensíveis ou estratégicos ao interesse do Estado sem a necessária supervisão técnica e jurídica.

CAPÍTULO IV - RESPONSABILIDADES

Art. 6º Os membros e servidores da PGE/TO são responsáveis pelo uso ético e adequado das ferramentas de IA observando as diretrizes e normas estabelecidas nesta Portaria.

Art. 7º A responsabilidade pela supervisão e validação dos resultados gerados pela IA é do usuário, que deverá garantir a precisão, a correção e a adequação das informações utilizadas em suas manifestações e documentos.

Art. 8º A PGE/TO promoverá ações de capacitação e treinamento para seus membros e servidores visando ao uso responsável e eficiente das ferramentas de IA.

CAPÍTULO V - MONITORAMENTO E AVALIAÇÃO

Art. 9º A PGE/TO será responsável pelo monitoramento e avaliação do uso da IA na instituição a fim de identificar oportunidades de melhoria e garantir o cumprimento das diretrizes estabelecidas nesta Portaria.

Art. 10. O monitoramento e a avaliação do uso da IA na PGE/TO serão realizados por meio de:

I - Coleta de dados sobre o uso da IA (ferramentas utilizadas, tipos de tarefas realizadas, tempo gasto, resultados obtidos etc.);

II - Realização de pesquisas de satisfação com os usuários da IA;

III - Análise de manifestações e documentos produzidos com o auxílio da IA; e

IV - Realização de auditorias para verificar o cumprimento das diretrizes estabelecidas.

CAPÍTULO VI - DISPOSIÇÕES FINAIS

Art. 11. Os casos omissos nesta Portaria serão resolvidos pela Procuradora-Geral do Estado.

Art. 12. Esta Portaria entra em vigor na data de sua publicação, revogadas as disposições em contrário.

Dê-se ciência, publique-se e cumpra-se.

GABINETE DA PROCURADORA-GERAL DO ESTADO, Palmas, aos 23 dias do mês de maio de 2025.

IRANA DE SOUSA COELHO AGUIAR

Procuradora-Geral do Estado