O rascunho das diretrizes japonesas de IA pede medidas para combater o excesso de confiança

O rascunho das diretrizes japonesas de IA pede medidas para combater o excesso de confiança

As empresas e organizações que utilizam inteligência artificial serão obrigadas a tomar medidas para reduzir o risco de dependência excessiva da tecnologia, mostrou um projeto de diretrizes desenvolvido por um painel do governo japonês no sábado.

O projeto de diretrizes obtido pela Kyodo News também pede aos desenvolvedores de IA que tomem cuidado para não usar dados tendenciosos para aprendizado de máquina, ao mesmo tempo que os incentiva a manter registros de suas interações com a tecnologia, a serem fornecidos em caso de problema.

O painel, encarregado de discutir a estratégia de IA do país, deverá finalizar as diretrizes até o final do ano. O Japão, que este ano preside o Grupo dos Sete países industrializados, também está a trabalhar com outros membros para desenvolver diretrizes internacionais para desenvolvedores de IA.

O projeto define 10 regras básicas para as empresas relacionadas com a IA, tais como garantir a justiça e a transparência na proteção dos direitos humanos e impedir que informações pessoais sejam divulgadas a terceiros sem a permissão de um indivíduo.

As regras também exigem que sejam fornecidas informações sobre como os dados são adquiridos de um indivíduo ou entidade e como são posteriormente utilizados pelas partes relacionadas.

As empresas que desenvolvem plataformas de IA, os prestadores de serviços que utilizam esta tecnologia e os utilizadores serão todos obrigados a partilhar algum grau de responsabilidade.

As diretrizes fornecem princípios de acordo com categorias de empresas. Os desenvolvedores são instados a garantir que os dados usados ​​para fins de IA sejam precisos e atualizados e, de preferência, a adotar medidas para garantir que as informações que não foram aprovadas para uso não sejam acessíveis.

Ao mesmo tempo, os fornecedores que utilizam IA serão solicitados a alertar os utilizadores para evitarem inserir informações pessoais que não desejam que terceiros tenham acesso e para garantir que os seus serviços sejam limitados ao uso pretendido para evitar que agentes mal-intencionados utilizem a tecnologia para propósitos maliciosos.