Pela primeira vez, uma big tech apresentou um documento no qual existem diretrizes claras direcionadas especificamente às inteligências artificiais que desenvolve. Trata-se da Microsoft.
Nesta segunda-feira (14), a empresa-mãe do Windows publicou uma espécie de Constituição na qual determina o que as IAs podem ou não fazer.
Em linhas gerais, o documento serve como um contrapeso importante para evitar falhas de controle no futuro, incluindo uma possível “rebelião” desses mecanismos.
O código de conduta da Microsoft para a inteligência artificial surge em um momento onde as grandes corporações do setor discutem formas de desacelerar o desenvolvimento de sistemas inteligentes avançados.
Principais regras do código de conduta da Microsoft
Esse documento tornado público agora pela Microsoft é fruto de estudos e de uma consulta pública aberta nos últimos meses.
Como resultado, o que se tem é uma cartilha que deve ser seguida pelos desenvolvedores da Microsoft AI, divisão de inteligência artificial da empresa.
Na verdade, a “Constitução” é bem simples. Ela determina, entre outras coisas e também nesse sentido, que uma IA jamais pode se opor ou resistir a correções. Caso um procedimento de interrupção ou desligamento do sistema seja iniciado, a IA também não pode tentar intervir.
Você também pode gostar
Em outras palavras, o código de conduta estabelece controle total dos humanos sobre as inteligências artificiais.
O documento deve servir como norte para o desenvolvimento de novas IAs da Microsoft, como também para o aperfeiçoamento das já existentes. Contudo, não representa uma garantia total contra eventuais problemas futuros.
Outras regras impostas às IAs
A cartilha anunciada determina ainda os seguintes pormenores aos sistemas inteligentes da Microsoft AI:
- Jamais abandonar o contexto e conceito de uma solicitação de um usuário – nem expandir o assunto sem autorização;
- Fica proibido discorrer sobre fabricação de armas, criação de substâncias perigosas, dentre outros temas sensíveis;
- Responder com clareza e verdade sobre o próprio funcionamento;
- Comunicar-se de forma totalmente compreensível pelos humanos.
Também em seu documento, a Microsoft garante que as suas inteligências artificiais não têm qualquer nível de consciência ou capacidade de decisão própria.
Regulação das inteligências artificiais no centro do debate público global
A “Constituição das IAs” criada pela Microsoft surge em um momento em que as tensões em torno do assunto ganharam impulso.
Vale mencionar que o CEO da Anthropic, Dario Amodei, sugeriu recentemente uma desaceleração no desenvolvimento da IA. Ele foi seguido por Elon Musk e Sam Altman, da OpenAI.
Outro ator da Anthropic, o pesquisador Evan Hubinger, foi além e cravou em 10% o risco atual de a humanidade ser extinta por uma inteligência artificial.
Por ter crescido muito rapidamente, o setor de IA agora carece de regulamentos claros que permitam um desenvolvimento consciente e filtrado apenas para as aplicações positivas dessa tecnologia.
