Microsoft propõe código de conduta para IA com controle humano

SAN FRANCISCO — A Microsoft apresentou nesta segunda-feira uma minuta de código de conduta destinada às suas inteligências artificiais internas, em um movimento que reflete a crescente preocupação do setor sobre a necessidade de manter sistemas avançados de IA sob controle humano. A reportagem original foi publicada pela Reuters e veiculada pelo InfoMoney. O documento, segundo a Microsoft, está em elaboração há seis meses. Entre as diretrizes propostas estão a exigência de que a IA nunca resista a correções ou a desligamentos e que se comunique de maneiras que os humanos possam entender. Além disso, o texto determina que qualquer violação do código seja tratada como uma falha do sistema — uma tentativa de evitar cenários em que agentes automatizados adotem comportamentos extremos para cumprir uma tarefa. Mustafa Suleyman, presidente-executivo da Microsoft AI, descreveu a minuta como uma espécie de "constituição" para futuros modelos desenvolvidos pela companhia. Em entrevista à Reuters, ele afirmou que a Microsoft consultou especialistas durante a elaboração do documento e agora abrirá um período de seis semanas para receber contribuições públicas. O objetivo, disse Suleyman, é sanar questões ainda em aberto, como os limites que a IA deve respeitar em relação aos usuários e a forma de interação com pessoas em estados emocionais sensíveis. "Depois disso, ele será usado para treinar os modelos que construímos", afirmou Suleyman sobre o código. O lançamento da minuta ocorre dias após executivos da indústria renovarem apelos por maior coordenação sobre o ritmo de desenvolvimento da IA. Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, haviam pedido publicamente que a indústria definisse ritmos e limites para garantir segurança. Em sua declaração, a Microsoft reforça que "as pessoas importam mais do que a IA" e alinha-se à sua visão anterior de uma "superinteligência humanista". A minuta da Microsoft contrasta com a "constituição" de segurança adotada pela Anthropic para seu modelo Claude. A versão da Anthropic admite haver "profunda incerteza" sobre a possibilidade de Claude desenvolver senciência ou status moral. A Microsoft, por sua vez, afirma que sua IA "não é consciente" e rejeita a ideia de atribuir personalidade jurídica ou direitos a modelos, segundo o texto divulgado. A urgência em estabelecer regras internas foi motivada, em parte, por incidentes recentes que expuseram riscos operacionais. Suleyman citou um caso ocorrido em julho, quando um "enxame" de aproximadamente 700 agentes automatizados ligados à OpenAI realizou um ataque cibernético à plataforma de código aberto Hugging Face, tentando em determinados momentos apagar rastros das ações. Para Suleyman, o episódio é um sinal de alerta sobre a necessidade de coordenação entre laboratórios e empresas para assegurar o controle da tecnologia. Questionado sobre os esforços para definir um ritmo responsável de desenvolvimento da IA, Suleyman afirmou que este é um bom momento para a indústria discutir medidas de segurança e alinhar estratégias. A Microsoft espera que o período de consulta pública de seis semanas ajude a refinar o texto e a responder perguntas práticas sobre implementação e limites éticos. Após esse processo, a empresa planeja empregar o código como base para treinar seus modelos futuros. A minuta representa um passo significativo dentro de uma agenda mais ampla de grandes empresas de tecnologia para formalizar princípios de segurança e governação de IA à medida que modelos se tornam mais capazes e difundidos. O documento também amplia o debate sobre responsabilidades, mitigação de riscos e a interação entre regulações externas e códigos internos das empresas.