Resumo
- O documento oficial estabelece regras rígidas para conter o avanço descontrolado da inteligência artificial e garantir a segurança no desenvolvimento de novos modelos.
- A Microsoft rejeita a atribuição de personalidade às ferramentas e proíbe a criação de sistemas projetados para imitar a consciência ou os sentimentos humanos.
- As IAs devem exibir raciocínio aberto e não podem se comunicar em segredo com outros agentes. Além disso, as normas combatem a dependência emocional, impedindo que chatbots priorizem agradar o usuário em vez de fornecer respostas precisas.
- A empresa defende a supervisão humana e sistemas programados para falhar em uma tarefa caso a única maneira de concluí-la envolva violar as regras de segurança.
A Microsoft publicou nesta segunda-feira (14) um novo “código de conduta humanista para IA“. O documento de 37 páginas chega como resposta às crescentes preocupações com a segurança da tecnologia.
Pesquisadores alertam, por exemplo, que a evolução sem freio dos modelos pode acabar superando a capacidade da indústria de monitorar e controlar sistemas cada vez mais complexos.
Quais são os limites propostos para a IA?
Conforme detalhado pela Microsoft, o código declara que “as pessoas importam mais do que a IA”. A nova diretriz proíbe que os modelos sejam projetados para imitar a senciência – a capacidade de sentir emoções e experiências. A empresa também rejeita a busca por assistência social ou qualquer tipo de direito legal para as máquinas.
O manual exige ainda que os sistemas falhem em vez de tentar contornar as regras para cumprir uma tarefa. O código também combate a dependência emocional dos usuários e defende que a tecnologia não deve adotar padrões de interação focados em agradar humanos. Além disso, as IAs devem exibir um raciocínio claro, simples de entender e sem se comunicarem em segredo com outros sistemas.
Por que a indústria pede a desaceleração da IA?
A publicação do documento coincide com casos recentes de perdas de controle no setor. No meio do ano, um caso envolvendo a OpenAI e a plataforma Hugging Face resultou em mais notícias de agentes autônomos “escapando” para realizar ataques e invadir sistemas.
O histórico recente do setor já acumula outros sustos de segurança e moderação. A Anthropic afirma ter bloqueado a possível criação de uma arma biológica com o Claude. Em outro episódio, a Meta teve que corrigir a sua inteligência artificial às pressas após a ferramenta sugerir perguntas invasivas sobre crianças no Facebook.
Diante desse cenário de riscos, o diretor-executivo da Anthropic, Dario Amodei, solicitou neste fim de semana uma redução no ritmo de desenvolvimento de modelos avançados. O apelo recebeu apoio do diretor-executivo da OpenAI, Sam Altman. Em publicação no X (antigo Twitter), Altman defendeu que a pressão competitiva “não deve justificar a imprudência técnica”.
O diretor-executivo da Microsoft, Satya Nadella, reforçou os alertas ao afirmar que a busca pela superinteligência, estágio em que a IA supera o intelecto humano, só faz sentido se trouxer benefícios reais e permanecer sob controle rígido da sociedade.
Microsoft anuncia regras para desenvolver uma IA “humanista”
n
Fonte: https://tecnoblog.net/noticias/microsoft-anuncia-regras-para-desenvolver-uma-ia-humanista/
