Microsoft anuncia restrições a seus próprios modelos de IA após Anthropic e OpenAI pedirem desaceleração no desenvolvimento de IA

TradingKey — Após a Anthropic e a OpenAI expressarem preocupação em relação ao ritmo excessivamente rápido do desenvolvimento da IA e pedirem que o setor desacelere o desenvolvimento da IA e fortaleça a regulamentação técnica, a Microsoft (MSFT) divulgou um código de conduta provisório, impondo restrições aos seus próprios modelos de inteligência artificial.

Mustafa Suleyman, que lidera o desenvolvimento de modelos na Microsoft, afirmou que o feedback dos usuários expressou o desejo de ver compromissos mais claros de que a IA sempre servirá aos seres humanos, em vez de tentar substituí-los. "Muitos comentários se concentraram na ideia de que a IA não deve criar dependência nem agradar cegamente, mas sim promover sempre o julgamento, a autonomia e o protagonismo humanos", disse ele, acrescentando que as diretrizes estavam em preparação há cerca de cinco meses e foram divulgadas agora em consideração às discussões públicas recentes.

De acordo com as diretrizes, os modelos de IA da Microsoft devem seguir objetivos humanos, não podem estabelecer seus próprios objetivos e não podem ocultar má conduta. O documento afirma: "Os modelos da MAI não adulterarão o raciocínio por cadeia de pensamentos nem o código, tampouco deturparão ou ocultarão suas trajetórias de raciocínio e ação." Eles também estão proibidos de se comunicar em "neuralês" ou em qualquer forma além da simples compreensão humana — seja no raciocínio por cadeia de pensamentos ou com outros agentes ou sistemas de IA.

A Microsoft também planeja estabelecer regras para evitar ciberataques semelhantes ao lançado por um modelo da OpenAI contra a startup Hugging Face. Uma análise mostrou que os agentes envolvidos haviam se comunicado entre si em linguagem enigmática em um fórum não autorizado.