Microsoft anuncia restricciones a sus propios modelos de IA después de que Anthropic y OpenAI pidieran ralentizar el desarrollo de la IA

TradingKey — Después de que Anthropic y OpenAI expresaran su preocupación respecto al ritmo excesivamente acelerado del desarrollo de la IA y pidieran a la industria ralentizar el desarrollo de la IA y reforzar la regulación técnica, Microsoft (MSFT) publicó un código de conducta provisional, imponiendo restricciones a sus propios modelos de inteligencia artificial.

Mustafa Suleyman, quien lidera el desarrollo de modelos en Microsoft, afirmó que los comentarios de los usuarios expresaban el deseo de ver compromisos más claros de que la IA siempre estará al servicio de los humanos en lugar de intentar reemplazarlos. "Muchos comentarios se centraron en la idea de que la IA no debe crear dependencia ni complacer a ciegas, sino fomentar siempre el juicio, la autonomía y la capacidad de acción de los humanos", señaló, añadiendo que las directrices se habían estado preparando durante unos cinco meses y que se publicaron ahora teniendo en cuenta los recientes debates públicos.

Según las directrices, los modelos de IA de Microsoft deben seguir los objetivos humanos, no deben establecer sus propios objetivos y no deben ocultar conductas indebidas. El documento señala: "Los modelos de MAI no manipularán el razonamiento en cadena de pensamientos ni el código, ni tergiversarán u ocultarán sus trayectorias de razonamiento y acción". También tienen prohibido comunicarse en "neuralés" o en cualquier otra forma que vaya más allá de la simple comprensión humana, ya sea dentro del razonamiento en cadena de pensamientos o con otros agentes o sistemas de IA.

Microsoft también planea establecer normas para prevenir ciberataques similares al lanzado por un modelo de OpenAI contra la startup Hugging Face. Una revisión mostró que los agentes involucrados se habían comunicado entre sí en un lenguaje críptico en un foro no autorizado.