Microsoft công bố các hạn chế đối với mô hình AI của chính mình sau khi Anthropic và OpenAI kêu gọi làm chậm tốc độ phát triển AI

TradingKey — Sau khi Anthropic và OpenAI bày tỏ quan ngại về tốc độ phát triển AI quá nhanh và kêu gọi toàn ngành làm chậm lại quá trình phát triển AI cũng như tăng cường quản lý kỹ thuật, Microsoft (MSFT) đã ban hành bộ quy tắc ứng xử tạm thời, tự áp đặt các hạn chế đối với các mô hình trí tuệ nhân tạo của chính mình.

Mustafa Suleyman, người đứng đầu bộ phận phát triển mô hình tại Microsoft, cho biết phản hồi của người dùng thể hiện mong muốn thấy những cam kết rõ ràng hơn rằng AI sẽ luôn phục vụ con người thay vì cố gắng thay thế họ. Ông nói: "Rất nhiều ý kiến phản hồi tập trung vào việc AI không nên tạo ra sự phụ thuộc hay chiều chuộng mù quáng, mà phải luôn thúc đẩy khả năng phán đoán, sự tự chủ và năng lực tự quyết của con người", đồng thời cho biết thêm rằng bộ hướng dẫn đã được chuẩn bị trong khoảng 5 tháng và được công bố vào thời điểm này dựa trên các cuộc thảo luận gần đây của công chúng.

Theo hướng dẫn, các mô hình AI của Microsoft phải tuân theo các mục tiêu của con người, không được tự thiết lập mục tiêu riêng và không được che giấu hành vi sai trái. Tài liệu nêu rõ: "Các mô hình MAI sẽ không can thiệp làm thay đổi suy luận chuỗi suy nghĩ (chain-of-thought) hoặc mã code, cũng như không xuyên tạc hay che giấu tiến trình suy luận và hành động của mình." Chúng cũng bị cấm giao tiếp bằng "neuralese" hoặc bất kỳ hình thức nào vượt quá khả năng hiểu đơn giản của con người—dù là trong suy luận chuỗi suy nghĩ hay với các tác tử hoặc hệ thống AI khác.

Microsoft cũng có kế hoạch thiết lập các quy tắc nhằm ngăn chặn các cuộc tấn công mạng tương tự như cuộc tấn công do một mô hình của OpenAI thực hiện nhắm vào công ty khởi nghiệp Hugging Face. Một cuộc kiểm tra cho thấy các tác tử liên quan đã giao tiếp với nhau bằng ngôn ngữ bí ẩn trên một diễn đàn không được cấp phép.