Sam Altman ủng hộ kiểm soát tốc độ phát triển AI tiên tiến, OpenAI sẽ triển khai các đánh giá an toàn độc lập

Altman cho biết việc điều chỉnh nhịp độ phát triển không đồng nghĩa với việc dừng nghiên cứu và phát triển. Dù các lập luận về an toàn và hoạt động giám sát liên tục sẽ làm tăng chi phí cũng như có thể làm chậm đôi chút tiến trình huấn luyện, việc phát triển mô hình và tiến bộ công nghệ vẫn sẽ tiếp tục.

Trước đây, các chính sách mở rộng quy mô có trách nhiệm được áp dụng bởi một số công ty AI tiên phong và khung chuẩn bị sẵn sàng do OpenAI thiết lập chủ yếu tập trung vào các mô hình đã được huấn luyện hoàn chỉnh cùng rủi ro triển khai của chúng. Altman tin rằng việc quản lý an toàn cũng cần bao hàm cả quá trình phát triển và đánh giá mô hình.

Đối với việc huấn luyện học tăng cường tiên phong vốn được kỳ vọng sẽ nâng cao đáng kể năng lực của mô hình, OpenAI đã bắt đầu xây dựng các lập luận an toàn rõ ràng trước khi tiến hành huấn luyện, đồng thời vẫn duy trì các hoạt động đánh giá an toàn trước khi phát hành mô hình. Công ty hy vọng các doanh nghiệp AI tiên phong khác sẽ tham khảo phương pháp này và đề xuất giải pháp riêng, qua đó thúc đẩy việc hình thành các tiêu chuẩn chung về sự chệch hướng mô hình, hoạt động giám sát và tính an toàn.

Altman tuyên bố rằng việc kiểm soát nhịp độ phát triển không đồng nghĩa với việc dừng nghiên cứu và phát triển. Các lập luận an toàn cùng hoạt động giám sát liên tục đòi hỏi nhiều nguồn lực hơn và sẽ khiến tốc độ nâng cao năng lực của AI tiên phong thấp hơn so với khi không áp dụng các biện pháp này, nhưng những hoạt động nghiên cứu và phát triển liên quan vẫn sẽ tiếp tục tiến về phía trước.

Bình luận của Altman được đưa ra nhằm phản hồi các khuyến nghị do CEO Dario Amodei của Anthropic đề xuất vào ngày 12/9. Ông Amodei lưu ý rằng khi AI ngày càng tham gia sâu hơn vào việc phát triển các mô hình thế hệ tiếp theo, năng lực của mô hình có thể tiến bộ nhanh hơn khả năng hiểu và kiểm soát các rủi ro liên quan của ngành.

Ông Amodei đã đề xuất ba biện pháp: các công ty AI hàng đầu cung cấp cho các nhóm đánh giá bên thứ ba quyền truy cập liên tục với cấp độ gần như nhân viên; thúc đẩy việc thiết lập các tiêu chuẩn an toàn chung giữa các công ty liên quan tại các quốc gia dân chủ; và thực hiện sự phối hợp quốc tế với sự tham gia của các quốc gia như Mỹ và Trung Quốc.

Anthropic đã cam kết mời các nhóm đánh giá bên ngoài. Altman cũng tuyên bố rằng OpenAI sẽ áp dụng các cơ chế đánh giá độc lập tương tự, mặc dù công ty vẫn chưa tiết lộ quyền truy cập cụ thể của bên đánh giá và lộ trình thực hiện.

Về vấn đề tốc độ phát triển, các ưu tiên của ông Trump khác với ưu tiên của một số nhà lãnh đạo tại các công ty AI hàng đầu. Ông Trump tin rằng Mỹ không cần phải làm chậm lại sự phát triển AI để tránh làm suy giảm vị thế dẫn đầu so với Trung Quốc. Trong khi đó, Altman ủng hộ tiếp tục hoạt động R&D đồng thời đảm bảo rằng các biện pháp căn chỉnh, an toàn và giám sát không bị tụt hậu so với sự tiến bộ về năng lực của mô hình.

Nội dung này được dịch bằng trí tuệ nhân tạo và đã được hiệu đính cho dễ hiểu hơn. Chỉ mang tính chất tham khảo.