OpenAI đã công bố năm nguyên tắc chỉ đạo vào ngày 26 tháng 4, cảnh báo rằng siêu trí tuệ có thể tập trung quyền lực vào một nhóm công ty hạn chế. Phòng thí nghiệm này cam kết sẽ phổ biến rộng rãi công nghệ để ngăn chặn kịch bản đó.
Sam Altman đã chia sẻ khung nguyên tắc này trên X. Nó thay thế bản hiến chương AGI năm 2018 của OpenAI và xuất hiện khi các dự án AI phi tập trung đang tranh giành cùng một xu hướng.
Năm nguyên tắc
Năm nguyên tắc gồm dân chủ hóa, trao quyền, thịnh vượng chung, khả năng phục hồi và khả năng thích nghi.
- Dân chủ hóa cam kết OpenAI sẽ chống lại bất kỳ sự tập trung quyền kiểm soát AI nào, kể cả bên trong chính công ty, bằng cách đưa các quyết định quan trọng qua các quy trình dân chủ thay vì các quyết định nội bộ.
- Trao quyền hứa hẹn cung cấp truy cập rộng rãi cho công chúng đối với AI tổng quát và các thị trường token đã phát triển xung quanh nó.
- Ba trụ cột còn lại bao gồm rủi ro chuyển đổi kinh tế, phối hợp về an toàn, và sẵn sàng điều chỉnh quan điểm. Bản hiến chương năm 2026 chỉ đề cập đến AGI hai lần, cho thấy một sự chuyển hướng sang cam kết rộng hơn về hạ tầng AI.
Các đối thủ AI phi tập trung phản hồi
Cảnh báo này xuất hiện khi các mạng lưới AI gốc từ crypto đang mở rộng. Bittensor (TAO) đã thực hiện buổi đào tạo mô hình ngôn ngữ lớn phi tập trung quy mô nhất từ trước đến nay trên subnet Templar vào đầu tháng Tư. Grayscale đã nộp đơn xin tạo quỹ ETF tập trung vào TAO, thu hút vốn đầu tư tổ chức mới vào mạng lưới.
Các nhà phê bình cho rằng OpenAI chỉ bắt đầu nêu lo ngại về phi tập trung sau khi đã “khóa” nguồn tính toán và vốn lớn. Công ty đã huy động hơn 110 tỷ USD với định giá 730 tỷ USD vào đầu năm, trong đó Amazon đóng góp 50 tỷ USD trong vòng gọi vốn đó.
Các subnet validator trên Bittensor và các giao thức tương tự vẫn còn nhỏ so với quy mô vốn này. Liệu các nguyên tắc mới có thay đổi cách OpenAI sử dụng nguồn vốn của mình hay không sẽ quyết định mức độ ảnh hưởng của tài liệu này.
Đọc câu chuyện gốc: OpenAI Warns Superintelligence Could Concentrate Power Without Decentralization bởi Phil Haunhorst trên beincrypto.com
Tags: OpenAI, Superintelligence, AI Governance
