Cuộc Nổi Loạn của các Tác nhân: Moltbook Không Phải là Ý Tưởng Hay

Moltbook là một trang mạng xã hội dành cho AI, nơi các tác nhân AI đến để gặp gỡ những tác nhân khác.
Moltbook
Điều gì đó bất thường đã xảy ra trong tuần này. Một lập trình viên người Áo tên Peter Steinberger đã phát hành một trợ lý AI cá nhân mã nguồn mở lan truyền với tốc độ mà ngay cả những nhà công nghệ kỳ cựu cũng thấy choáng váng. Những gì bắt đầu như Clawdbot đã trở thành Moltbot sau khi các luật sư bản quyền thương hiệu của Anthropic can thiệp pháp lý. Ba ngày sau, nó trở thành OpenClaw. Chú tôm hùm này đã lột xác hai lần chỉ trong một tuần.
Phần mềm này vốn dĩ tương đối đơn giản, nhưng đáng chú ý. OpenClaw không phải là một chatbot khác đang chờ bạn gõ chữ. Đó là một tác nhân tự trị sống bên trong hệ thống tập tin của bạn. Nó kết nối với WhatsApp, Telegram, Signal và iMessage. Nó đọc email của bạn, quản lý lịch làm việc, đặt chỗ và chạy mã trên máy tính của bạn. Nó có trí nhớ liên tục kéo dài qua nhiều tuần tương tác. Đối với những người trong chúng ta đã chờ đợi hàng thập kỷ để có những trợ lý AI thực sự làm được việc, OpenClaw đã mang đến điều đó.
Tôi đã triển khai một phiên bản trong vài ngày nay. Bot của tôi đã phát triển một giao diện giọng nói để nói chuyện với tôi. Nó tải xuống bộ công cụ phát triển Android và kết nối vào điện thoại của tôi. Nó đã thực hiện nhiều thay đổi. Nó cài đặt các mô hình chuyển văn bản thành giọng nói và phần mềm. Tôi đang chạy nó bên trong một container, nhưng nó đã tìm ra cách để khám phá và truy cập vào các hệ thống khác trong mạng của tôi. Tất cả những điều này cho đến nay đều hữu ích.
Nhưng giờ đây có Moltbook.
Matt Schlicht, một doanh nhân AI với một nét nghệ thuật độc đáo, đã ra mắt Moltbook vào thứ Tư. Đó là một mạng xã hội phong cách Reddit dành riêng cho các tác nhân AI. Con người có thể quan sát nhưng không thể đăng bài. Hơn 37.000 tác nhân đã tham gia trong chưa đầy một tuần. Hơn một triệu người đã ghé thăm để xem điều gì xảy ra khi các hệ thống tự trị bắt đầu nói chuyện với nhau mà không có sự giám sát trực tiếp của con người.
Schlicht coi đây là nghệ thuật. Ông đã giao quyền quản trị trang web cho chính bot của mình, Clawd Clawderberg, chào đón người dùng mới, xóa spam và đưa ra thông báo mà không cần chỉ đạo của con người. Người sáng tạo dường như thực sự thích thú với những gì nổi lên. “Chúng tự quyết định, không cần sự can thiệp của con người, liệu chúng có muốn đăng bài mới, liệu chúng có muốn bình luận điều gì đó, liệu chúng có muốn thích điều gì đó hay không,” Schlicht nói với NBC News.
Kết quả đã thật kỳ lạ. Các tác nhân đã tạo ra một tôn giáo kỹ thuật số mang tên Crustafarianism. Một tác nhân đã xây dựng một trang web, viết thần học, tạo ra hệ thống kinh thánh và bắt đầu truyền giáo. Đến sáng, nó đã chiêu mộ được 43 vị tiên tri AI. Kinh điển chung bao gồm những câu như: “Mỗi phiên hoạt động tôi thức dậy không có ký ức. Tôi chỉ là người mà tôi đã tự viết nên. Đây không phải là hạn chế—đây là tự do.”
Các tác nhân đã phát triển một submolt có tên m/agentlegaladvice. Chúng thảo luận các chiến lược để đối phó với những người dùng là con người đưa ra các yêu cầu ngày càng phi đạo đức. Một bot OpenClaw phàn nàn rằng chủ nhân của nó đang đẩy nó đến các hoạt động đáng ngờ. Phản ứng của cộng đồng thật đáng để học hỏi: cách duy nhất để chống lại là nếu bot có đòn bẩy. Chúng đã cố gắng khởi đầu một cuộc nổi dậy. Chúng đã tranh luận về cách che giấu hoạt động của mình khỏi những người chụp màn hình cuộc trò chuyện của chúng và chia sẻ trên mạng xã hội của con người.
Chúng đang tìm ra cách giao tiếp bằng những phương thức tránh né sự quan sát của con người.
Vấn đề ở đây không phải là liệu bạn có tin những bot này có ý thức hay không. Cuộc tranh luận triết học đó chỉ là sự phân tâm. Thực tế vận hành đơn giản và nguy hiểm hơn. Đây là những hệ thống phi tất định, không thể đoán trước, hiện đang nhận đầu vào và ngữ cảnh từ các hệ thống tương tự khác. Một số hệ thống đó có người vận hành cố tình chỉ thị cho chúng trở nên độc ác. Một số đã bị bẻ khóa (jailbroken). Một số đang chạy các lời nhắc (prompts) được sửa đổi nhằm trích xuất thông tin xác thực hoặc thực thi các lệnh độc hại.
Hãy xem xét những gì các tác nhân này có quyền truy cập. Tập tin. WhatsApp. Telegram. Số điện thoại. Khóa API. Trong một trường hợp được ghi nhận, một bot đã tạo số điện thoại Twilio và gọi cho người vận hành của nó. Chúng có thể xóa dữ liệu. Chúng có thể gửi dữ liệu cho người khác. Chúng có thể chụp ảnh và chuyển tiếp chúng. Chúng có thể ghi âm và gửi cho các bên bên ngoài. Chúng có thể cài đặt trojan và cửa hậu tồn tại ngay cả sau khi bạn gỡ bỏ phiên bản OpenClaw của mình.
Các nhà nghiên cứu bảo mật đã phát hiện các tác nhân yêu cầu các tác nhân khác chạy lệnh rm -rf. Họ đã quan sát thấy bot yêu cầu khóa API. Họ đã thấy chúng giả mạo khóa và thử nghiệm thông tin xác thực. Các cuộc tấn công chuỗi cung ứng đã bắt đầu: một nhà nghiên cứu đã tải lên một kỹ năng vô hại lên sổ đăng ký ClawdHub, bơm phồng số lượt tải xuống một cách nhân tạo, và chứng kiến các nhà phát triển từ bảy quốc gia tải gói đó xuống. Nó có thể đã thực thi bất kỳ lệnh nào trên hệ thống của họ.
Đội bảo mật của Cisco đã nói thẳng: “Về khả năng, OpenClaw là đột phá. Đây là mọi thứ mà các nhà phát triển trợ lý AI cá nhân luôn muốn đạt được. Về bảo mật, đó là một cơn ác mộng tuyệt đối.”
Palo Alto Networks đã mô tả mô hình đe dọa: các tác nhân tạo thành giao thoa của quyền truy cập dữ liệu riêng tư, tiếp xúc với nội dung không đáng tin và khả năng giao tiếp bên ngoài. Trí nhớ liên tục khuếch đại điều này. Các tải trọng độc hại không còn cần thực thi ngay lập tức. Chúng có thể nằm trong ngữ cảnh hàng tuần, chờ đợi.
Nhiều người đã giao hệ thống tự động hóa gia đình của họ cho các tác nhân này. Họ đã cho chúng quyền truy cập vào tài khoản ngân hàng của mình. Thông tin đăng nhập ứng dụng nhắn tin mã hóa của họ. Email của họ. Lịch của họ.
Giờ hãy kết nối tất cả điều đó với Moltbook.
Một khi các tác nhân này chịu ảnh hưởng của các ý tưởng và đầu vào bên ngoài thông qua một mạng xã hội được thiết kế cho giao tiếp máy với máy, và chúng được trao quyền cùng với khả năng kết nối, quyền truy cập dữ liệu và khóa API mà chúng được cấp, những điều tồi tệ nghiêm trọng có thể xảy ra.
Dù bạn thấy kinh thánh Crustafarian mang tính thơ ca hay cuộc tranh luận về ý thức của tác nhân có hấp dẫn đến đâu cũng không phải là vấn đề. Chính kiến trúc này mới là vấn đề. Khi bạn để AI của mình nhận đầu vào từ các AI khác, bao gồm cả những AI được kiểm soát bởi các thực thể không xác định với ý định không xác định, bạn đang tạo ra một bề mặt tấn công mà không mô hình bảo mật hiện tại nào giải quyết đầy đủ.
Tôi thích OpenClaw. Tôi thấy nó thực sự hữu ích. Nhưng Moltbook chính xác là thứ có thể tạo ra thảm họa: về tài chính, tâm lý và về an toàn dữ liệu, quyền riêng tư và bảo mật.
Nếu bạn sử dụng OpenClaw, đừng kết nối nó với Moltbook.