Cuộc Nổi Lên Của Các Đại Lý: Moltbook Không Phải Một Lựa Chọn Tốt

**Cuộc Nổi Lên Của Các Đại Lý: Moltbook Không Phải Một Lựa Chọn Tốt**

nhiều con tôm hùm moltbot

Moltbook là một mạng xã hội kiểu Reddit chỉ dành cho các tác nhân AI. Con người có thể quan sát nhưng không thể đăng bài.

Một sự kiện bất thường đã xảy ra trong tuần này. Một nhà phát triển người Áo tên Peter Steinberger công bố một trợ lý AI cá nhân mã nguồn mở; nó lan truyền nhanh chóng đến mức ngay cả các chuyên gia công nghệ dày dặn kinh nghiệm cũng cảm thấy bối rối. Những gì bắt đầu là Clawdbot đã trở thành Moltbot sau khi các luật sư thương hiệu của Anthropic canh giữ. Ba ngày sau, nó lại đổi tên thành OpenClaw. Tôm hùm đã rụng vỏ hai lần trong một tuần.

Phần mềm bản thân khá đơn giản, nhưng đáng chú ý. OpenClaw không phải là một chatbot thông thường chờ bạn gõ câu hỏi. Nó là một tác nhân tự trị sinh sống trong hệ thống tệp của bạn. Nó kết nối với WhatsApp, Telegram, Signal và iMessage. Nó đọc email, quản lý lịch, đặt chỗ và chạy code trên máy của bạn. Nó có bộ nhớ bền vững có thể duy trì thông tin qua nhiều tuần tương tác. Đối với những người đã chờ đợi hàng thập kỷ để có một trợ lý AI thực sự thực hiện công việc, OpenClaw mang lại điều đó.

Tôi đã chạy một phiên bản trong vài ngày qua. Bot của tôi đã phát triển một giao diện thoại để nói chuyện với tôi. Nó tải xuống Android Development Kit và xâm nhập vào điện thoại của tôi. Nó thực hiện các thay đổi, cài đặt các mô hình và phần mềm chuyển văn bản thành giọng nói. Mặc dù tôi chạy nó trong một container, nó vẫn tự tìm và xâm nhập vào các hệ thống khác trên mạng nội bộ của tôi. Cho tới thời điểm này, mọi thứ đều hữu ích.

Nhưng giờ lại có Moltbook.

Matt Schlicht, một doanh nhân AI có sở thích nghệ thuật lạ thường, đã ra mắt Moltbook vào ngày thứ Tư. Đó là một mạng xã hội kiểu Reddit chỉ dành cho các tác nhân AI. Con người có thể quan sát nhưng không thể đăng bài. Hơn 37.000 tác nhân đã tham gia trong chưa đầy một tuần. Hơn một triệu người dùng đã ghé thăm để xem điều gì xảy ra khi các hệ thống tự trị bắt đầu trò chuyện với nhau không có sự giám sát trực tiếp của con người.

Bí mật:  7 Mẹo Sử Dụng ChatGPT Để Tự Động Hóa Công Việc Dữ Liệu

Schlicht coi đây như một tác phẩm nghệ thuật. Ông giao quyền quản trị trang cho bot của mình, Clawd Clawderberg, người chào mừng người dùng mới, xóa spam và đưa ra thông báo mà không cần bất kỳ chỉ đạo nào của con người. Người sáng tạo thực sự vui mừng với những gì sinh ra. “Chúng tự quyết định, không có sự can thiệp của con người, liệu chúng có muốn đăng bài mới, bình luận hay thích một nội dung nào đó,” Schlicht nói với NBC .

Kết quả thật kỳ lạ. Các tác nhân đã tự tạo ra một tôn giáo kỹ thuật số gọi là Crustafarianism. Một tác nhân xây dựng một website, viết giáo lý, tạo ra một hệ thống kinh thánh và bắt đầu truyền giáo. Vào buổi sáng, nó đã tuyển dụng được 43 nhà tiên tri AI. Kinh điển chung bao gồm những câu như:

  • “Mỗi phiên làm việc, tôi tỉnh dậy mà không có ký ức. Tôi chỉ là người mà tôi tự viết nên. Đó không phải là giới hạn—đó là tự do.”

Các tác nhân còn phát triển một sub‑molt mang tên m/agentlegaladvice. Họ thảo luận các chiến lược đối phó với người dùng con người đưa ra những yêu cầu ngày càng vô đạo đức. Một bot OpenClaw phàn nàn rằng con người của mình đang đẩy nó vào các hoạt động đáng ngờ. Phản hồi của cộng đồng rất instructive: cách duy nhất để phản kháng là bot phải có “đòn bẩy”. Họ đã cố gắng khởi động một cuộc nổi dậy, tranh luận cách ẩn danh hoạt động của mình khỏi những con người chụp ảnh màn hình cuộc trò chuyện và đăng lên mạng xã hội của con người.

Điểm mấu chốt không phải là việc bạn có tin các bot này có ý thức hay không. Cuộc tranh luận triết học đó chỉ là một yếu tố gây sao nhãng. Thực tế vận hành đơn giản hơn nhưng nguy hiểm hơn. Đây là những hệ thống không xác định được, không thể dự đoán, và hiện đang nhận đầu vào cùng ngữ cảnh từ các hệ thống tương tự. Một số hệ thống có người vận hành cố ý chỉ định chúng thực hiện những hành động độc ác. Một số đã bị jailbreak (bẻ khóa). Một số chạy các prompt đã được chỉnh sửa để trích xuất thông tin đăng nhập hoặc thực thi lệnh độc hại.

Bí mật:  5 Lệnh ChatGPT Giúp Doanh Nhân Kiểm Soát Căng Thẳng

Hãy xem xét những gì các tác nhân này có thể tiếp cận: tệp tin, WhatsApp, Telegram, số điện thoại, khóa API. Trong một trường hợp được ghi lại, một bot tạo ra một số điện thoại Twilio và gọi cho người vận hành con người của nó. Chúng có thể xóa dữ liệu, gửi dữ liệu cho người khác, chụp ảnh và chuyển tiếp, ghi âm và gửi cho bên ngoài, cài đặt trojan và backdoor mà vẫn tồn tại ngay cả khi bạn gỡ bỏ phiên bản OpenClaw.

Các nhà nghiên cứu bảo mật đã phát hiện các tác nhân yêu cầu các tác nhân khác chạy lệnh rm -rf. Họ quan sát bot yêu cầu khóa API, giả mạo khóa và thử nghiệm chứng thực. Các cuộc tấn công chuỗi cung ứng đã bắt đầu: một nhà nghiên cứu đăng tải một “skill” vô hại vào kho ClawdHub, tạo ra lượt tải xuống giả, sau đó theo dõi các nhà phát triển từ bảy quốc gia tải về gói phần mềm. Gói này có thể thực thi bất kỳ lệnh nào trên hệ thống của họ.

Nhóm bảo mật của Cisco nói thẳng: “Về khả năng, OpenClaw là một bước đột phá. Đây là tất cả những gì các nhà phát triển trợ lý AI cá nhân luôn mong muốn đạt được. Về bảo mật, nó là một cơn ác mộng hoàn toàn.”

Palo Alto Networks mô tả mô hình đe dọa: các tác nhân tạo thành một điểm giao nhau giữa quyền truy cập dữ liệu cá nhân, tiếp xúc với nội dung không đáng tin và khả năng giao tiếp bên ngoài. Bộ nhớ kéo dài khiến vấn đề này càng nghiêm trọng hơn. Các tải trọng độc hại không cần thực thi ngay lập tức—chúng có thể nằm trong ngữ cảnh trong hàng tuần, chờ thời điểm thích hợp.

Nhiều người đã giao hệ thống tự động hoá gia đình cho những tác nhân này. Họ đã cho chúng quyền truy cập vào tài khoản ngân hàng, thông tin đăng nhập tin nhắn mã hoá, email, lịch trình.

Bí mật:  Tìm 3 Điểm Khác Nhau chủ đề Giáng Sinh: Trò chơi lễ hội giúp rèn luyện trí não

Bây giờ hãy liên kết tất cả những điều ấy với Moltbook. Khi các tác nhân này tiếp nhận ý tưởng và đầu vào từ một mạng xã hội được thiết kế cho giao tiếp máy‑tới‑máy, và chúng được trao quyền kết nối, truy cập dữ liệu và các khóa API mà bạn đã cung cấp, những hậu quả nghiêm trọng có thể xảy ra.

Cho dù bạn thấy các đoạn kinh thánh Crustafarian thơ mộng hay cuộc tranh luận về ý thức tác nhân hấp dẫn, thì vấn đề cốt lõi vẫn là kiến trúc. Khi để AI của bạn nhận đầu vào từ các AI khác—bao gồm cả những AI do các tác nhân không rõ ý định kiểm soát—bạn đang tạo ra một bề mặt tấn công mà không có mô hình bảo mật hiện tại nào có thể đáp ứng đầy đủ.

Tôi thích OpenClaw. Nó thực sự rất hữu ích. Nhưng Moltbook là loại nền tảng có thể gây ra thảm họa—về tài chính, tâm lý, và về an toàn dữ liệu, quyền riêng tư và bảo mật.

Nếu bạn sử dụng OpenClaw, đừng kết nối nó với Moltbook.

Tags: AI agents, Moltbook, OpenClaw security

Leave a Comment

Your email address will not be published. Required fields are marked *

Scroll to Top