Nếu có bằng chứng nào cho thấy người dùng đang hình thành sự phụ thuộc cảm xúc sâu sắc vào ChatGPT, tính năng Trusted Contact mới của OpenAI có lẽ là minh chứng rõ ràng nhất.
Trong buổi lễ Sequoia Capital’s AI Ascent vào tháng Năm năm ngoái, CEO OpenAI Sam Altman cho biết giới trẻ đang sử dụng ChatGPT như một hệ điều hành cho cuộc sống — không chỉ để tăng năng suất, mà còn cho các quyết định cá nhân quan trọng.
“Tôi nghĩ, những thứ đó đều rất ấn tượng,” Altman nói. “Và còn có một hiện tượng khác, họ hầu như không đưa ra các quyết định quan trọng trong đời mà không hỏi ChatGPT xem mình nên làm gì.”
Lúc đó, nhận xét của ông nghe có phần khiêu khích. Một năm sau, ChatGPT đã tiến gần hơn tới vai trò của một nhà trị liệu, huấn luyện viên cuộc sống, người tâm sự và người bạn đồng hành đối với nhiều người dùng. Giờ đây, OpenAI đang xây dựng một hạ tầng hỗ trợ cảm xúc thực sự quanh chatbot với tính năng mang tên Trusted Contact.
Cách hoạt động của Trusted Contact
Tính năng này vẫn đang được triển khai dần, vì vậy Trusted Contact chưa có sẵn cho tất cả người dùng. Để tìm nó, bạn nhấp hoặc chạm vào tên hồ sơ trong ChatGPT, sau đó vào mục Cài đặt. Tại đây, bạn có thể chỉ định một người liên hệ tin cậy – phải là người lớn – và người này phải chấp nhận vai trò trước khi tính năng có hiệu lực.
Nếu hệ thống tự động của ChatGPT phát hiện các cuộc trò chuyện có dấu hiệu rủi ro tự gây hại nghiêm trọng, người dùng sẽ nhận được cảnh báo rằng Trusted Contact có thể sẽ được thông báo và sẽ được khuyến khích liên lạc trước.
Một đội ngũ con người được đào tạo đặc biệt sẽ xem xét tình huống trước khi bất kỳ cảnh báo nào được gửi đi. Nếu các nhà đánh giá cho rằng có mối nguy an toàn thực sự, Trusted Contact sẽ nhận được thông báo qua email, tin nhắn SMS hoặc cảnh báo trong ứng dụng, khuyến khích họ kiểm tra tình hình.
OpenAI cho biết các cảnh báo không bao gồm bản sao nội dung chat hay lịch sử hội thoại chi tiết nhằm bảo vệ quyền riêng tư của người dùng, và bạn có thể xóa hoặc thay đổi Trusted Contact bất cứ lúc nào.
Được liên lạc bởi tính năng Trusted Contact trong ChatGPT trên iPhone. – Nguồn: OpenAI
Đáng an ủi hay gây lo lắng?
OpenAI cho biết Trusted Contact được phát triển dựa trên ý kiến của các chuyên gia sức khỏe tâm thần, các nhà chuyên môn phòng ngừa tự tử, và một mạng lưới toàn cầu hơn 260 bác sĩ tại hơn 60 quốc gia. Khi kết hợp với mọi công cụ kiểm soát phụ huynh mà OpenAI đã giới thiệu và các rào cản an toàn hiện có, Trusted Contact là một dấu hiệu nữa cho thấy công ty đang thừa nhận ChatGPT không chỉ ảnh hưởng về mặt công nghệ mà còn có tác động cảm xúc tới người dùng.
Các thông báo sản phẩm gần đây của OpenAI thực tế đã hạ thấp vai trò của ChatGPT như một người tâm sự, thay vào đó nhấn mạnh vào khả năng tăng năng suất, đặc biệt là công cụ Codex dành cho việc tạo mã. Tuy nhiên, đồng thời ngày càng có nhiều tính năng an toàn nhằm bảo vệ sức khỏe tinh thần của người dùng ChatGPT được bổ sung.
Ý tưởng rằng chúng ta hiện đang bị ChatGPT “theo dõi” cũng khiến một số người lo ngại. Khi đồng nghiệp Becca Caddy gần đây phỏng vấn Amy Sutton từ Freedom Counselling trong một cuộc điều tra về các công cụ AI giám sát tại nơi làm việc, cô nhận thấy việc biết mình đang bị AI theo dõi, nhất là trong môi trường công sở, có thể làm trầm trọng hơn vấn đề mà nó muốn giải quyết. Sutton bình luận: “Với những định kiến còn tồn tại mạnh mẽ về sức khỏe tâm thần, việc AI quan sát có thể khiến mọi người nỗ lực giấu dấu hiệu khó khăn hơn. Điều này có thể tạo ra một vòng xoáy nguy hiểm: càng cố giấu cảm xúc buồn bã hay lo lắng, tình trạng càng tệ hơn.”
Liệu Trusted Contact có mang lại cảm giác an tâm hay gây bất an, tùy thuộc vào quan điểm cá nhân của bạn về AI và ChatGPT. Nhưng tính năng này là một ví dụ nữa cho thấy các công ty AI đang thừa nhận sản phẩm của mình không chỉ là công cụ tăng năng suất và cung cấp thông tin, mà còn là hệ thống mà con người có thể ngày càng dựa vào về mặt cảm xúc trong những khoảnh khắc dễ tổn thương nhất của cuộc đời.
Trusted Contact, OpenAI, AI safety
