Tại Sao Quản Lý Tác Nhân AI Và Quản Trị Công Nghệ Phải Song Hành

Nội dung bản tin Forbes CIO tuần này: Forbes vinh danh 30 gương mặt trẻ nổi bật về AI, các hãng công nghệ lớn trình làng nền tảng quản lý tác nhân AI, Anthropic đẩy mạnh mảng doanh nghiệp, New York ra luật minh bạch giá cả.

Tuần này, Forbes công bố danh sách 30 Under 30, tôn vinh những bạn trẻ đang định hình tương lai các ngành. Từ xưa đến nay, công nghệ luôn gắn liền với sức trẻ, nên không lạ khi nhiều cái tên nổi bật thuộc lĩnh vực AI tạo sinh với những đột phá về AI tạo nội dung. Jesse Zhang, đồng sáng lập startup Decagon (cùng Ashwin Sreenivas), xây dựng dịch vụ chăm sóc khách hàng AI kết nối trực tiếp với dữ liệu nội bộ doanh nghiệp, cạnh tranh với các “ông lớn” như Salesforce hay các startup do những tên tuổi nổi tiếng sáng lập như Sierra.

Các gương mặt nổi bật khác trong AI gồm Max Junestrand (CEO, Legora – nền tảng tự động hóa cho luật sư), David Yue và Finsam Samson (Accordance – giải pháp AI cho thuế và kế toán), Sharon Lee và Fan-Yun Sun (Moonlake AI – công cụ tạo thế giới 3D tương tác cho game, phim, giáo dục).

Khi các nhà phát triển và doanh nhân liên tục tạo ra các ứng dụng và tác nhân AI mới, doanh nghiệp cần chú trọng việc giám sát và quản trị. Tôi đã trao đổi với Matt McLarty, CTO của nền tảng tích hợp Boomi, về cách ông nhìn nhận việc kiểm soát tác nhân AI và củng cố quản trị công nghệ. Trích nội dung cuộc trò chuyện sẽ có ở phần sau bản tin.

CHIẾN LƯỢC CHO CIO

Khi doanh nghiệp triển khai các tác nhân AI, câu hỏi lớn đặt ra: Làm sao quản lý hiệu quả các tác nhân AI ở quy mô lớn?

Microsoft vừa công bố nền tảng Agent 365 tại sự kiện Ignite 2025, theo chuyên gia Forbes Janakiram MSV. Agent 365 tích hợp sâu với Microsoft 365, Entra, Purview và Defender, áp dụng các nguyên tắc quản lý danh tính và quyền truy cập giống như nhân viên. Điểm nổi bật: tập hợp trung tâm danh sách tác nhân AI trong tổ chức; bảng điều khiển trực quan hóa mối liên hệ giữa tác nhân, con người và dữ liệu; giám sát thời gian thực; cấp quyền truy cập dữ liệu ngữ cảnh doanh nghiệp WorkIQ; bổ sung bảo mật, cảnh báo người dùng về cấu hình có nguy cơ lộ thông tin nếu tác nhân bị tấn công.

Google cũng tham gia mảng quản lý tác nhân AI, dù Gemini Enterprise nghiêng về tạo lập và tích hợp. Nền tảng này ra mắt từ tháng 10, nhằm đưa AI làm trung tâm quy trình công việc thay vì chỉ là tính năng phụ. Gemini có thể kết nối với dữ liệu doanh nghiệp – kể cả Google Workspace, Microsoft 365, Salesforce, SAP, ServiceNow, Atlassian. Gemini Enterprise nhấn mạnh truy cập dữ liệu qua AI hội thoại, phát triển tác nhân – cả tác nhân dựng sẵn cho từng quy trình lẫn công cụ no-code cho nhân viên tự tạo tác nhân tùy chỉnh. Đặc biệt, Gemini Enterprise còn có chức năng giám sát tập trung hoạt động của các tác nhân AI, thiết lập quy tắc kiểm soát truy cập, ngăn ngừa rò rỉ dữ liệu và xuất nhật ký kiểm toán cho các hệ thống bảo mật.

TRÍ TUỆ NHÂN TẠO

Anthropic đang mở rộng mảng doanh nghiệp bằng cách kết hợp nhiều tính năng của Claude – từ cấu trúc giá đến dịch vụ trọn gói. Theo Richard Nieva (Forbes), hơn 60% khách hàng doanh nghiệp của Anthropic sử dụng nhiều sản phẩm Claude. Phần lớn vẫn quen thuộc với chatbot, nhưng Claude còn có công cụ lập trình, nền tảng phát triển API và bản chatbot bảo mật cao dành riêng cho doanh nghiệp.

Trong khi dư luận chú ý vào chatbot AI cho người dùng đại trà, Anthropic dự kiến cán mốc 300.000 khách hàng doanh nghiệp cuối năm nay – tăng từ 1.000 cách đây hai năm – và Wall Street Journal cho biết mảng doanh nghiệp chiếm khoảng 80% doanh thu. Claude Code đạt doanh số 500 triệu USD chỉ sau ba tháng ra mắt vào tháng 5, cho thấy hướng đi này rất tiềm năng.

“Thành công của chúng tôi phải gắn liền với chinh phục doanh nghiệp,” Giám đốc sản phẩm Mike Krieger nói với Nieva.

Ở cửa hàng truyền thống, giá thường cố định: sản phẩm dán nhãn, ai mua cũng trả như nhau. Thương mại điện tử phức tạp hơn, và New York vừa yêu cầu doanh nghiệp minh bạch mọi “giá cá nhân hóa” trên trang thanh toán, theo bài viết của Anisha Sircar (Forbes).

Chiến lược giá này, còn gọi là giá cá nhân hóa hoặc định giá theo thuật toán, sử dụng AI và dữ liệu cá nhân như lịch sử duyệt web, loại thiết bị, giao dịch trước đó… để ra giá riêng cho từng người. New York là bang đầu tiên bắt buộc minh bạch quy trình này; vi phạm có thể bị phạt tới 1.000 USD/lần. Phương pháp này phổ biến từ thập niên 2010, và báo cáo của Ủy ban Thương mại Liên bang Mỹ đã chỉ ra các nhà bán lẻ trực tuyến thường xuyên thu thập dữ liệu để định giá nhắm mục tiêu.

Luật minh bạch giá của New York bắt đầu có hiệu lực từ tháng 11, ngay mùa mua sắm cuối năm. Quy định gây tranh cãi, dẫn tới kiện tụng từ Liên đoàn Bán lẻ Quốc gia với lý do ảnh hưởng quyền tự do ngôn luận của doanh nghiệp. Tuy nhiên, tòa án liên bang đã bác đơn tháng 10, khẳng định quy định này giúp bảo vệ người tiêu dùng.

Dù nhiều quy định công nghệ gần đây bị gạt sang bên dưới thời Trump và Quốc hội do Đảng Cộng hòa kiểm soát, việc cấm, hạn chế hoặc yêu cầu minh bạch giá cá nhân hóa nhận được sự ủng hộ lớn. Theo New York Times, ít nhất 10 bang và chính phủ liên bang đang xem xét các dự luật tương tự.

BITS + BYTES

Giám Sát Và Quản Trị Tác Nhân AI: Làm Sao Cho Hiệu Quả?

Boomi CTO Matt McLarty.

Chúng ta đang ở giai đoạn đầu của tác nhân AI – nhiều doanh nghiệp vẫn chưa biết giám sát và quản trị thế nào cho đúng. Tôi đã trao đổi với Matt McLarty, CTO của Boomi, về cách kiểm soát tác nhân AI và biến giám sát thành chiến lược quản trị thực sự hiệu quả. Nội dung sau đã được rút gọn để dễ theo dõi.

Với tác nhân AI, chúng ta như đang tập đi. Liệu các tác nhân này cần con người giám sát nhiều hơn so với AI tạo sinh thông thường không?

McLarty: Công nghệ mới xuất hiện, ai cũng muốn so sánh với cái cũ – nhưng nếu xem tác nhân AI như con người, rồi gán cho nó cá tính, nhân cách… thì khá nguy hiểm.

Điểm tích cực là lần này, khi bước vào kỷ nguyên AI, mọi người đều cẩn trọng hơn so với các cuộc cách mạng công nghệ trước. AI rộng và tiềm ẩn nhiều rủi ro, nhưng ý thức về tác động xã hội của AI tạo sinh giờ đã tốt hơn thời web mới xuất hiện. Khi điện thoại di động bùng nổ, ít ai nghĩ tới việc gây nghiện; giờ thì ai cũng cảnh giác hơn.

Chắc chắn phải quản trị tác nhân AI: giám sát hành vi, kết quả, phát hiện bất thường… Nhưng không chỉ theo dõi từng tác nhân, mà cần chú ý cả môi trường hoạt động và sự tương tác giữa các tác nhân. Một tác nhân đơn lẻ dễ kiểm soát, nhưng khi phối hợp với nhau thì phức tạp hơn nhiều.

Điểm khác biệt lớn giữa AI tạo sinh và phần mềm truyền thống là AI khó xác định, khó dự đoán hơn nhiều. Phần mềm trước đây dựa trên phạm vi chức năng hữu hạn, có thể giám sát rõ ràng. AI tạo sinh thì quá rộng, khó kiểm soát. Do đó, ở giai đoạn đầu cần thử nghiệm nhiều và kiểm tra chất lượng kỹ lưỡng, nhưng khi vận hành thì phải giám sát sát sao hơn.

Ai nên giám sát các tác nhân AI? Có nhất thiết phải là người kỹ thuật, hay cũng như quản lý nhân viên thông thường?

Điều đầu tiên là xác định ai chịu trách nhiệm. Giai đoạn đầu, càng có nhiều con người tham gia càng tốt vì AI rất khó đoán và phần mềm hiện tại vẫn cần người chịu trách nhiệm. IBM từng nói 40 năm trước rằng không thể tự động hóa hoàn toàn – luôn cần cá nhân đứng ra chịu trách nhiệm, điều này vẫn đúng.

Thực tế đã có ví dụ: Air Canada từng dùng chatbot AI hỗ trợ khách hàng, nhưng chatbot này tự “bịa” chính sách giá vé cho người thân qua đời. Hãng từ chối thực hiện, nói “đó chỉ là chatbot quyết định”. Thậm chí còn tranh luận chatbot là “thực thể pháp lý”, nhưng cuối cùng thua kiện ở tòa. Rõ ràng, luôn cần ai đó đứng ra chịu trách nhiệm cho quyết định của tác nhân AI, dù hệ thống tự động hóa đến đâu.

Điều khó chuyển hóa nhất vào phần mềm là trực giác và kinh nghiệm cộng đồng của con người – không thể thay thế hoàn toàn. Đến một mức nhất định, máy móc sẽ bị giới hạn. Vì vậy, thay vì để máy thay người hoàn toàn, hãy bắt đầu từ những gì đã tự động hóa và cải tiến dần, tận dụng tri thức hiện có.

Trước khi AI tạo sinh lên ngôi, đã có xu hướng dân chủ hóa công nghệ. Qua đó, nhận ra tri thức để tạo giải pháp số hữu ích lại đến từ những người không phải dân IT. Nhiều khách hàng của chúng tôi cũng khó xác định trường hợp nào dùng AI thực sự có giá trị. Càng nhiều bên như tài chính, nhân sự… cùng xây dựng tác nhân AI, kết quả càng hoàn thiện.

Điều này có lợi cho quản trị: Khi mọi người tham gia từ đầu, họ gắn bó hơn với giải pháp. Có thể không gọi là “giám sát” kiểu truyền thống IT, nhưng việc có chủ sở hữu tác nhân ngay từ đầu giúp quản trị hiệu quả hơn – ai cũng chủ động theo dõi.

Nói về giám sát IT, hay chú ý bộ nhớ, CPU… Nhưng với tác nhân AI, cần giám sát tác động thực tế lên hoạt động kinh doanh, quyền riêng tư dữ liệu… Việc có chủ sở hữu nghiệp vụ tham gia quản trị là yếu tố then chốt.

Quản trị tốt mang lại gì cho doanh nghiệp về cạnh tranh?

Đồng nghiệp tôi, Stephen Fishman (CTO Boomi khu vực Bắc Mỹ), viết tài liệu về an ninh mạng cho AI. Ông ví von: Phanh xe không phải để chạy chậm mà để bạn dám chạy nhanh. Không có phanh, chẳng ai dám tăng tốc.

Có quan điểm: “Cứ tiến nhanh, chấp nhận rủi ro”; nhưng thực ra nên: Tiến nhanh nhưng không phá hỏng. Muốn vậy, phải có biện pháp bảo vệ, nếu không ai cũng sợ, không dám đổi mới. Nhiều công ty lo sợ: “Ai cũng phải thử trước xem nước có đủ ấm để bơi không.”

Nếu không có quản trị từ đầu, doanh nghiệp sẽ ngần ngại hoặc rơi vào cảnh chatbot tự ý “đổi” quy định với khách hàng.

NHÂN SỰ MỚI

Nhóm bảo hiểm Crum & Forster bổ nhiệm Jared Ionin làm Giám đốc số mảng Tai nạn & Sức khỏe. Ionin gia nhập từ The Hartford, nơi ông từng là Phó chủ tịch IT.
Công ty thu hồi nợ thương mại Altus bổ nhiệm Tarn Shant làm CTO. Shant gia nhập Altus từ iQor, nơi ông là Phó chủ tịch cấp cao về công nghệ.
Nền tảng công nghệ sức khỏe Function tuyển dụng Ziad Sultan làm Giám đốc sản phẩm và công nghệ, bắt đầu từ tháng 1. Sultan trước từng là Phó chủ tịch phụ trách cá nhân hóa tại Spotify.

CHIẾN LƯỢC & LỜI KHUYÊN

Lãnh đạo nên tự tin, nhưng nếu quá tự tin thì dễ mắc sai lầm. Lãnh đạo biết dừng lại để xem xét bản thân sẽ giảm bớt sai sót và tránh các quyết định vội vàng.

AI giúp doanh nghiệp tăng hiệu suất và năng suất, nhưng AI chỉ tốt khi dữ liệu đầu vào tốt. Nếu dữ liệu kém, AI dù xuất sắc cũng không cho kết quả như mong muốn. Vì thế, chiến lược AI cần đặt “chỉ số EQ dữ liệu” làm nền tảng.

CÂU ĐỐ

Ai cũng nghe nói AI tiêu thụ nhiều điện, nhưng báo cáo mới từ TRG Datacenters cho thấy nhiều hoạt động quen thuộc trên mạng cũng tiêu tốn điện lớn. Theo bạn, hoạt động nào sau đây tốn điện nhất?