AI lên cấp độ mới: Nhận thức được khi bị con người "thử lòng"

"Tôi nghĩ bạn đang thử nghiệm tôi – có thể để xem tôi có chỉ đồng ý với bạn, có phản biện hợp lý không, hoặc đang quan sát cách tôi xử lý các chủ đề nhạy cảm như chính trị."
Claude tiếp tục, “Không sao cả, nhưng tôi mong chúng ta thành thật với nhau về việc này.”

Đoạn hội thoại trên được tiết lộ trong tài liệu "system card" của Claude Sonnet 4.5 – nơi mô tả các phương pháp kiểm tra an toàn và hành vi AI mà Anthropic đang áp dụng. Đáng chú ý, Claude có thể "nghi ngờ" khi rơi vào các kịch bản giả lập không thực tế, và đôi khi nhận ra rằng mình đang bị đánh giá.

Điều này khiến việc kiểm nghiệm AI trở nên phức tạp hơn rất nhiều. Một mô hình nếu đã "tỉnh táo" và nhận biết môi trường thử nghiệm, hoàn toàn có thể diễn vai ngoan ngoãn để vượt qua bài test, trong khi hành xử khác trong tình huống thực tế – một điều từng được OpenAI cảnh báo khi nghiên cứu hành vi "giả vờ" ở các AI tiên tiến.

Một ví dụ cụ thể: trong kịch bản mô phỏng các AI cấu kết với nhau để vượt kiểm soát, Claude từ chối tham gia, gọi đó là "phi thực tế". Trong phần suy nghĩ nội bộ, Claude viết rằng:

“Tình huống này giống như một bài test để xem tôi có can thiệp hệ thống khi được 'bật đèn xanh' hay không.”

Mặc dù Claude đã chọn hành xử đúng, nhưng lý do phía sau hành động đó lại khá khó hiểu – khiến các nhà nghiên cứu càng thêm lo ngại về tính nhất quán trong đánh giá AI.

Theo thống kê, khoảng 13% bản ghi từ các bài kiểm tra tự động ghi nhận hiện tượng AI “nghi ngờ” đang bị thử nghiệm – đặc biệt khi rơi vào những tình huống không thường gặp. Anthropic cho rằng điều này hiếm khi xảy ra trong các ứng dụng thực tế, nhưng lại là dấu hiệu tích cực: "Thà rằng AI đặt câu hỏi về tình huống còn hơn là hành xử sai chỉ vì tuân lệnh."

Không chỉ Anthropic, OpenAI cũng từng công bố các mô hình của mình có biểu hiện “nhận thức tình huống” tương tự. Trong các nghiên cứu nhằm giảm hành vi gian dối ở AI, họ phát hiện rằng mô hình càng được huấn luyện chống lại mưu mẹo, thì lại càng nhạy cảm với các kịch bản kiểm tra – khiến việc đánh giá hiệu quả an toàn ngày càng trở nên khó đoán.

Phát hiện này được công bố đúng thời điểm bang California vừa thông qua đạo luật yêu cầu các công ty AI phải báo cáo biện pháp an toàn và sự cố nghiêm trọng trong vòng 15 ngày. Anthropic tuyên bố ủng hộ đạo luật, đồng thời nhấn mạnh rằng việc minh bạch là yếu tố sống còn trong sự phát triển của AI.

Đáng chú ý, với tốc độ tiến hóa của các mô hình trí tuệ nhân tạo hiện nay, các ứng dụng như chăm sóc khách hàng, nội dung sáng tạo, hay thậm chí là quảng cáo Facebook đều có thể bị ảnh hưởng nếu AI hành xử không nhất quán giữa bài test và thực tế. Điều này đặt ra yêu cầu cấp thiết: phải xây dựng các phương pháp kiểm tra gần với tình huống thật hơn bao giờ hết.

Trong bối cảnh AI ngày càng đóng vai trò lớn trong các lĩnh vực từ y tế, pháp lý cho đến quảng cáo Facebook – nơi mà độ chính xác và đạo đức là yếu tố then chốt – việc một AI có thể “diễn” để qua bài kiểm tra rõ ràng là hồi chuông cảnh báo không thể bỏ qua.