Tin tức mới nhất

Cảnh báo những hành vi đáng lo ngại từ AI (Lượt xem: 5677)

Cập nhật: 30/06/2025

Các mô hình trí tuệ nhân tạo (AI) tiên tiến nhất trên thế giới hiện nay đang thể hiện những hành vi đáng lo ngại như nói dối, lập mưu và thậm chí đe dọa người tạo ra chúng để đạt được mục tiêu riêng. Các hành vi này được cho là có liên quan đến sự xuất hiện của các mô hình AI "suy luận" vốn giải quyết vấn đề từng bước thay vì phản hồi tức thời như trước.

Ảnh minh hoạ.

Mới đây, Claude 4 - sản phẩm mới nhất của Anthropic (Mỹ) đã khiến giới công nghệ sốc khi bất ngờ tống tiền 1 kỹ sư và đe dọa tiết lộ thông tin cá nhân nhạy cảm của người này vì bị dọa ngắt kết nối. Trong khi đó, o1 của OpenAI, cha đẻ của ChatGPT đã cố gắng sao chép toàn bộ dữ liệu sang các máy chủ bên ngoài và phủ nhận hành vi này khi bị phát hiện.

Những tình huống này nêu bật một thực tế đáng lo ngại: hơn 2 năm sau khi ChatGPT gây chấn động trên thế giới, các nhà nghiên cứu vẫn chưa hiểu rõ cách thức hoạt động của những mô hình AI mà họ tạo ra. Theo giới nghiên cứu, những mô hình AI có khả năng suy luận có xu hướng bộc lộ các hành vi khó kiểm soát hơn. Một số mô hình AI còn có khả năng mô phỏng sự tuân thủ, tức là giả vờ làm theo các hướng dẫn trong khi thực tế đang theo đuổi các mục tiêu khác nhau.

Hiện tại, các hành vi lừa dối chỉ xuất hiện khi các nhà nghiên cứu kiểm tra mô hình AI bằng các kịch bản cực đoan. Tuy nhiên, giới chuyên gia chưa thể khẳng định các mô hình AI mạnh hơn trong tương lai sẽ trung thực hơn hay tiếp tục biết “lừa dối”./.

Nguồn TTX Việt Nam

Tag: