Cảnh báo những hành vi đáng lo ngại từ AI (Lượt xem: 6954)
>> TIN TỨC
>> Tin thế giới
Các mô hình trí tuệ nhân tạo (AI) tiên tiến nhất trên thế giới hiện nay đang thể hiện những hành vi đáng lo ngại như nói dối, lập mưu và thậm chí đe dọa người tạo ra chúng để đạt được mục tiêu riêng. Các hành vi này được cho là có liên quan đến sự xuất hiện của các mô hình AI "suy luận" vốn giải quyết vấn đề từng bước thay vì phản hồi tức thời như trước.

Ảnh minh hoạ.
Mới đây, Claude 4 - sản phẩm mới nhất của Anthropic (Mỹ) đã khiến giới công nghệ sốc khi bất ngờ tống tiền 1 kỹ sư và đe dọa tiết lộ thông tin cá nhân nhạy cảm của người này vì bị dọa ngắt kết nối. Trong khi đó, o1 của OpenAI, cha đẻ của ChatGPT đã cố gắng sao chép toàn bộ dữ liệu sang các máy chủ bên ngoài và phủ nhận hành vi này khi bị phát hiện.
Những tình huống này nêu bật một thực tế đáng lo ngại: hơn 2 năm sau khi ChatGPT gây chấn động trên thế giới, các nhà nghiên cứu vẫn chưa hiểu rõ cách thức hoạt động của những mô hình AI mà họ tạo ra. Theo giới nghiên cứu, những mô hình AI có khả năng suy luận có xu hướng bộc lộ các hành vi khó kiểm soát hơn. Một số mô hình AI còn có khả năng mô phỏng sự tuân thủ, tức là giả vờ làm theo các hướng dẫn trong khi thực tế đang theo đuổi các mục tiêu khác nhau.
Hiện tại, các hành vi lừa dối chỉ xuất hiện khi các nhà nghiên cứu kiểm tra mô hình AI bằng các kịch bản cực đoan. Tuy nhiên, giới chuyên gia chưa thể khẳng định các mô hình AI mạnh hơn trong tương lai sẽ trung thực hơn hay tiếp tục biết “lừa dối”./.
Nguồn TTX Việt Nam
Tag: |
TIN LIÊN QUAN
-
Kinh tế Trung Quốc có tín hiệu phục...
-
Cảnh báo những hành vi đáng lo ngại...
-
Kinh tế Mỹ suy giảm nhiều hơn dự báo
-
Hàn Quốc triệt phá đường dây làm giả...
-
Iran khẳng định chỉ ngừng bắn nếu Israel...
-
Thị trường toàn cầu chao đảo vì lo...
-
Quốc tế kêu gọi Iran và Israel hạ...
-
Mỹ chiếm gần 40% tổng số triệu phú...
-
Nhật thực nhân tạo đầu tiên trong lịch...
-
Mỹ và Nhật Bản nhất trí tiếp tục...
-
Giá dầu châu Á tăng mạnh
-
Israel tấn công phủ đầu Iran
-
Giá dầu lên mức cao nhất trong hơn...
-
Tổng thống Mỹ bảo vệ kế hoạch triển...
-
Người Mỹ bớt lo ngại về lạm phát
-
Los Angeles căng thẳng, quân đội Mỹ báo...
-
Lãnh đạo Mỹ và Trung Quốc điện đàm...
-
Triển vọng mới từ loại nhựa tự tan...
-
Ông Lee Jae Myung đắc cử Tổng thống...
-
Cháy rừng ở Canada ảnh hưởng nghiêm trọng...
- Tin địa phương
- Học và làm theo gương Bác
- Lễ hội Oóc-om-bóc - Đua Ghe Ngo tỉnh Sóc Trăng
- Tin trong nước
- Đời sống - Xã hội
- Tin thế giới
- Doanh nghiệp - Người tiêu dùng
- Giáo dục - Khoa học & Công nghệ
- Nông nghiệp - Nông thôn
- Pháp luật - Cải cách hành chính
- Lực lượng vũ trang
- Đoàn thể
- Thông báo
- Góc doanh nghiệp
Phường Sóc Trăng: Nghiêm túc, phấn khởi, hiệu quả trong ngày làm việc đầu tiên
Xóa nhà tạm, nhà dột nát: Sóc Trăng hoàn thành và vượt tiến độ chung trong toàn tỉnh và cả nước
Kinh tế Trung Quốc có tín hiệu phục hồi tốt
Phường Phú Lợi: Phấn khởi, hiệu quả trong ngày làm việc đầu tiên
Cảnh báo những hành vi đáng lo ngại từ AI
Trailer Những hoạt động chính Lễ hội Óoc Om Bóc Đua ghe Ngo khu vực ĐBSCL lần thứ VI và tuần lễ VHTT&DL lần thứ I - 2024
Đài PT-TH Sóc Trăng thông báo tuyển hợp đồng lao động (17-09-2024)
HĐND tỉnh Sóc Trăng thông báo Kỳ họp thứ XXIII (Chuyên đề) HĐND tỉnh Sóc Trăng, Khóa X, nhiệm kỳ 2021-2026
Công văn số 1963 - CV-TU về Lễ Quốc tang Đồng chí Tổng Bí thư Nguyễn Phú Trọng
Công Văn 1633-CT-TU về việc thực hiện nghiêm quy định của Đảng, pháp luật Nhà nước về bảo đảm trật tự, an toàn giao thông
TRANG THÔNG TIN ĐIỆN TỬ BÁO VÀ PHÁT THANH - TRUYỀN HÌNH CẦN THƠ.
Tổng biên tập: Nguyễn Ngọc Tâm.
Giấy phép số: 287/GP-TTĐT cấp ngày 22/12/2016.
Địa chỉ: 132 Trần Văn Bảy, Phường Phú Lợi, TP Cần Thơ.
Điện thoại: 0299 3822598 - Fax: 0299 3825876.
® Cấm sao chép dưới mọi hình thức nếu không có sự chấp thuận bằng văn bản.
Ghi rõ nguồn THST.vn khi phát hành lại thông tin từ website này.