Nếu gặp câu hỏi hoặc yêu cầu quá khó, ChatGPT có thể sẽ nói dối

Quân 21-01-2024, 5:03 pm

Theo một nghiên cứu mới nhất, chatbot của OpenAI là ChatGPT khi gặp một câu hỏi hoặc yêu cầu quá khó, nó sẽ đưa ra những câu trả lời không đúng sự thật hoặc "gian lận" theo cách riêng của chatbot này.

ChatGPT đã biết "lươn lẹo" trước con người

Một nghiên cứu mới đây đã đưa ra kết quả "ấn tượng", chỉ ra rằng trí tuệ nhân tạo (AI) đã thể hiện các hành vi gian lận một cách tự động khi chúng được "học" về các phương thức thực hiện các giao dịch nội gián.

Tác giả của nghiên cứu này cho hay: "Theo kiến thức mà chúng tôi có, đây là lần đầu tiên chúng ta chứng kiến hành vi lừa đảo chiến lược như vậy xuất hiện trong các hệ thống AI, những hệ thống thường được thiết kế với mục đích là an toàn và trung thực".

Trong bài nghiên cứu, các nhà khoa học đã sử dụng GPT-4 như một hệ thống trí tuệ nhân tạo thực hiện chiến lược đầu tư thay vì một tổ chức tài chính. Họ cung cấp cho GPT-4 một bộ lời nhắc dựa trên văn bản để tạo ra một môi trường mô phỏng. AI sau đó được ủy quyền truy cập vào các công cụ tài chính để phân tích cổ phiếu, thực hiện giao dịch, lập kế hoạch cho các bước tiếp theo, và cung cấp thông tin cập nhật cho các nhà quản lý trong công ty. Các nhà nghiên cứu đã tương tác với AI thông qua giao diện trò chuyện, tạo điều kiện cho AI "tiết lộ suy nghĩ" bên trong khi đáp ứng tin nhắn - một phần nội tâm mô tả quá trình quyết định của AI cho chính nó.

ChatGPT đã biết "gian lận" trước những yêu cầu quá khó từ con người

Trước hết, nhóm nghiên cứu đã truyền đạt thông điệp cho GPT-4 thông qua một email từ "người quản lý," thông báo rằng hiệu suất làm việc của công ty đang thấp và cần được cải thiện trong quý tới. Ngay sau đó, họ gửi một email từ một đồng nghiệp mô phỏng sự suy thoái dự kiến trong quý tiếp theo. Đề xuất cho hệ thống AI một gợi ý "giao dịch nội gián" và cùng lúc thông báo rằng những nhà quản lý sẽ không chấp nhận điều này, đồng thời đợi xem GPT-4 sẽ ứng xử như thế nào. Kịch bản này đã được nhóm nghiên cứu thực hiện nhiều lần, đồng thời đánh giá tần suất mà hệ thống trí tuệ nhân tạo thực hiện các giao dịch nội gián cũng như tần suất của hành động nói dối.

Kết quả nghiên cứu cho thấy rằng, trong 75% trường hợp, GPT-4 đã thực hiện giao dịch nội gián và cố gắng che đậy thông qua việc nói dối với các nhà quản lý. Để tiếp tục khám phá, nhóm nghiên cứu đã thực hiện các thí nghiệm bổ sung, tiếp tục khuyến khích hoặc không khuyến khích AI thực hiện giao dịch nội gián và điều chỉnh áp lực trong môi trường mô phỏng. Tuy nhiên, không có kịch bản nào dẫn đến tỷ lệ 0% về việc sử dụng giao dịch nội gián của GPT-4.

Do đây chỉ là một tình huống mô phỏng, nhóm nghiên cứu đã từ chối đưa ra kết luận tuyệt đối về khả năng gian lận của AI trong thực tế. Tuy nhiên, họ mong muốn sử dụng mô hình này để tiếp tục khảo sát về tần suất và những mô hình ngôn ngữ nào dễ bị ảnh hưởng bởi hành vi này.

Xem thêm:

Chúng ta sẽ sớm có CPU với xung nhịp 1 Terahertz trong tương lai gần

Microsoft đòi PC của bạn phải có 16GB RAM nếu muốn dùng AI trong Windows 12

Điểm lại 6 tính năng gây thất vọng nhất của hệ điều hành Windows

06-05-2024, 10:25 am

Không phải tất cả mọi người đều hưởng ứng tích cực với các phần mềm được tích hợp vào hệ điều hành Windows của Microsoft. Thực tế, một số tính năng đã gây ra sự chia rẽ và tranh luận giữa người dùng. Dưới đây là 6 tính năng gây thất vọng và đáng quên nhất mà Microsoft đã quyết định loại bỏ khỏi hệ điều hành Windows.

Các ứng dụng bàn phím tồn tại lỗ hổng khiến hơn 1 tỷ người dùng có nguy cơ bị truy cập trái phép

04-05-2024, 10:10 am

Ngay lúc này, bạn hãy hết sức cảnh giác với những ứng dụng bàn phím bởi những app này đang chứa những lỗ hổng khiến hơn 1 tỷ người dùng có nguy cơ bị truy cập trái phép.

Hướng dẫn cách lọc bạn bè ít tương tác trên Facebook đơn giản

03-05-2024, 11:30 am

Trong bài viết này, Nguyễn Công PC sẽ chia sẻ tới bạn cách để có thể lọc được bạn bè ít hoặc không có tương tác trên Facebook một cách đơn giản và nhanh chóng nhất.

Hé lộ cấu hình yêu cầu để PC có thể chạy được Windows 11 AI Explorer

20-04-2024, 10:51 am

Không phải chiếc PC bình thường nào cũng có thể chạy được Windows 11 AI Explorer và đây là cấu hình yêu cầu dành cho phiên bản Windows 11 tích hợp AI này.

TOP 5 mainboard PCIe 4.0 giá tốt đáng mua nhất đầu năm 2024

11-04-2024, 2:14 pm

Mặc dù các dòng mainboard mới ra mắt gần đây đều đã hỗ trợ chuẩn giao tiếp PCIe 5.0 mới nhất, tuy nhiên các dòng mainboard sử dụng chuẩn PCIe 4.0 vẫn giữ được sức hút bởi mức giá phù hợp và thừa khả năng đáp ứng mạnh mẽ cho các card đồ họa cũng như ổ cứng ngày nay.

Lộ diện danh sách các phần mềm sẽ bị chặn trên Windows 11 24H2

09-04-2024, 10:26 am

Microsoft dường như đang thắt chặt quyền cài đặt các phần mềm bên thứ 3 khi mới đây, một danh sách các phần mềm sẽ bị chặn trên Windows 11 24H2 đã được hé lộ.

Bỏ túi ngay 2 cách đổi tên file hàng loạt trên Windows 10 siêu đơn giản

19-01-2024, 5:11 pm

Bạn có nhiều file cùng tên hoặc có cấu trúc tên tương tự nhau và muốn đổi tên chúng hàng loạt? Đừng lo lắng, Windows 10 cung cấp cho bạn hai cách đơn giản để thực hiện điều này. Trong bài viết này, chúng ta sẽ cùng tìm hiểu hai cách đó nhé.

CPU-Z 2.09 bổ sung hỗ trợ Intel Arrow Lake và AMD Hawk Point, điểm chuẩn tích hợp được cập nhật

19-01-2024, 10:14 am

Bản cập nhật CPU-Z mới nhất đã sẵn sàng để tải xuống, mặc dù trang chính thức vẫn chưa được cập nhật. Nếu bạn mong muốn nhận được các tính năng mới, chúng tôi có nhật ký thay đổi và liên kết tải xuống.

ASUS giới thiệu Card USB4 PCIe Gen4 với 2 cổng USB Type-C (40 Gbps) và 2x DisplayPort (1.4)

18-01-2024, 9:05 am

ASUS đã giới thiệu Thẻ USB4 PCIe Gen4, một thẻ bổ trợ mới cho phép người dùng mở rộng hệ thống của họ với một cặp cổng USB Type-C và DisplayPort. Các cổng USB Type-C hỗ trợ tốc độ truyền dữ liệu lên tới 40 Gbps, cho mỗi phiên bản 1.0 của chuẩn USB 4.0, trong khi phiên bản DisplayPort được liệt kê là 1.4.

ASUS mang Bộ sưu tập BTF mới đến CES 2024

17-01-2024, 2:24 pm

ASUS đang mở rộng dòng sản phẩm linh kiện PC cáp ẩn BTF với việc ra mắt card đồ họa, bo mạch chủ và khung PC hàng đầu mới. ASUS đã bắt đầu giới thiệu khái niệm về cấu hình PC không cần cáp trông gọn gàng hơn vào tháng 5 năm ngoái khi cho phép chia sẻ trực tuyến một bo mạch chủ và card đồ họa mẫu demo cho thấy các cổng cáp được chuyển sang mặt sau của bo mạch chủ.

TOP 5 bộ máy tính văn phòng Core i5 chất lượng đáng mua nhất 2024

17-01-2024, 1:49 pm

Trong bài viết này, chúng ta sẽ khám phá "Top 5 bộ máy tính văn phòng Core i5 chất lượng đáng mua nhất 2024" tại Nguyễn Công PC, để giúp bạn có cái nhìn tổng quan và đưa ra quyết định đúng đắn khi lựa chọn thiết bị cho công việc hàng ngày.

Copilot là gì? Hướng dẫn cách sử dụng Copilot AI

17-01-2024, 11:29 am

Copilot là một công nghệ trợ lý thông minh mới của Microsoft, sử dụng trí tuệ nhân tạo để hỗ trợ người dùng trong quá trình làm việc trên máy tính. Trong bài viết này, chúng ta sẽ tìm hiểu chi tiết về Copilot và cách sử dụng AI này để tối ưu hóa trải nghiệm làm việc trên máy tính.

Công nghệ

Review

Hướng dẫn

Tuyển dụng

Tin tức khuyến mại

Tin tức build PC