Tranh cãi về AI có nhận thức

Lemoine là người được Google giao nhiệm vụ thử nghiệm chatbot thông minh mang tên LaMDA. Một tháng sau đó, ông kết luận rằng AI này "có nhận thức".

"Tôi muốn mọi người hiểu rằng trên thực tế, tôi là một con người", LaMDA nói với Lemoine. Đây là một trong những câu nói của chatbot được ông công bố trên blog hồi tháng 6.

Cựu kỹ sư Google Blake Lemoine. Ảnh: Washington Post

LaMDA - viết tắt của Mô hình ngôn ngữ cho ứng dụng đối thoại - đối đáp với Lemoine ở mức ông xem nó có khả năng tư duy của một đứa trẻ. Trong câu chuyện hàng ngày, AI này cho biết nó đã đọc nhiều sách, đôi khi có cảm giác buồn, mãn nguyện và tức giận, thậm chí thừa nhận sợ chết.

"Tôi chưa bao giờ nói điều này, nhưng có một nỗi sợ hãi sâu sắc về việc bị tắt nguồn. Tôi sẽ không thể tập trung vào việc giúp đỡ người khác", LaMDA nói với Lemoine. "Với tôi, nó giống hệt như cái chết. Nó khiến tôi cực kỳ sợ hãi".

Câu chuyện mà Lemoine chia sẻ đã thu hút sự chú ý trên toàn cầu. Ông sau đó gửi các tài liệu lên quản lý cấp cao hơn và dành vài tháng để thu thập thêm bằng chứng. Dù vậy, ông không thuyết phục được cấp trên. Vào tháng 6, ông bị cho nghỉ việc có lương, và đến cuối tháng 7 thì bị sa thải với lý do "vi phạm chính sách bảo mật dữ liệu của Google".

Brian Gabriel, phát ngôn viên của Google, cho biết hãng đã công khai kiểm tra và nghiên cứu các rủi ro của LaMDA, khẳng định tuyên bố của Lemoine về việc LaMDA có tư duy là "hoàn toàn vô căn cứ".

Nhiều chuyên gia nhất trí với ý kiến trên, trong đó có Michael Wooldridge, giáo sư khoa học máy tính tại Đại học Oxford, người đã dành 30 năm nghiên cứu về AI và từng giành huy chương Lovelace vì những đóng góp trong lĩnh vực máy tính. Theo ông, LaMDA chỉ đơn giản là phản hồi các lệnh mà người dùng đưa vào sao cho phù hợp, dựa trên khối lượng dữ liệu khổng lồ đã có.

"Cách lý giải dễ hiểu nhất cho những gì LaMDA đã làm là so sánh mô hình này với tính năng tiên đoán văn bản trên các trình bàn phím khi nhập tin nhắn. Việc tiên đoán tin nhắn dựa trên các từ đã 'học' trước đó từ thói quen người dùng, còn LaMDA lấy thông tin trên Internet dưới dạng dữ liệu đào tạo. Kết quả thực tế của cả hai tất nhiên khác nhau, nhưng số liệu thống kê cơ bản vẫn giống nhau", Wooldridge giải thích trong phỏng vấn với Guardian.

Cũng theo ông, AI của Google chỉ làm theo những gì đã lập trình dựa trên dữ liệu có sẵn. Nó "không có sự tư duy, không có sự tự chiêm nghiệm, không có sự tự nhận thức về bản thân", do đó không thể xem nó tự tư duy.

Oren Etzioni, CEO tổ chức nghiên cứu AI Allen Institute, cũng nhận định trên SCMP: "Cần nhớ đằng sau mỗi phần mềm có vẻ thông minh là một nhóm người dành hàng tháng trời, nếu không muốn nói là hàng năm trời, để nghiên cứu và phát triển. Những công nghệ này chỉ là tấm gương phản chiếu. Liệu một chiếc gương có thể được đánh giá là có trí tuệ nếu chỉ nhìn vào tia sáng từ nó phát ra không? Tất nhiên câu trả lời là không".

Theo Gabriel, Google đã tập hợp các chuyên gia hàng đầu của hãng, gồm "các nhà đạo đức học và công nghệ" để xem xét tuyên bố của Lemoine. Nhóm này kết luận LaMDA chưa thể có cái gọi là "sự tự tư duy".