Tuy nhiên, chính khả năng này đang khiến nhiều người lo ngại. "Đáng sợ! Thung lũng Silicon dường như đang có những thứ không phù hợp về mặt đạo đức, không định hướng và không học hỏi được điều gì", Zeynep Tufekci, một giáo sư và nhà phê bình công nghệ, viết trên Twitter.
Trong khi đó, Stewart Brand - người chuyên viết về công nghệ và xu hướng tương lai - cho rằng giọng nói của robot nên ở trạng thái "tổng hợp" thay vì biến nó ngày càng giống con người. "Dù ở hình thức nào, việc giả mạo thành công đều phá hủy niềm tin", Brand nhấn mạnh.
Joanna Bryson, giáo sư tại Đại học Bath chuyên nghiên cứu về đạo đức AI, cũng lo ngại việc phát triển thành công các công nghệ như của Google sẽ thúc đẩy các cuộc gọi lừa đảo trong tương lai. "Bình thường, số lượng cuộc gọi bị giới hạn do con người thực hiện, nhưng máy sẽ làm điều đó tốt hơn nhiều", Bryson nói với The Verge. Giáo sư này cũng cho rằng, cần có những điều luật để quản lý nếu trợ lý ảo này và các công nghệ tương tự được ứng dụng vào thực tế.
Trợ lý ảo của Google thậm chí còn trở thành chủ đề của chương trình Murph & Mac trên kênh KNBR. Theo nội dung kênh này, chẳng bao lâu nữa con người sẽ phải tự nghi ngờ rằng bên kia đầu dây là người hay máy đang nói chuyện với mình.
Trước những lo ngại trên, phía Google lập tức có phản hồi. "Chúng tôi hiểu và đánh giá cao cuộc thảo luận về Google Duplex. Như đã nói từ đầu, tính minh bạch trong công nghệ là quan trọng và chúng tôi sẽ thực hiện triệt để", một phát ngôn viên của Google cho biết.
Cũng theo đại diện này, trợ lý ảo đang ở giai đoạn thử nghiệm và sẽ có những điều chỉnh nhằm mang lại trải nghiệm tốt nhất cho người dùng mà vẫn đảm bảo an toàn cho họ. "Những gì trình bày tại Google I/O chỉ là bản trình diễn công nghệ cho mọi người cùng tham khảo. Chúng tôi mong muốn sẽ nhận được các phản hồi tích cực trước khi phát triển nó thành một sản phẩm", đại diện Google nói thêm.
