Theo TheVerge, Meta đã điều chỉnh tính năng gợi ý trong Meta AI sau khi chatbot đưa ra những câu hỏi mang tính cá nhân quá mức. Sự việc được phát hiện khi một người dùng nhận được gợi ý hỏi Meta AI về các hoạt động thể thao của con mình, dù trước đó người này không trò chuyện với chatbot về chủ đề này.
Khi người dùng làm theo gợi ý, Meta AI đưa ra câu trả lời dựa trên thông tin về đứa trẻ xuất hiện trong các bài đăng trước đây. Chatbot còn tìm thấy những nội dung liên quan từ tài khoản của các thành viên khác trong gia đình mà người dùng có quyền xem, sau đó tổng hợp chúng thành câu trả lời.
Việc Meta AI ngày càng chủ động trong hội thoại đặt ra câu hỏi về ranh giới giữa hỗ trợ hữu ích và những gợi ý không mong muốn
ẢNH: META
Điều khiến người dùng chú ý không chỉ nằm ở khả năng tìm lại thông tin. Meta AI đã chủ động đề xuất một câu hỏi liên quan đến con của họ thay vì chờ người dùng yêu cầu. Cách hoạt động này khiến tính năng gợi ý trở nên khác biệt so với những câu hỏi tiếp nối thông thường dựa trên nội dung của cuộc trò chuyện đang diễn ra.
Meta AI có thể sử dụng thông tin mà người dùng đã chia sẻ với Meta, bao gồm nội dung và hoạt động trên các sản phẩm của công ty, để cá nhân hóa trải nghiệm. Trong trường hợp này, chatbot không truy cập những bài đăng mà người dùng không có quyền xem. Tuy nhiên, việc tự kết nối các thông tin đã tồn tại rồi biến chúng thành một gợi ý chủ động khiến trải nghiệm trở nên quá riêng tư.
Meta thừa nhận tính năng đã đi quá giới hạn
Meta xác nhận rằng kiểu gợi ý này không phải trải nghiệm mà công ty mong muốn. Đại diện Meta cho biết tính năng đã "đi quá giới hạn" và công ty đã xử lý nguyên nhân dẫn đến những đề xuất liên quan đến chủ đề cá nhân như trường hợp trên. Các gợi ý của Meta AI được thiết kế để giúp người dùng khám phá những cách sử dụng trợ lý phù hợp với họ. Những đề xuất này có thể được cá nhân hóa dựa trên hoạt động và thông tin mà người dùng đã chia sẻ trên các dịch vụ của Meta.
Sự việc cho thấy mức độ cá nhân hóa của trợ lý AI có thể trở nên nhạy cảm khi hệ thống chủ động kết nối nhiều mẩu thông tin về đời sống cá nhân. Trong trường hợp của Meta AI, vấn đề không nằm ở việc chatbot truy cập dữ liệu ngoài quyền của người dùng, mà ở cách tính năng gợi ý sử dụng những dữ liệu sẵn có để chủ động đặt ra một chủ đề mang tính riêng tư.
Meta không loại bỏ hoàn toàn các gợi ý cá nhân hóa. Thay vào đó, công ty cho biết đã khắc phục nguyên nhân khiến Meta AI tạo ra những đề xuất quá cá nhân như trường hợp được phản ánh.
Bình luận (0)