Sự pha trộn AI-AI của con người để sao chép âm thanh hiện đang phải đối mặt với sự giám sát quyền riêng tư ở Châu Âu – TechCrunch


Facebook Lừa lãnh đạo cơ quan quản lý quyền riêng tư ở châu Âu hiện đang yêu cầu công ty cung cấp thông tin chi tiết về hoạt động của tính năng chuyển giọng nói trong Facebook Messenger Messenger ứng dụng và làm thế nào nó tuân thủ luật pháp EU.

Hôm qua Bloomberg đã báo cáo rằng Facebook sử dụng các nhà thầu của con người để sao chép tin nhắn âm thanh của người dùng ứng dụng – nhưng chính sách bảo mật của họ không đề cập rõ ràng về thực tế rằng những người thực tế có thể nghe bản ghi âm của bạn.

Một trang trên trung tâm trợ giúp của Facebook cũng bao gồm một ghi chú của YouTube, nói rằng Giọng nói thành văn bản sử dụng máy học học – nhưng không nói rằng tính năng này cũng được cung cấp bởi những người làm việc cho Facebook lắng nghe.

Người phát ngôn của Ủy ban bảo vệ dữ liệu Ailen đã nói với chúng tôi: Hơn nữa về sự tham gia liên tục của chúng tôi với Google, Apple và Microsoft liên quan đến việc xử lý dữ liệu cá nhân trong bối cảnh sao chép thủ công các bản ghi âm, chúng tôi hiện đang tìm kiếm thông tin chi tiết từ Facebook về việc xử lý và Facebook tin rằng việc xử lý dữ liệu đó tuân thủ nghĩa vụ GDPR của họ như thế nào .

Báo cáo của Bloomberg theo sau những tiết lộ tương tự về các công nghệ trợ lý AI được cung cấp bởi các gã khổng lồ công nghệ khác, bao gồm Apple, Amazon, Google và Microsoft – cũng đã thu hút sự chú ý từ các nhà quản lý quyền riêng tư châu Âu trong những tuần gần đây.

Điều này cho chúng ta biết rằng sự cường điệu xung quanh trợ lý giọng nói AI là vẫn đánh bóng trên một phụ trợ công nghệ cao ít xa. Ngay cả khi các đòn roi của guff tiếp thị máy học đã được sử dụng để che giấu các thành phần turk cơ khí (tức là con người) cần thiết cho công nghệ để đáp ứng yêu cầu.

Đây thực sự là một câu chuyện rất cũ. Để dí dỏm: Một đầy đủ thập kỷ Trước đây, một công ty khởi nghiệp ở Anh có tên Spinvox, người đã tuyên bố có công nghệ nhận dạng giọng nói tiên tiến để chuyển đổi thư thoại thành tin nhắn văn bản, đã được báo cáo là đang dựa rất nhiều vào các trung tâm cuộc gọi ở Nam Phi và Philippines, nhân viên thực tế.

Quay trở lại ngày nay, công nghệ tiên tiến, theo báo cáo của Bloomberg, Facebook cho biết họ đã đình chỉ việc sao chép con người vào đầu tháng này – gia nhập Apple và Google trong việc tạm dừng các đánh giá thủ công về đoạn âm thanh cho AI giọng nói tương ứng của họ. (Amazon kể từ đó đã thêm từ chối cài đặt Alexa ứng dụng Alexa.)

Chúng tôi đã hỏi Facebook nơi ứng dụng Messenger đã thông báo cho người dùng rằng các nhà thầu của con người có thể được sử dụng để sao chép các cuộc trò chuyện bằng giọng nói / tin nhắn âm thanh của họ; và cách nó thu thập người dùng Messenger Đồng ý với hình thức xử lý dữ liệu này – trước khi tạm dừng đánh giá của con người.

Công ty đã không trả lời các câu hỏi của chúng tôi. Thay vào đó, người phát ngôn đã cung cấp cho chúng tôi tuyên bố sau:Giống như Apple và Google, chúng tôi đã tạm dừng đánh giá âm thanh của con người hơn một tuần trước.

Facebook cũng mô tả các đoạn âm thanh mà nó gửi cho các nhà thầu là mặt nạ và không nhận dạng; cho biết chúng chỉ được thu thập khi người dùng đã chọn sao chép trên Messenger; và chỉ được sử dụng để cải thiện hiệu suất phiên mã của AI.

Nó cũng nhắc lại một phản bác từ lâu của công ty đối với những lo ngại của người dùng về việc nghe lén chung của Facebook, nói rằng họ không bao giờ nghe người dùng micro mà không có sự cho phép của thiết bị cũng như không có sự kích hoạt rõ ràng của người dùng.

Mặc dù vậy, làm thế nào Facebook thu thập quyền cho phép xử lý dữ liệu là một câu hỏi chính.

Ví dụ, công ty gần đây đã sử dụng một dòng đồng ý thao túng để thúc đẩy người dùng ở châu Âu chuyển sang công nghệ nhận dạng khuôn mặt – lấy lại lập trường trước đó, chấp nhận sự can thiệp của cơ quan quản lý trước đó, tắt công nghệ trên toàn khối.

Vì vậy, phần lớn dựa vào cách Facebook mô tả chính xác việc xử lý dữ liệu tại bất kỳ thời điểm nào mà nó yêu cầu người dùng đồng ý với tin nhắn thoại của họ đang được xem xét bởi con người (giả sử nó dựa vào sự đồng ý làm cơ sở pháp lý để xử lý dữ liệu này).

Việc đồng ý với các T & C chung để sử dụng sản phẩm cũng khó có thể tuân thủ theo luật riêng tư của EU, do Quy định bảo vệ dữ liệu chung của khối yêu cầu phải có sự đồng ý hạn chế mục đích, cũng như được cung cấp đầy đủ và tự do.

Nếu Facebook dựa vào lợi ích hợp pháp để xử lý người dùng Messenger đoạn trích âm thanh để tăng cường hiệu suất AI, thì họ cần phải cân bằng lợi ích của mình trước mọi rủi ro đối với quyền riêng tư của mọi người.

Các giọng nói AI đặc biệt có vấn đề về mặt này vì các bản ghi âm cũng có thể thu thập dữ liệu cá nhân của những người không sử dụng – do những người ở gần thiết bị (hoặc thực sự là một người ở đầu dây bên kia của điện thoại để lại tin nhắn cho bạn) có thể có dữ liệu cá nhân của họ bị bắt mà không bao giờ có cơ hội đồng ý cho các nhà thầu của Facebook được nghe.

Rò rỉ đoạn trích Google Assistant cho báo chí Bỉ gần đây đã nhấn mạnh cả bản chất nhạy cảm của các bản ghi âm và nguy cơ tái xác định được tạo ra bởi các bản ghi đó – với các nhà báo có thể xác định một số người trong bản ghi âm.

Nhiều báo cáo cũng đã đề xuất các nhà thầu được thuê bởi các đại gia công nghệ thường xuyên nghe lỏm các chi tiết thân mật được ghi lại thông qua một loạt các sản phẩm bao gồm khả năng ghi lại âm thanh và truyền dữ liệu cá nhân này lên đám mây để xử lý.