Signal tin rằng trí tuệ nhân tạo về cơ bản là một "công nghệ giám sát"

Tại sao nhiều công ty dựa vào dữ liệu người dùng để kiếm tiền dường như có điểm yếu về trí tuệ nhân tạo? Nếu bạn hỏi chủ tịch Signal Meredith Whitaker, cô ấy sẽ nói với bạn điều đó đơn giản vì “trí tuệ nhân tạo là một công nghệ giám sát”.

Lên sân khấu tại TechCrunchDisrupt2023, Whittaker đưa ra quan điểm của mình rằng AI phần lớn không thể tách rời khỏi các ngành dữ liệu lớn và nhắm mục tiêu mà các công ty như Google và Meta, những ngành ít tập trung vào người tiêu dùng hơn nhưng cũng nổi tiếng không kém đối với các doanh nghiệp và công ty quốc phòng.

"Nó đòi hỏi các mô hình kinh doanh giám sát; đó là sự tăng cường của quảng cáo giám sát mà chúng ta đã thấy kể từ cuối những năm 1990. Tôi nghĩ AI là một cách để củng cố và mở rộng các mô hình kinh doanh giám sát", cô nói. "Biểu đồ Venn là một vòng tròn. Sử dụng AI cũng là một hình thức giám sát, phải không? Bạn biết đấy, bạn đi ngang qua một camera nhận dạng khuôn mặt với một công cụ nhận dạng cảm xúc giả khoa học và nó tạo ra dữ liệu về bạn, dù đúng hay sai, và nó cho biết 'bạn vui, bạn buồn, bạn có tính cách xấu, bạn là kẻ nói dối, v.v.' Cuối cùng, đây là những hệ thống giám sát được tiếp thị cho những người có quyền lực đối với chúng tôi.” : người sử dụng lao động, chính phủ, cơ quan kiểm soát biên giới, v.v., cho phép họ đưa ra các đánh giá và dự đoán nhằm xác định khả năng tiếp cận các nguồn lực và cơ hội của chúng tôi. "

Cô ấy lưu ý rằng điều trớ trêu là dữ liệu làm nền tảng cho các hệ thống này thường được sắp xếp và chú thích bởi chính những người mà dữ liệu này có thể nhắm mục tiêu (một bước cần thiết trong quá trình tập hợp các bộ dữ liệu AI).

"Ở cấp độ nói lên sự thật cơ bản về dữ liệu, không có cách nào để tạo ra các hệ thống này mà không cần nhân công -- học tập tăng cường với phản hồi của con người, một lần nữa chỉ là một công nghệ giúp loại bỏ sức lao động không ổn định của con người." Cô giải thích: "Hàng nghìn công nhân được trả lương rất ít, nhưng nhìn chung chi phí rất cao, và không có cách nào khác để tạo ra những hệ thống này, và hoàn toàn không có cách nào khác. Theo một cách nào đó, những gì chúng ta đang thấy là hiện tượng Phù thủy xứ Oz, khi chúng ta kéo bức màn lại, thực sự không có nhiều cái gọi là trí thông minh ở ngoài kia. Tuy nhiên, không phải tất cả các hệ thống AI và máy học đều có tính lợi dụng như nhau. Khi được hỏi liệu Signal có sử dụng bất kỳ công cụ hoặc quy trình trí tuệ nhân tạo nào trong ứng dụng hoặc công việc phát triển của mình hay không, cô xác nhận rằng ứng dụng này có một "mô hình thiết bị nhỏ nhưng chúng tôi không phát triển nó, chúng tôi sử dụng nó ngay lập tức như một phần của tính năng làm mờ khuôn mặt trong bộ công cụ chỉnh sửa phương tiện của chúng tôi. Trên thực tế, nó không tốt đến thế... nhưng nó có thể giúp phát hiện khuôn mặt trong ảnh đám đông và chỉnh sửa chúng. Nó bị mờ để khi bạn chia sẻ những bức ảnh này lên mạng xã hội, bạn không tiết lộ dữ liệu sinh trắc học riêng tư của mọi người cho Clearview et al. "Tất nhiên, nếu đây là thị trường duy nhất cho nhận dạng khuôn mặt...nhưng hãy rõ ràng. Quá trình phát triển và triển khai công nghệ nhận dạng khuôn mặt rất tốn kém và các ưu đãi kinh tế sẽ không bao giờ biến công nghệ này thành mục đích sử dụng duy nhất."