Cách phát hiện giá trị thực trong keo nha cai ty le - và tránh dầu rắn

Trí tuệ nhân tạo xấu không chỉ bỏ lỡ dấu hiệu. Nó có thể dẫn đến hậu quả thực sự cho con người và rủi ro nghiêm trọng cho các doanh nghiệp.

Đó là thông điệp từ giáo sư Đại học PrincetonArvind NarayanantrongMột cuộc nói chuyện gần đây tại MITGiới thiệu về cuốn sách mới của anh ấy,keo nha cai ty le Snake Oil: Trí tuệ nhân tạo có thể làm gì, nó có thể làm gì và làm thế nào để nói sự khác biệt. Cuốn sách được đồng tác giả bởi Sayash Kapoor.

Lập luận cốt lõi của họ: Một số công cụ keo nha cai ty le được sử dụng ngày nay, đặc biệt là trong việc tuyển dụng, cho vay và công lý hình sự, don lồng chỉ kém hiệu quả; Họ chỉ đơn giản là don làm việc. Và những người khác làm việc chính xác như tuyên bố nhưng được sử dụng sai cách hoặc cho kết thúc có hại. Và trong cả hai kịch bản, các công cụ keo nha cai ty le có thể tạo ra kết quả không chính xác, sai lệch hoặc thậm chí nguy hiểm khi được áp dụng ở quy mô. 

Đối với các nhà lãnh đạo doanh nghiệp, thách thức là biết những gì cần tin tưởng và nơi để vẽ dòng. Narayanan cung cấp những hiểu biết sau.

Phát hiện các liên kết yếu trong dự đoán keo nha cai ty le

Hệ thống keo nha cai ty le dự đoán-được thiết kế để dự báo hành vi của con người và hỗ trợ ra quyết định-đang ngày càng được sử dụng trong các lĩnh vực như tuyển dụng và tư pháp hình sự. Theo Narayanan, nhiều công cụ trong số này don lồng sống theo yêu cầu của họ.

One example he cited: software that analyzes 30-second videos of job candidates to evaluate their personality traits based on speech and body language. These videos often don’t focus on a candidate’s qualifications at all — sometimes on just their hobbies — yet are used to generate scores that claim to predict job fit.

Narayanan gọi cách tiếp cận là một trình tạo số ngẫu nhiên phức tạp và chỉ vào các thí nghiệm đã kiểm tra độ tin cậy của phần mềm. Những thay đổi trực quan nhỏ, như thêm một kệ sách trong nền hoặc loại bỏ một cặp kính, đã dẫn đến điểm số hoàn toàn khác nhau, ngay cả khi video cơ bản giống nhau.

Những mối quan tâm này mở rộng đến hệ thống tư pháp hình sự, nơi các thuật toán được sử dụng để hướng dẫn các quyết định về việc liệu keo nha cai ty le đó có nên bị giam giữ trước khi xét xử hay không. Hiệu suất của các công cụ này thường yếu, Narayanan nói - chúng có tỷ lệ chính xác dự đoán dưới 70%, tốt nhất. 

Hồi Chúng tôi đưa ra quyết định về một người nào đó tự do dựa trên thứ gì đó mà chỉ chính xác hơn một chút so với việc lật đồng xu, ông nói. 

Dẫn đầu tổ chức điều khiển keo nha cai ty le

trực tiếp tại MIT Sloan

Đăng ký ngay

Tập trung vào những gì keo nha cai ty le tổng thể làm tốt

Không phải tất cả keo nha cai ty le là dầu rắn. keo nha cai ty le thế hệ - các công cụ có thể tạo văn bản, hình ảnh và mã - đã được chứng minh có giá trị. 

“Generative keo nha cai ty le is useful to basically every knowledge worker — anyone who thinks for a living,” said Narayanan.

Ông đã đưa ra một ví dụ cá nhân về việc sử dụng trình tạo ứng dụng do keo nha cai ty le cung cấp để giúp con gái ông hiểu phân số. Tại chỗ, người mẫu đã giúp anh ta xây dựng một công cụ tương tác biến việc học thành một trò chơi. 

Hồi Chúng tôi đã chơi với điều này trong 15 phút, và nó thực sự đã giúp cô ấy, anh ấy nói. Bạn không thể tưởng tượng được việc này vài năm trước. 

Tuy nhiên, ngay cả các hệ thống ấn tượng nhất cũng không hoàn hảo. Ảo giác, kết quả là khi các mô hình tạo ra thông tin nghe có vẻ chính xác nhưng không phải là một rủi ro đã biết. Và họ không dễ dàng sửa chữa, cho rằng keo nha cai ty le thế hệ vốn đã liên quan đến sự ngẫu nhiên. 

Takeaway: Những công cụ này có thể hữu ích, nhưng chỉ khi được ghép nối với kiểm tra và trách nhiệm phù hợp.

Rủi ro ẩn địa chỉ

Khi các công cụ keo nha cai ty le tổng thể được sử dụng rộng rãi hơn, có một sự gia tăng nguy cơ lạm dụng - và nhiều ví dụ đã diễn ra trong thế giới thực.

Narayanan chỉ vào các hướng dẫn tìm kiếm thức ăn được tạo ra keo nha cai ty le, cho người dùng lời khuyên không chính xác, có khả năng nguy hiểm về việc nấm nào an toàn để ăn. Ông cũng ghi nhận sự lan truyền nhanh chóng của các ứng dụng khiêu dâm Deepfake, có thể sử dụng ảnh được tải lên để tạo ra những hình ảnh rõ ràng không đáng kể.

Và ngay cả khi các hệ thống keo nha cai ty le được sử dụng cho các mục đích dự định của chúng, tác động của chúng vẫn có thể bị tổn hại. 

Công nghệ nhận dạng khuôn mặt, chẳng hạn, đã đạt đến mức độ chính xác kỹ thuật cao - nhưng điều đó đã loại bỏ các mối quan tâm về việc lạm dụng. Giám sát của Mass Mass sử dụng nhận dạng khuôn mặt, hiện đang hoạt động rất tốt, thực sự rất tốt, ông Nar Narayanan nói. Trên thực tế, đó là một phần lý do mà nó có hại, nếu nó được sử dụng mà không có các bảo vệ đúng. 

Bài học là thế này: Chỉ vì một công cụ hoạt động không có nghĩa là nó an toàn. Các nhà lãnh đạo cần cân nhắc cả giá trị của nó và khả năng sử dụng sai.

Hỏi đúng câu hỏi

Narayanan đề nghị hỏi hai câu hỏi để tránh những sai lầm tốn kém: Công cụ có hoạt động như tuyên bố không? Và, ngay cả khi nó làm, nó có thể gây hại? 

Ông đã chỉ vào các máy dò gian lận dựa trên keo nha cai ty le như một câu chuyện cảnh báo sẽ thất bại trong bài kiểm tra. Những công cụ này thường gắn cờ các sinh viên sai-đặc biệt là người nói tiếng Anh không bản địa. Họ chỉ làm việc.

keo nha cai ty le thế hệ có những cạm bẫy riêng của nó. Narayanan nói rằng trong khi các đại lý dựa trên keo nha cai ty le có thể làm những việc như điều hướng một trang web hoặc mua sắm trực tuyến, họ không có người dùng độ tin cậy mong đợi. Các sản phẩm phần mềm nhằm hoàn thành các nhiệm vụ này, đã chết khá nhiều khi đến, ông nói.

Hướng dẫn của anh ấy cho các doanh nghiệp: giữ căn cứ; Tập trung vào các vấn đề hẹp, được xác định rõ; và don sai lầm sự cường điệu cho sự sẵn sàng.

coi keo nha cai ty le là cơ sở hạ tầng, không phải ma thuật

keo nha cai ty le nên được xem ít hơn là phép thuật và nhiều hơn như cơ sở hạ tầng, Narayanan nói. Một ngày nào đó, phần lớn những gì chúng ta gọi là keo nha cai ty le hôm nay sẽ mờ dần vào nền, ông nói. 

Đó không phải là lý do để lùi lại, đó là một lý do để giữ sắc nét. Chúng tôi cần biết những ứng dụng nào chỉ có hại hoặc quá nhiều, ông nói. Ngay cả khi nó có ý nghĩa khi triển khai một ứng dụng keo nha cai ty le, chúng tôi cần những người bảo vệ. 

Xem Arvind Narayanan, nói về keo nha cai ty le Snake Oil