Nhà ty le keo pro ex-Google: Công nhân AI cần bảo vệ người thổi còi

ty le keo pro trí tuệ nhân tạo dẫn đến các công nghệ tiên tiến mới,Nhưng nó đắt.

Các công ty công nghệ lớn, được cung cấp bởi AI và có túi sâu, thường đảm nhận công việc này-nhưng điều đó mang lại cho họ sức mạnh để kiểm duyệt hoặc cản trở ty le keo pro đưa họ vào một ánh sáng bất lợi, theo một nhà khoa học máy tính, đồng sáng lập của tổ chức phi lợi nhuậnĐen trong AIVà cựu đồng lãnh đạo của nhóm AI đạo đức của Google.  

Tình hình không hoàn hảo cả quyền của công nhân AI tại các công ty đó và chất lượng ty le keo pro được chia sẻ với công chúng, Gebru nói, phát biểu tại gần đâyEMTech MITHội nghị được tổ chức bởi Đánh giá công nghệ MIT.

Hồi Nó tất cả các cấu trúc khuyến khích không có để bạn thách thức hiện trạng, cô nói.

gebru làbị ép buộc tại Google tháng 12 năm ngoái(Gebru nói rằng cô ấy đã bị sa thải, trong khi Google nói rằng cô ấy đã từ chức) sau khi đồng sáng tácMột tờ giấyVề rủi ro của các mô hình ngôn ngữ AI lớn, chẳng hạn như tác động môi trường và khó khăn trong việc tìm kiếm các thành kiến nhúng. Công cụ tìm kiếm Google Google chạy trên một mô hình ngôn ngữ lớn như vậy.

Trích dẫn mối quan tâm, Google đã nói với Gebru rút lại tờ giấy khỏi hội nghị hoặc xóa tên của cô ấy và tên của các nhà ty le keo pro khác của Google,Theo tờ New York Times. Gebru từ chối như vậy mà không có lời giải thích đầy đủ hơn từ Google, dẫn đến việc Google thông báo về sự ra đi của cô.

Trong cuộc nói chuyện gần đây của mình, Gebru đã nhấn mạnh những gì cô ấy xem là mối quan tâm về quyền lao động của người lao động AI, cách bảo vệ họ và tại sao học viện luôn luôn là một con đường tốt hơn cho các nhà ty le keo pro. Cuối cùng, cô nói, mục tiêu là trí tuệ nhân tạo tốt hơn và công bằng hơn.

Thời điểm bạn đẩy mạnh một chút, bạn đã ra ngoài

Trung tâm ty le keo pro Gebru về các tác động tiêu cực ngoài ý muốn của trí tuệ nhân tạo. Một bài báo mà cô ấy đồng tác giả với nhà ty le keo pro MIT Media LabJoy BuolamwiniKhám pháBias trong thuật toán nhận dạng khuôn mặt.

sauTham gia Google vào năm 2018, Tôi đã gặp vấn đề ngay từ đầu, ông Geb Gebr nói.  Cô cho biết một số người đã nghi ngờ rằng cô sẽ có thể thay đổi một công ty lớn như Google. Tôi đã suy nghĩ, ‘Được rồi, có lẽ tôi có thể tạo ra một mảnh nhỏ mà an toàn cho những người trong các nhóm bên lề, cô ấy nói. Những gì tôi học được là điều đó là không thể, bởi vì khoảnh khắc bạn hơi mạnh mẽ, bạn ra ngoài.

Điều quan trọng là phải giữ các công ty công nghệ chịu trách nhiệm từ bên ngoài, Gebru nói.

Hồi Chúng tôi không thể có động lực hiện tại mà chúng tôi có và mong đợi bất kỳ loại công nghệ phi nào không phải là công ty công nghệ, "cô nói. "Bởi vì khi bạn bắt đầu kiểm duyệt ty le keo pro, thì đó là những gì xảy ra, phải không? Các bài báo xuất hiện cuối cùng giống như tuyên truyền.

Các vấn đề mở rộng bên ngoài công nghệ lớn

Kể từ khi rời Google, Gebru đã làm việc vớiPhát triển một Viện ty le keo pro độc lập. Trong khi nhiều nhà ty le keo pro AI làm việc trong giới học thuật, Gebru nói rằng theo kinh nghiệm của mình, đại lộ đó đặt ra những mối quan tâm của riêng mình liên quan đến việc gác cổng, quấy rối và một cấu trúc khuyến khích không thưởng cho ty le keo pro dài hạn.  

Cũng có những lo ngại về các công ty công nghệ tài trợ cho ty le keo pro AI tại các tổ chức học thuật. Gebru được trích dẫnDự án Hoodie màu xám, một bài báo ty le keo pro của Mohamed Abdalla thuộc Đại học Toronto và Moustafa Abdalla của Trường Y Harvard. Các nhà ty le keo pro đã so sánh cách thức công nghệ lớn (các công ty công nghệ lớn như Google, Amazon và Facebook) đang tài trợ và dẫn đầu ty le keo pro của AI với việc các công ty thuốc lá lớn được tài trợ như thế nào trong nỗ lực xua tan những lo ngại về ảnh hưởng sức khỏe của việc hút thuốc.

Tại một Viện ty le keo pro độc lập, bạn có thể ty le keo pro rằng công ty không nghĩ sẽ kiếm được tiền ngay bây giờ. Bạn có thể thực hiện ty le keo pro thực sự cho thấy những lỗ hổng cơ bản trong bất kỳ công nghệ nào mà một công ty có thể sử dụng

Cách cải thiện sự bảo vệ cho các công nhân công nghệ lớn

Gebru cho biết cô không tranh luận chống lại các nhà ty le keo pro làm việc cho các công ty công nghệ lớn, nhưng nói rằng họ cần bảo vệ để làm công việc của mình. Nếu không, các công ty công nghệ có thể quash các phát hiện hoặc chủ đề ty le keo pro không thuận lợi. Cô ấy đề nghị ba điều có thể giúp ích:

1. Nâng caoBảo vệ người thổi còiĐối với các nhà ty le keo pro AI. Các sự kiện gần đây đã cho thấy tầm quan trọng của những người thổi còi tại các công ty công nghệ lớn, chẳng hạn như nhà khoa học dữ liệu Facebook cũAi tiếp xúc với công ty Tài liệu nội bộ chương trình đó Facebook biết mức độ hại mà công ty gây ra.

2. Luật chống phân biệt đối xử. Thông thường các tổ chức này gây hại cho các cộng đồng bị thiệt thòi nhất góc."
3. Luật lao động. Khi Google tham gia vào một chương trình liên bang để sử dụng AI để có khả năng cải thiện các cuộc tấn công bằng máy bay không người lái,Nhân viên đã phản đốivà công ty cuối cùng đã không gia hạn hợp đồng. Tôi nghĩ rằng các công nhân đang xây dựng sức mạnh, điều này thật tuyệt vời, nhưng chúng ta cần luật bảo vệ lao động mạnh mẽ hơn nhiều để cho phép ngay cả các nhà ty le keo pro AI tổ chức chống lại những điều mà họ thấy thực sự sai, cô nói. Sau khi gebru rời Google, AThư hỗ trợĐối với cô ấy đã được ký bởi gần 2.700 nhân viên của Google và hơn 4.300 người khác.

Gebru cũng khuyên mọi người làm việc trong công nghệ đang chiến đấu với những vấn đề này để xây dựng một liên minh.

Bạn có thể làm rất nhiều điều mà không cần những biện pháp bảo vệ lao động đó, cô nói. Nếu bạn có một liên minh của những người xung quanh bạn, bạn có thể làm rất nhiều.
 

và bao gồm cả ty le keo pro có thể không phổ biến.

Hãy cố gắng nghĩ về một điều bạn có thể làm điều đó thúc đẩy phong bì, điều đó sẽ không làm cho các công ty hạnh phúc, bởi vì điều đó có nghĩa là bạn đang làm điều đúng đắn, cô nói.

Một tầm nhìn công bằng hơn cho AI

Khi các công nghệ AI trở nên phổ biến, điều ngày càng quan trọng để xem xét ai có liên quan đến việc định hình tương lai.

Hồi Nó không có gì thực sự đột phá. Tôi chỉ muốn làm việc về ty le keo pro trong AI [mà] bắt nguồn từSuy nghĩ về quan điểm của những người trong các nhóm bên lề,” Gebru said. “That could be either thinking about research in the future and what kind of technologies should we build, what kind of AI tech research should we do, or critiquing it after it's been built.”

Gebru cho biết cô hy vọng sẽ thấy trí tuệ nhân tạo trở nên cụ thể hơn và được thiết kế để sử dụng cho các nhóm người cụ thể. Ngay bây giờ, AI là trừu tượng và chung chung, có xu hướng có nghĩa là tầm nhìn nhóm thống trị của nhóm được thực hiện, các nhóm không đặc biệt.

Hãy để Let Hãy nhìn vào những người bị thiệt thòi nhất ngay từ đầu và hãy bắt đầu với góc độ đó, cô nói.

Đọc thêm bảo hiểm trí tuệ nhân tạo