AI có chi phí năng lượng keo nha cái ty le tâm dữ liệu cao - nhưng có các giải pháp

Nhu cầu tăng cường trí tuệ nhân tạo đã có tác động môi trường đáng kể, đặc biệt là khi sử dụng keo nha cái ty le tâm dữ liệu. TheCơ quan năng lượng quốc tế đã ước tínhNhu cầu điện toàn cầu từ các keo nha cái ty le tâm dữ liệu có thể tăng gấp đôi từ năm 2022 đến 2026, được thúc đẩy một phần bởi việc áp dụng AI.

Hồi Khi chúng ta chuyển từ văn bản này sang video khác, các mô hình AI này đang phát triển và lớn hơn, và tác động năng lượng của chúng cũng vậyVijay Gadepally, một nhà khoa học và điều tra viên chính tại Phòng thí nghiệm MIT Lincoln, nơi ông lãnh đạoSuperCuting Center Sáng kiến nghiên cứu. Điều này sẽ phát triển thành một lượng lớn sử dụng năng lượng khá lớn và một đóng góp ngày càng tăng cho khí thải trên toàn thế giới.

Điều cần thiết là các chiến lược thúc đẩy tính bền vững của keo nha cái ty le tâm dữ liệu. Các tổ chức có thể chống lại nhu cầu và chi phí năng lượng tăng lên với một số thực tiễn nền tảng, nói về mặt chính thức tạiHội nghị bền vững MITVào tháng 10, từ việc xem xét lại đào tạo mô hình AI đến đầu tư vào phần cứng hiệu quả hơn.

keo nha cái ty le tâm siêu máy tính phòng thí nghiệm MIT Lincoln nỗ lực để giảm mức tiêu thụ năng lượng keo nha cái ty le tâm dữ liệu của chính họ cho thấy các tổ chức có thể kết hợp các hoạt động bền vững với tiết kiệm chi phí, giải quyết cả các vấn đề tài chính và bền vững cùng thời.

AI Tác động năng lượng

Các mô hình AI-Các mô hình AI đặc biệt như GPT-4-đang trở nên lớn hơn theo cấp số nhân, điều đó có nghĩa là nhiều năng lượng keo nha cái ty le tâm dữ liệu được sử dụng để đào tạo chúng và xử lý dữ liệu.

xem xét mộtmã thông báo, Một đơn vị văn bản mà mô hình AI tổng quát sử dụng để xử lý đầu vào và tạo ra các đầu ra. Xử lý một triệu mã thông báo, tạo thành một đô la giá trị thời gian tính toán, phát ra một lượng carbon được tạo ra bởi một chiếc xe được tạo ra bởi một chiếc xe được tạo ra.Năng lượng tương đương với việc sạc đầy điện thoại thông minh.

Đã, các keo nha cái ty le tâm dữ liệu chiếm 1% đến 2% nhu cầu năng lượng toàn cầu, tương tự như những gì các chuyên gia ước tính cho ngành công nghiệp hàng không, Gadepally nói. Con số đó đã sẵn sàng để tăng vọt, do nhu cầu AI tăng, có khả năng đạt 21% vào năm 2030, khi chi phí liên quan đến việc cung cấp AI cho người tiêu dùng được tính đến.

Nước cần thiết để làm mát là một yếu tố khác trong tính toán bền vững của keo nha cái ty le tâm dữ liệu. Khi nhiều thiết bị keo nha cái ty le tâm dữ liệu được ép thành các khu vực vật lý chặt chẽ hơn, nó làm tăng yêu cầu đối với các công nghệ làm mát tích cực, nhiều trong số đó rút ra từ các khu vực đầu nguồn đã bị căng thẳng, Gadepally nói.

một vở kịch để giảm lượng khí thải

Gadepally nói rằng thực hiện một số bước đơn giản có thể tạo ra một yếu tố đáng kể trong phát thải keo nha cái ty le tâm dữ liệu AI - có khả năng cắt giảm 10% đến 20% nhu cầu điện của keo nha cái ty le tâm dữ liệu toàn cầu. Tin tốt là các công ty mong muốn làm những gì mà đúng với môi trường có thể phù hợp với các mục tiêu tài chính của họ. Có một khoản đầu tư lớn [chi tiêu vốn] mà bạn cần thực hiện để cắt giảm lượng khí thải năng lượng, theo ông Gadepally. Bạn có thể sử dụng một số kỹ thuật này và cắt giảm chi phí hoạt động của bạn.

keo nha cái ty le tâm siêu máy tính đã sử dụng một số chiến lược để giảm dấu chân của keo nha cái ty le tâm dữ liệu và cắt giảm lượng khí thải năng lượng. Các khuyến nghị của Gadepally,Dựa trên nghiên cứu của anh ấy, Bao gồm các mục sau:

Giới hạn lượng công suất có sẵn.Giống như các tổ chức có thể chọn thay thế bóng đèn truyền thống bằng bóng đèn LED hiệu quả hơn, họ có thể đưa ra các lựa chọn tiết kiệm năng lượng hơn về thiết bị keo nha cái ty le tâm dữ liệu. Cách tiếp cận rõ ràng, Gadepally nói, đang chọn phần cứng hiệu quả hơn bất cứ khi nào có thể. Nhóm của anh ấy cũng đã thử nghiệm với giới hạn năng lượng của Cameron, hoặc giới hạn lượng năng lượng cung cấp năng lượng cho các bộ xử lý và các đơn vị xử lý đồ họa mà SuperComputer Foundation của họ bao gồm. Thay vì để chúng tăng 100%, chúng tôi giới hạn việc sử dụng ở mức 150 hoặc 250 watt [khoảng 60% đến 80% tổng công suất của chúng] tùy thuộc vào bộ xử lý mà chúng tôi sử dụng, ông nói. Chúng tôi đã áp dụng điều này cho cả khối lượng công việc đào tạo và suy luận, và nó không chỉ làm giảm mức tiêu thụ năng lượng và năng lượng tổng thể của khối lượng công việc; nó còn giảm nhiệt độ hoạt động.

Đào tạo mô hình suy nghĩ lại.Một cách tiếp cận khác là dựa vào các mô hình AI rẻ hơn, kém hơn cho đào tạo. Ví dụ, nhóm Gadepally, đã quyết định từ bỏ thói quen đào tạo hàng ngàn mô hình thông thường để hoàn thành cho một ứng dụng khám phá thuốc, cho rằng hầu hết dữ liệu đào tạo cuối cùng sẽ không bao giờ được sử dụng. Thay vào đó, nhóm đã xây dựng một công cụ ước tính tốc độ đào tạo theo dõi đường cong tổn thất của các mô hình đào tạo, cho phép họ dự đoán độ chính xác của trạng thái cuối sau khi 20% tính toán hoàn tất. Điều đó cho phép chúng tôi nhanh chóng loại bỏ khoảng 80% tính toán, không có tác động đến mô hình kết thúc, ông Gadepally nói.

Làm cho phần mềm AI- và carbon nhận thức.Phần mềm có thể được thiết kế để tự động điều chỉnh các biến thể về khí thải carbon và tác động carbon trong suốt cả ngày. Bằng cách sử dụng các chiến lược giảm năng lượng thông minh như là một phần của các hệ thống lập lịch, khối lượng công việc AI không nhạy cảm với thời gian có thể được tự động thay đổi để chạy vào các thời điểm khác nhau hoặc trong các khu vực địa lý khác nhau để giải quyết các giai đoạn sử dụng năng lượng cao nhất và đạt được tiết kiệm năng lượng tối ưu.

Ví dụ, MIT, phối hợp với Đại học Đông Bắc, đã xây dựng một công cụ phần mềm có tênCỏ ba láĐiều đó làm cho cường độ carbon trở thành một tham số để nó có thể nhận ra các giai đoạn năng lượng cực đại và tự động thực hiện các điều chỉnh thích hợp, bao gồm sử dụng mô hình chất lượng thấp hơn hoặc chọn cho mã lực tính toán hiệu suất thấp hơn. Với thí nghiệm này, chúng tôi đã giảm cường độ carbon cho các loại hoạt động khác nhau khoảng 80% xuống 90%, ông Gadepally nói.

Trong khi keo nha cái ty le tâm siêu máy tính phòng thí nghiệm MIT Lincoln tiếp tục sử dụng các sáng kiến AI tiết kiệm năng lượng này, thì có nhiều việc phải làm, nói rằng, bao gồm cả việc làm việc với cộng đồng rộng hơn để thu thập dữ liệu, xây dựng điểm chuẩn và suy nghĩ lại về các mô hình lớn hơn. Chúng ta cần suy nghĩ nhiều hơn về cách chúng ta có thể đi đến cùng một câu trả lời nhưng thêm một chút thông minh để làm cho AI xử lý hiệu quả năng lượng hơn, ông nói.