Các nhà nghiên cứu cảnh báo: Rủi ro của việc sử dụng AI để phát triển thực phẩm của chúng ta là rất đáng kể và không thể bỏ qua

Trí tuệ nhân tạo (AI) đang trên đà thúc đẩy một cuộc cách mạng nông nghiệp và giúp đối đầu với thách thức trong việc cung cấp nguồn dinh dưỡng cho dân số toàn cầu ngày càng tăng của chúng ta một cách bền vững. Nhưng các nhà nghiên cứu cảnh báo rằng việc sử dụng các công nghệ AI mới trên quy mô lớn tiềm ẩn những rủi ro lớn chưa được xem xét.

Hãy tưởng tượng một cánh đồng lúa mì trải dài đến tận chân trời, được trồng để lấy bột mì sẽ được sản xuất thành bánh mì để cung cấp cho người dân thành phố. Hãy tưởng tượng rằng tất cả các quyền về xới đất, trồng trọt, bón phân, giám sát và thu hoạch cánh đồng này đã được giao cho trí tuệ nhân tạo: các thuật toán điều khiển hệ thống tưới nhỏ giọt, máy kéo tự lái và máy gặt đập liên hợp, đủ thông minh để phản ứng với thời tiết và nhu cầu chính xác của cây trồng. Sau đó, hãy tưởng tượng một hacker sẽ làm mọi thứ rối tung lên.

“Ý tưởng về những cỗ máy thông minh vận hành trang trại không phải là khoa học viễn tưởng.” – Asaf Tzachor

Một phân tích rủi ro mới, được công bố gần đây trên tạp chí Nature Machine Intelligence , cảnh báo rằng việc sử dụng trí tuệ nhân tạo trong nông nghiệp trong tương lai đi kèm với những rủi ro tiềm tàng đáng kể cho các trang trại, nông dân và an ninh lương thực vốn chưa được hiểu rõ và đánh giá thấp.

“Ý tưởng về những cỗ máy thông minh vận hành trang trại không phải là khoa học viễn tưởng. Tiến sĩ Asaf Tzachor tại Trung tâm Nghiên cứu Rủi ro Hiện tại (CSER) của Đại học Cambridge cho biết: giấy.

Ông nói thêm: “Nhưng cho đến nay, dường như không ai đặt câu hỏi“ có bất kỳ rủi ro nào liên quan đến việc triển khai nhanh chóng AI trong nông nghiệp không? ”.

Bất chấp lời hứa to lớn của AI trong việc cải thiện quản lý cây trồng và năng suất nông nghiệp, các rủi ro tiềm ẩn phải được giải quyết một cách có trách nhiệm và các công nghệ mới được thử nghiệm đúng cách trong các môi trường thử nghiệm để đảm bảo chúng an toàn và bảo mật trước những thất bại ngẫu nhiên, hậu quả không mong muốn và các cuộc tấn công mạng, các tác giả Nói.

Trong nghiên cứu của mình, các tác giả đã đưa ra một danh mục các rủi ro phải được xem xét trong quá trình phát triển có trách nhiệm của AI cho nông nghiệp – và các cách giải quyết chúng. Trong đó, họ đưa ra cảnh báo về những kẻ tấn công mạng có khả năng gây gián đoạn cho các trang trại thương mại sử dụng AI, bằng cách đầu độc bộ dữ liệu hoặc bằng cách đóng cửa máy phun, máy bay không người lái tự động và máy thu hoạch bằng robot. Để đề phòng điều này, họ đề xuất rằng ‘tin tặc mũ trắng’ giúp các công ty phát hiện ra bất kỳ lỗi bảo mật nào trong giai đoạn phát triển, để hệ thống có thể được bảo vệ trước các tin tặc thực sự.

Trong một kịch bản liên quan đến thất bại ngẫu nhiên, các tác giả gợi ý rằng một hệ thống AI được lập trình chỉ để mang lại năng suất cây trồng tốt nhất trong thời gian ngắn có thể bỏ qua những hậu quả môi trường khi đạt được điều này, dẫn đến việc lạm dụng phân bón và xói mòn đất về lâu dài. Việc sử dụng quá nhiều thuốc trừ sâu để theo đuổi sản lượng cao có thể gây nhiễm độc cho các hệ sinh thái; bón quá nhiều phân đạm sẽ gây ô nhiễm đất và các nguồn nước xung quanh. Các tác giả đề xuất liên quan đến các nhà sinh thái học ứng dụng trong quá trình thiết kế công nghệ để đảm bảo tránh được những kịch bản này.

Máy móc tự động có thể cải thiện điều kiện lao động của nông dân, giảm bớt lao động chân tay cho họ. Nhưng nếu không có thiết kế công nghệ bao trùm, thì bất bình đẳng kinh tế xã hội hiện đang tồn tại trong nông nghiệp toàn cầu – bao gồm phân biệt đối xử về giới, giai cấp và sắc tộc – sẽ vẫn còn.

Tzachor cảnh báo: “Các hệ thống canh tác bằng AI của chuyên gia không xem xét sự phức tạp của đầu vào lao động sẽ bỏ qua và có khả năng duy trì sự bóc lột của các cộng đồng thiệt thòi,” Tzachor cảnh báo.

Nhiều chương trình nông nghiệp khác nhau và máy móc tiên tiến, chẳng hạn như máy bay không người lái và cảm biến, đã được sử dụng để thu thập thông tin về cây trồng và hỗ trợ việc ra quyết định của nông dân: chẳng hạn như phát hiện bệnh hoặc tưới không đủ. Và máy gặt đập liên hợp tự lái có thể đem lại vụ mùa mà không cần đến con người điều khiển. Các hệ thống tự động này nhằm mục đích làm cho việc canh tác hiệu quả hơn, tiết kiệm chi phí lao động, tối ưu hóa cho sản xuất và giảm thiểu thất thoát và lãng phí. Điều này dẫn đến tăng doanh thu cho nông dân cũng như phụ thuộc nhiều hơn vào AI trong nông nghiệp.

Tuy nhiên, những người trồng quy mô nhỏ canh tác phần lớn các trang trại trên toàn thế giới và nuôi những đàn lớn ở cái gọi là Global South có khả năng bị loại khỏi các lợi ích liên quan đến AI. Định biên, tỷ lệ thâm nhập internet kém và khoảng cách kỹ thuật số có thể ngăn cản các hộ sản xuất nhỏ sử dụng các công nghệ tiên tiến, làm gia tăng khoảng cách giữa nông dân thương mại và tự cung tự cấp.

Với ước tính khoảng hai tỷ người bị ảnh hưởng bởi tình trạng mất an ninh lương thực, bao gồm khoảng 690 triệu người bị suy dinh dưỡng và 340 triệu trẻ em bị thiếu vi chất dinh dưỡng, công nghệ trí tuệ nhân tạo và nông nghiệp chính xác hứa hẹn mang lại những lợi ích đáng kể cho an ninh lương thực và dinh dưỡng trong bối cảnh biến đổi khí hậu và dân số toàn cầu ngày càng tăng .

“AI đang được ca ngợi là cách mạng hóa nông nghiệp. Tiến sĩ Seán Ó hÉigeartaigh, Giám đốc điều hành của CSER và đồng tác giả của nghiên cứu mới cho biết: Khi chúng tôi triển khai công nghệ này trên quy mô lớn, chúng tôi nên xem xét chặt chẽ các rủi ro tiềm ẩn và hướng tới việc giảm thiểu những rủi ro đó ngay từ đầu trong thiết kế công nghệ.

Tham khảo: “Trí tuệ nhân tạo có trách nhiệm trong nông nghiệp đòi hỏi sự hiểu biết hệ thống về rủi ro và ngoại ứng” của Asaf Tzachor, Medha Devare, Brian King, Shahar Avin và Seán Ó hÉigeartaigh, 23 tháng 2 năm 2022, Nature Machine Intelligence .
DOI: 10.1038 / s42256-022-00440-4

Nghiên cứu này được tài trợ bởi Templeton World Charity Foundation, Inc.

Theo Scitechdaily