Artificial Intelligence High Level Concept 777x622 1 2
Thông tin công nghệ

Một “Nobel mới” – Nhà khoa học máy tính giành được giải thưởng trí tuệ nhân tạo trị giá 1 triệu đô la

Artificial Intelligence High Level Concept

Giáo sư Duke trở thành người thứ hai nhận Giải thưởng AAAI Squirrel AI cho AI tiên phong có trách nhiệm với xã hội.

Cho dù ngăn chặn các vụ nổ trên lưới điện, phát hiện các mẫu tội phạm trong quá khứ hay tối ưu hóa nguồn lực trong việc chăm sóc các bệnh nhân nặng, nhà khoa học máy tính Cynthia Rudin của Đại học Duke đều muốn trí tuệ nhân tạo (AI) thể hiện công việc của mình. Đặc biệt là khi nó đưa ra những quyết định ảnh hưởng sâu sắc đến cuộc sống của mọi người.

Trong khi nhiều học giả trong lĩnh vực máy học đang phát triển tập trung vào việc cải thiện các thuật toán, thay vào đó, Rudin muốn sử dụng sức mạnh của AI để giúp đỡ xã hội. Cô ấy đã chọn theo đuổi các cơ hội để áp dụng các kỹ thuật học máy vào các vấn đề xã hội quan trọng và trong quá trình này, cô nhận ra rằng tiềm năng của AI được phát huy tốt nhất khi con người có thể nhìn vào bên trong và hiểu được nó đang làm gì.

Cynthia Rudin, giáo sư kỹ thuật điện, máy tính và khoa học máy tính tại Đại học Duke. Tín dụng: Les Todd

Giờ đây, sau 15 năm ủng hộ và phát triển các thuật toán học máy “có thể hiểu được” cho phép con người nhìn thấy bên trong AI, những đóng góp của Rudin cho lĩnh vực này đã giúp cô nhận được Giải thưởng AI của Sóc Nhí trị giá 1 triệu đô la cho Trí tuệ nhân tạo vì lợi ích của nhân loại từ Hiệp hội cho Sự phát triển của Trí tuệ Nhân tạo (AAAI). Được thành lập vào năm 1979, AAAI là xã hội khoa học quốc tế nổi bật phục vụ các nhà nghiên cứu, thực hành và giáo dục AI.

Rudin, giáo sư khoa học máy tính và kỹ thuật tại Duke, là người thứ hai nhận giải thưởng thường niên mới, do công ty giáo dục trực tuyến Squirrel AI tài trợ để công nhận những thành tựu trong trí tuệ nhân tạo theo cách tương đương với các giải thưởng hàng đầu trong các lĩnh vực truyền thống hơn.

Cô ấy đang được khen ngợi vì “công trình khoa học tiên phong trong lĩnh vực hệ thống AI có thể diễn giải và minh bạch trong việc triển khai thế giới thực, ủng hộ cho các tính năng này trong các lĩnh vực nhạy cảm cao như công bằng xã hội và chẩn đoán y tế, đồng thời đóng vai trò như một hình mẫu cho các nhà nghiên cứu và các học viên. ”

“Chỉ những giải thưởng nổi tiếng thế giới, chẳng hạn như Giải Nobel và Giải AM Turing từ Hiệp hội Máy tính Máy tính, mới mang lại phần thưởng bằng tiền ở mức hàng triệu đô la,” chủ tịch ủy ban giải thưởng AAAI và chủ tịch trước đây Yolanda Gil cho biết. “Công trình của Giáo sư Rudin nhấn mạnh tầm quan trọng của tính minh bạch đối với các hệ thống AI trong các lĩnh vực rủi ro cao. Sự can đảm của cô ấy trong việc giải quyết các vấn đề gây tranh cãi cho thấy tầm quan trọng của nghiên cứu để giải quyết những thách thức quan trọng trong việc sử dụng AI có trách nhiệm và đạo đức ”.

Dự án ứng dụng đầu tiên của Rudin là sự hợp tác với Con Edison, công ty năng lượng chịu trách nhiệm cung cấp năng lượng cho Thành phố New York. Nhiệm vụ của cô là sử dụng công nghệ máy học để dự đoán những hố ga nào có nguy cơ phát nổ do mạch điện xuống cấp và quá tải. Nhưng cô ấy sớm phát hiện ra rằng dù có thêm bao nhiêu hồi chuông học thuật mới được xuất bản vào mã của mình, nó vẫn phải vật lộn để cải thiện hiệu suất một cách có ý nghĩa khi đối mặt với những thách thức đặt ra khi làm việc với các ghi chú viết tay từ người điều phối và hồ sơ kế toán từ thời Thomas Edison.

Rudin cho biết: “Chúng tôi đã nhận được độ chính xác cao hơn từ các kỹ thuật thống kê cổ điển đơn giản và hiểu rõ hơn về dữ liệu khi chúng tôi tiếp tục làm việc với nó. “Nếu chúng tôi có thể hiểu thông tin mà các mô hình dự đoán đang sử dụng, chúng tôi có thể hỏi các kỹ sư của Con Edison để có phản hồi hữu ích nhằm cải thiện toàn bộ quy trình của chúng tôi. Chính khả năng diễn giải trong quá trình này đã giúp cải thiện độ chính xác trong các dự đoán của chúng tôi, chứ không phải bất kỳ mô hình học máy nào lớn hơn hoặc huyền ảo hơn. Đó là những gì tôi quyết định làm việc và nó là nền tảng mà phòng thí nghiệm của tôi được xây dựng trên đó. ”

Trong thập kỷ tiếp theo, Rudin đã phát triển các kỹ thuật cho việc học máy có thể diễn giải, đó là các mô hình dự đoán tự giải thích theo cách mà con người có thể hiểu được. Mặc dù mã để thiết kế các công thức này phức tạp và phức tạp, nhưng các công thức có thể đủ nhỏ để viết trong một vài dòng trên thẻ chỉ mục.

Rudin đã áp dụng thương hiệu máy học có thể diễn giải của mình cho nhiều dự án có tác động. Cùng với các cộng tác viên Brandon Westover và Aaron Struck tại Bệnh viện Đa khoa Massachusetts, và học viên cũ của mình là Berk Ustun, cô đã thiết kế một hệ thống dựa trên điểm đơn giản có thể dự đoán bệnh nhân nào có nguy cơ bị động kinh hủy hoại sau đột quỵ hoặc chấn thương não khác. Và cùng với cựu sinh viên MIT của mình, Tong Wang và Sở Cảnh sát Cambridge, cô đã phát triển một mô hình giúp khám phá những điểm chung giữa các tội phạm để xác định xem chúng có thể là một phần của loạt tội phạm giống nhau hay không. Chương trình mã nguồn mở đó cuối cùng đã trở thành cơ sở của thuật toán Patternizr của Sở Cảnh sát New York, một đoạn mã mạnh mẽ để xác định xem một tội phạm mới được thực hiện trong thành phố có liên quan đến tội phạm trong quá khứ hay không.

“Cam kết của Cynthia trong việc giải quyết các vấn đề quan trọng trong thế giới thực, mong muốn hợp tác chặt chẽ với các chuyên gia lĩnh vực, và khả năng chắt lọc và giải thích các mô hình phức tạp là vô song,” Daniel Wagner, phó giám đốc Sở cảnh sát Cambridge cho biết. “Kết quả nghiên cứu của cô ấy đã đóng góp đáng kể vào lĩnh vực phân tích tội phạm và trị an. Ấn tượng hơn, cô ấy là một người chỉ trích mạnh mẽ các mô hình ‘hộp đen’ tiềm ẩn bất công trong tư pháp hình sự và các lĩnh vực có giá trị cao khác, đồng thời là người ủng hộ mạnh mẽ cho các mô hình có thể diễn giải minh bạch trong đó kết quả chính xác, công bằng và không thiên vị là điều cần thiết. “

Các mô hình hộp đen đối lập với các mã trong suốt của Rudin. Các phương pháp được áp dụng trong các thuật toán AI này khiến con người không thể hiểu được các yếu tố mà mô hình phụ thuộc vào, dữ liệu mà mô hình đang tập trung vào và cách họ sử dụng nó. Mặc dù đây có thể không phải là vấn đề đối với những nhiệm vụ tầm thường như phân biệt chó với mèo, nhưng nó có thể là một vấn đề lớn đối với những quyết định mang tính cổ phần cao làm thay đổi cuộc sống của con người.

“Cynthia đang thay đổi toàn cảnh về cách AI được sử dụng trong các ứng dụng xã hội bằng cách chuyển hướng các nỗ lực khỏi các mô hình hộp đen và hướng tới các mô hình có thể diễn giải bằng cách cho thấy rằng trí tuệ thông thường – rằng hộp đen thường chính xác hơn – rất thường sai”, Jun Yang nói , chủ nhiệm khoa khoa học máy tính tại Duke. “Điều này khiến việc biện minh cho những cá nhân (chẳng hạn như bị cáo) đối với các mô hình hộp đen trong các tình huống đặt cược cao trở nên khó khăn hơn. Khả năng diễn giải của các mô hình của Cynthia đóng vai trò quan trọng trong việc áp dụng chúng vào thực tế, vì chúng cho phép con người ra quyết định thay vì thay thế chúng ”.

Một ví dụ có tác động liên quan đến COMPAS — một thuật toán AI được sử dụng trên nhiều tiểu bang để đưa ra quyết định tạm tha tại ngoại đã bị một cuộc điều tra của ProPublica cáo buộc sử dụng một phần chủng tộc làm yếu tố trong các tính toán của nó. Tuy nhiên, lời buộc tội này rất khó chứng minh vì các chi tiết của thuật toán là thông tin độc quyền và một số khía cạnh quan trọng trong phân tích của ProPublica vẫn còn nhiều nghi vấn. Nhóm của Rudin đã chứng minh rằng một mô hình có thể giải thích đơn giản tiết lộ chính xác những yếu tố mà họ đang xem xét cũng tốt trong việc dự đoán liệu một người có phạm tội khác hay không. Rudin nói rằng điều này đặt ra câu hỏi là tại sao các mô hình hộp đen lại cần được sử dụng cho những loại quyết định có tỷ lệ cược cao này.

Rudin nói: “Chúng tôi đã chứng minh một cách có hệ thống rằng đối với các ứng dụng có giá trị cổ phần cao, sẽ không bị mất độ chính xác để đạt được khả năng diễn giải, miễn là chúng tôi tối ưu hóa mô hình của mình một cách cẩn thận. “Chúng tôi đã thấy điều này đối với các quyết định tư pháp hình sự, nhiều quyết định chăm sóc sức khỏe bao gồm hình ảnh y tế, quyết định bảo trì lưới điện, quyết định cho vay tài chính và hơn thế nữa. Biết rằng điều này có thể thay đổi cách chúng ta nghĩ về AI không có khả năng tự giải thích ”.

Trong suốt sự nghiệp của mình, Rudin không chỉ tạo ra các mô hình AI có thể hiểu được này mà còn phát triển và xuất bản các kỹ thuật để giúp những người khác làm điều tương tự. Điều đó không phải lúc nào cũng dễ dàng. Khi lần đầu tiên cô ấy bắt đầu xuất bản tác phẩm của mình, các thuật ngữ “khoa học dữ liệu” và “máy học có thể diễn giải” không tồn tại và không có danh mục nào mà nghiên cứu của cô ấy phù hợp, có nghĩa là người biên tập và người đánh giá không biết phải làm gì với nó. Cynthia nhận thấy rằng nếu một bài báo không chứng minh các định lý và tuyên bố các thuật toán của nó chính xác hơn, thì nó — và thường là — sẽ khó xuất bản hơn.

Khi Rudin tiếp tục giúp đỡ mọi người và xuất bản các thiết kế có thể giải thích của cô ấy — và khi nhiều mối quan tâm tiếp tục xuất hiện với mã hộp đen — thì ảnh hưởng của cô ấy cuối cùng cũng bắt đầu xoay chuyển con tàu. Hiện có toàn bộ danh mục trong các tạp chí và hội nghị học máy dành cho công việc có thể diễn giải và ứng dụng. Các đồng nghiệp khác trong lĩnh vực này và các cộng tác viên của họ đang nói lên tầm quan trọng của khả năng diễn giải đối với việc thiết kế các hệ thống AI đáng tin cậy.

Ingrid Daubechies, Công tước James B. Giáo sư Toán học và Kỹ thuật Điện và Máy tính, một trong những nhà nghiên cứu ưu việt trên thế giới về xử lý tín hiệu, và là một trong những cố vấn Tiến sĩ của Rudin tại Đại học Princeton . “Ngay cả khi là một sinh viên mới tốt nghiệp, cô ấy đã là một người xây dựng cộng đồng, đứng lên vì những người khác trong nhóm của mình. Cô ấy đưa tôi vào học máy, vì nó không phải là lĩnh vực mà tôi có chút chuyên môn nào trước khi cô ấy nhẹ nhàng nhưng rất kiên trì thúc đẩy tôi vào nó. Tôi rất vui vì sự công nhận tuyệt vời và rất xứng đáng dành cho cô ấy! ”

“Tôi không thể vui mừng hơn khi thấy công việc của Cynthia được tôn vinh theo cách này,” cố vấn tiến sĩ thứ hai của Rudin, đối tác Nghiên cứu của Microsoft Robert Schapire, người có công trình “thúc đẩy” đã giúp đặt nền móng cho máy học hiện đại nói thêm. “Đối với nghiên cứu sâu sắc và đầy cảm hứng của cô ấy, suy nghĩ độc lập của cô ấy đã dẫn cô ấy đi theo những hướng rất khác với xu hướng chính thống, và sự chú ý lâu dài của cô ấy đối với các vấn đề và các vấn đề có tầm quan trọng thực tế, xã hội.”

Rudin lấy bằng đại học về vật lý toán học và lý thuyết âm nhạc từĐại học ở Buffalotrước khi hoàn thành bằng tiến sĩ về toán học ứng dụng và tính toán tại Princeton. Sau đó, cô làm việc với tư cách là nghiên cứu viên sau tiến sĩ của Quỹ Khoa học Quốc gia tạiĐại học New Yorkvà với tư cách là một nhà khoa học nghiên cứu liên kết tạiĐại học Columbia. Cô trở thành phó giáo sư thống kê tại Viện Công nghệ Massachusetts trước khi gia nhập khoa của Duke vào năm 2017, nơi cô có các cuộc hẹn về khoa học máy tính, kỹ thuật điện và máy tính, thống kê sinh học và tin sinh học và khoa học thống kê.

Cô là người ba lần nhận Giải thưởng Ứng dụng Sáng tạo INFORMS trong Giải thưởng Analytics, công nhận các ứng dụng sáng tạo và độc đáo của kỹ thuật phân tích, đồng thời là thành viên của Hiệp hội Thống kê Hoa Kỳ và Viện Thống kê Toán học.

“Tôi muốn cảm ơn AAAI và Squirrel AI đã tạo ra giải thưởng này mà tôi biết rằng sẽ thay đổi cuộc chơi cho lĩnh vực này,” Rudin nói. “Việc có được ‘giải Nobel’ cho AI để giúp xã hội, cuối cùng đã làm rõ rằng chủ đề này – AI hoạt động vì lợi ích cho xã hội – thực sự quan trọng.”

Theo Scitechdaily

What's your reaction?

Excited
0
Happy
0
In Love
0
Not Sure
0

You may also like

Leave a reply

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *

Website này sử dụng Akismet để hạn chế spam. Tìm hiểu bình luận của bạn được duyệt như thế nào.