XAI- Trí tuệ nhân tạo có thể giải thích

Các mô hình học máy (ML) đã tạo được danh tiếng nhưng cũng khiến người dùng hoài nghi. Điều này chủ yếu xảy ra trong các tình huống mà các mô hình và kết quả là một phần của các quy trình điển hình, chẳng hạn như các mô hình nhận dạng khuôn mặt cho mục đích bảo mật hoặc sử dụng trong ngành y để phát hiện bệnh. Nó cũng có thể được triển khai trong ngành hàng không khi thông tin quan sát thời tiết bằng radar bị hiểu sai và dẫn máy bay vào cơn bão. Các mô hình dự đoán luồng vận chuyển tốt hơn trong chuỗi cung ứng bị gián đoạn cần được kiểm tra cẩn thận để không tác động đến hàng hóa dễ hỏng. Ngoài ra, và theo nghĩa chung hơn, việc không minh bạch của các thuật toán có khả năng dẫn đến các kết quả không mong muốn như thiên vị, phân biệt chủng tộc hoặc khai thác sai trái các nhóm dễ bị tổn thương.

Việc tự động hóa hoàn toàn các quyết định đòi hỏi một mức độ tin cậy khác. Nếu kết quả bị thiên vị thì sao? Ví dụ, một công ty thẻ tín dụng có thể sử dụng thuật toán AI phản ánh sự thiên vị xã hội để quảng cáo sản phẩm của họ, nhắm mục tiêu đến những người học vấn thấp với các ưu đãi có lãi suất cao hơn. Nếu kết quả dẫn đến hành động bất hợp pháp thì sao? Ví dụ, dựa trên hồ sơ phân biệt chủng tộc vô tình, chúng ta không cung cấp cơ hội bình đẳng cho khách du lịch để đổi điểm để đi du lịch. Có nhiều kết quả tiêu cực tiềm ẩn và các vấn đề đạo đức xung quanh việc cho phép tự động hóa trở nên tự chủ khi hoạt động của nó có thể chưa được giải thích.

Thuật toán càng phức tạp thì càng khó hiểu cách mô hình AI/ML đưa ra quyết định. AI có thể giải thích- Explainable AI- cố gắng giải quyết bản chất hộp đen của các hệ thống như vậy và xây dựng lòng tin và tính minh bạch. Nó được viết tắt là XAI.

Theo mô tả đơn giản nhất, XAI sử dụng ngôn ngữ của con người, biểu đồ và hình ảnh để giải thích lại cho mọi người cách mô hình đi đến kết quả của nó. Logic này được tường thuật và trực quan hóa, giúp dễ dàng theo dõi các mô hình và kiểm soát tính công bằng. Về bản chất, XAI trái ngược với khái niệm "hộp đen" trong học máy và cho phép minh bạch. Ví dụ, các nhà tiếp thị hàng không cần tin tưởng rằng các hệ thống đề xuất các dịch vụ khách sạn, chuyến du ngoạn hoặc tham gia vào sự kiện ở điểm đến có liên quan trong quá trình theo đuổi cá nhân hóa các sản phẩm và dịch vụ phụ trợ. Họ muốn hiểu cách các mô hình đưa ra dự đoán và mức độ hợp lý, chính xác nhằm đạt được mục tiêu của chúng. Điều này có thể được đo lường sau thực tế bằng cách đo lường số lượng người tham gia và giao dịch, nhưng thiệt hại có thể đã xảy ra vào thời điểm đó. Đánh giá vội vàng không phải là chiến thuật có thể chấp nhận được khi số hóa giỏ hàng vì khách hàng thể hiện sự tin tưởng của mình bằng cách nhấp vào tiếp tục. Với trải nghiệm tồi tệ, họ sẽ nhớ không quay lại. Tương tự như vậy, khi sử dụng các mô hình AI tích hợp dự đoán thời điểm bật động cơ phản lực trong khi lăn bánh có thể tạo ra sự khác biệt giữa việc tiết kiệm nhiên liệu hay lãng phí.

XAI giúp vượt qua những thách thức sau trong hành trình áp dụng AI:

• Khó khăn trong việc đảm bảo tính công bằng và giảm thiểu thiên vị.

• Số lượng mô hình đưa vào sản xuất không đủ.

• Không có khả năng sử dụng các thuật toán phức tạp hơn (nhưng không rõ ràng).

Trên thực tế, khi các nhà khoa học dữ liệu tạo ra các mô hình, việc thiếu khả năng giải thích "làm xói mòn lòng tin vào kết quả và làm tăng nguy cơ bị phạt theo quy định và rủi ro về danh tiếng", theo IBM. Công việc càng phức tạp, kết quả càng khó hiểu và các nhà lãnh đạo doanh nghiệp càng ít tin tưởng vào kết quả. Điều này có thể khiến các giám đốc điều hành lựa chọn giảm đi hiệu suất vì có thể giải thích dễ dàng hơn. XAI giải quyết vấn đề này.

Rõ ràng, chất lượng dữ liệu và khả năng truy cập của nó là hai thách thức chính trong việc xây dựng các quy trình học máy. Các vấn đề có thể phát sinh liên quan đến thông tin được đưa vào mô hình trở nên có vấn đề khi (1) một mô hình không chính xác được đưa vào, (2) dữ liệu đầu vào bị hỏng hoặc khi (3) dữ liệu đầu vào thay đổi và không còn giống với các tập dữ liệu được sử dụng trong quá trình đào tạo.

Các nhà khoa học đã nghiên cứu các kỹ thuật nhằm thúc đẩy XAI từ những năm 2010. Về bản chất, đó là việc sử dụng đồ hoạ, màu sắc và lớp để liên kết các phần thông tin có thể giải thích được khi chúng liên quan đến cách mô hình đưa ra kết quả. Giống như việc ghép một câu đố với các phần lớn hơn và rõ ràng hơn mà mắt và con người có thể theo dõi và hiểu được về mặt nhận thức. Đó là về các bước hợp lý hơn, không phải các công thức phức tạp.

Thậm chí gần đây hơn, các nhà khoa học dữ liệu và nhà phát triển đã bắt đầu sử dụng học sâu trong các mạng học sâu để hiểu rõ hơn về hoạt động bên trong của một mô hình. Mục tiêu ở đó là quan sát ảnh hưởng của mô hình lên các lớp ở trên hoặc dưới và quay trở lại nguồn dữ liệu gốc.

Có những hình ảnh minh họa về hình dạng của XAI, nhưng không thể xin phép xuất bản hình ảnh.

AnalyticsMagazine.com sẽ cung cấp các ví dụ trực tuyến cho thấy sự so sánh giữa các mô hình gốc với một tập hợp các biểu thức toán học được liên kết với nhau để biểu thị cách các lớp bên trong của một thuật toán hoặc một mạng nơ-ron hoạt động. Nó so sánh chúng với những thứ khác có thông điệp rõ ràng hơn.

Trí tuệ nhân tạo có thể giải thích (XAI) trong Hàng không

Vào ngày 19 tháng 3 năm 2018, một chiếc xe Uber tự lái đã đâm chết một người phụ nữ ở Tempe, Arizona, Hoa Kỳ. Điều này cho thấy những lo ngại nghiêm trọng về an toàn đối với xe tự hành và việc hiểu rõ sai sót đã xảy ra như thế nào, cách thức các thuật toán AI tổng hợp không đạt được mục tiêu chính là vận hành an toàn là rất quan trọng. Điều này nhấn mạnh hơn vào việc giải thích cho các kỹ thuật AI.

Trong hàng không dân dụng, việc sử dụng máy bay không người lái hoặc tự hành chở hành khách vẫn chưa xảy ra hoặc chưa được cấp phép. Tuy nhiên, máy bay ngày càng tinh vi hơn và việc cất cánh tự động bằng cách sử dụng công nghệ thị giác máy tính hiện đã khả thi. Ngoài ra, các sân bay đang dần tìm cách triển khai các phương tiện tự hành có thể hoạt động trên sân đỗ của sân bay để vận chuyển hành lý, xử lý mặt đất và thiết bị dịch vụ mặt đất. Điều này đòi hỏi phải có nhận thức về tình huống giống như những gì được yêu cầu đối với xe tự hành. Và giống như tất cả các phương tiện đang di chuyển và các chướng ngại vật tiềm ẩn trên sân đỗ của sân bay, các tình huống bất ngờ luôn xảy ra và không có sự khoan nhượng nào đối với các sự cố hoặc tai nạn. Trong những lĩnh vực này, XAI sẽ đóng vai trò quan trọng trước khi việc áp dụng các hoạt động tự động hơn được chấp nhận rộng rãi.

Nhưng có những lĩnh vực khác mà XAI sẽ rất hữu ích. Hãy xem xét các trường hợp sử dụng sau:

• Dẫn đường hàng không và hiệu quả nhiên liệu: Hiểu cách tính toán và giải thích lại cho phi công các tuyến đường tối ưu để có thể tuân theo các khuyến nghị.

• Giải quyết xung đột: Hiểu cách các hành động dịch vụ khách hàng được đề xuất thực sự sẽ giải quyết các khiếu nại cụ thể của khách hàng để nhân viên không ngần ngại chấp nhận chúng.

• Bán lẻ trên chuyến bay: Hiểu cách giá  suất ăn và đồ uống được tính theo thời gian thực dựa trên hàng tồn kho, hạn sản phẩm và nhu cầu của khách hàng và có thể giải thích logic cho phi hành đoàn và hành khách trên chuyến bay.

• Lập kế hoạch mạng đường bay: Hiểu cách mô hình đưa ra các khuyến nghị theo lịch trình và quy mô cũng như thành phần đội bay để gợi ý các khung giờ nào nên áp dụng khi đàm phán với các sân bay.

• Dự báo nhu cầu với dịch vụ phụ trợ: Hiểu cách mô hình đảm bảo chúng ta vẫn kiểm soát tốt lượng ghế ngồi với các đầu vào mới dựa trên các nguồn doanh thu tiềm năng liên quan khác (như phí hành lý) và tiềm năng chia sẻ ví tiền.

• Cá nhân hóa: Hiểu cách mô hình gợi ý các tính năng hoặc thuộc tính phù hợp nhất với mong đợi của hành khách khi họ mua sắm.

• Lòng trung thành: Hiểu cách mô hình đề xuất các cấp bậc mới và đánh giá giá trị trọn đời của khách hàng mà không làm phật lòng các thành viên trung thành hiện tại.

• Thương hiệu và phương tiện truyền thông xã hội: Hiểu cách các mô hình quản lý và đặt nội dung ở những nơi quan trọng, như phương tiện truyền thông xã hội, mà không làm suy yếu nhận thức của khách hàng.

• Phân tích nguồn nhân lực và tổ chức: Hiểu cách mô hình hoạt động để đề xuất chuyển mọi người sang các phòng ban khác và những gì mô hình coi là đủ chính xác.

• Hàng hóa: Hiểu cách mô hình hoạt động để dự đoán cách xây dựng pallet tốt nhất để nhân viên chấp nhận các khuyến nghị và không phản đối.

XAI còn có nhiều trường hợp sử dụng khác và các yếu tố thường thúc đẩy nhu cầu về trung tâm này xoay quanh những điều sau:

• Có sự phụ thuộc cao vào kinh nghiệm và trực giác (cảm tính), như trong xử lý hàng hóa, phòng ngừa gian lận thanh toán, tiếp thị và quảng cáo.

• Có một quy trình và môi trường làm việc chủ yếu dựa trên thủ tục bao gồm can thiệp thủ công, như xử lý ngoại trường (ramp).

• Việc sử dụng dữ liệu phong phú hơn tương đối mới và việc áp dụng phần mềm hỗ trợ quyết định đang ở thế hệ thứ 2 hoặc thứ 3 (tức là 20–30 năm phát triển), chẳng hạn như quản lý giá cả và doanh thu.

• Việc sử dụng trí thông minh quyết định và tự động hóa vẫn còn trong giai đoạn đầu trong các ngành chuyên môn, chẳng hạn như kế toán nhưng ít hơn trong tài chính.

• Nhà cung cấp đề xuất tự động hóa tương đối mới trong lĩnh vực hoặc ngành, chẳng hạn như các công ty khởi nghiệp, đề xuất tối ưu hóa dẫn đường chuyến bay hoặc dự đoán phí dẫn đường.

Ricardo V. Pilon

MIT Sloan School of Management