Làm thế nào để bạn nói thuật toán của người Viking trong tiếng Kisw ngữ?

Bài đăng này được đồng tác giả bởi Mercy Musya và Grace Kamau thuộc Trung tâm Kinh tế Hành vi Busara ở Nairobi, Kenya, với đầu vào từ Dan Bjorkegren của Đại học Brown và Joshua Blumenstock của UC Berkeley và CEGA.

Tín dụng: Trung tâm kinh tế hành vi Busara

Các quyết định đã từng được đưa ra bởi con người ngày càng được đưa ra bởi các thuật toán, có thể là cho vay, chẩn đoán bệnh hoặc thậm chí là đặt hàng nhà hàng. Mặc dù một số trong những quyết định này là tầm thường, nhưng những quyết định khác liên quan đến tài chính cá nhân thì không, điều này làm tăng mối lo ngại rằng nếu các thuật toán đang được sử dụng để đưa ra các quyết định quan trọng, thì chúng nên làm rõ những quyết định đó được đưa ra như thế nào. Liên minh châu Âu, chẳng hạn, đã thúc đẩy ‘quyền giải thích về các quyết định kỹ thuật số. Nhưng làm thế nào chúng ta nên giải thích các quyết định dựa trên các mô hình phức tạp? Có thể giải thích quyết định cho tất cả những người bị ảnh hưởng, ngay cả những người có rất ít kinh nghiệm trước đây về công nghệ và thuật toán?

Chúng tôi đã điều tra những câu hỏi này trong bối cảnh cho vay kỹ thuật số, một trong những ứng dụng thành công nhất của học máy trong các xã hội đang phát triển.

Cho vay kỹ thuật số là gì?

Một trong bốn người Kenya đã thực hiện một khoản vay kỹ thuật số (Gubbins và Totolo, 2018). Tín dụng kỹ thuật số đã cho hơn 6 triệu người Kenya điểm tín dụng dựa trên cách họ sử dụng điện thoại của họ (Bjorkegren và Grissen 2015), từ đó cho phép họ tiếp cận tín dụng.

Thông thường, người dùng tải xuống ứng dụng tín dụng kỹ thuật số từ cửa hàng Google Play, cho phép ứng dụng truy cập dữ liệu truyền thông xã hội, dữ liệu GPS, danh sách liên lạc, SMS, nhật ký cuộc gọi, v.v. Sau đó, ứng dụng sẽ phân tích dữ liệu và sử dụng các thuật toán để xác định điểm tín dụng và quy mô cho vay.

Tín dụng: M-Pesa

Mọi người có hiểu khái niệm về một thuật toán trực tuyến không?

Tuy nhiên, quá trình này đặt ra câu hỏi: những người dùng này có thực sự hiểu cách thức các thuật toán này hoạt động không và hoạt động của họ có thể đủ điều kiện hoặc không đủ điều kiện cho họ vay như thế nào? Và nếu không, có thể truyền đạt bản chất của thuật toán cho người nghèo? Và làm như vậy, bao nhiêu thông tin là phù hợp để cung cấp?

Một loạt sáu cuộc thảo luận nhóm tập trung (FGD) đã khám phá sự hiểu biết chung của Kenyans, về các thuật toán tín dụng kỹ thuật số xác định tính đủ điều kiện cho vay. Các FGD được tổ chức tại Trung tâm Kinh tế Hành vi Busara ở Nairobi, nơi 50 người được mời: một nhóm cư dân Kibera và Kawangware đa dạng từ nhóm người trả lời thu nhập thấp của Busara, người sở hữu điện thoại thông minh và có ít nhất một số kinh nghiệm trước đây với một số dạng kỹ thuật số tín dụng. Chỉ 64% số người tham gia đã đạt được trình độ học vấn trung học. Những người tham gia sau đó được yêu cầu giải thích sự hiểu biết của họ về quy trình phê duyệt tín dụng kỹ thuật số, đã giải thích quy trình thuật toán đơn giản cho họ và sau đó được trình bày một tập các bài tập giả thuyết để đánh giá xem họ có hiểu các thuật toán hay không.

Hầu như tất cả những người tham gia có ít kiến ​​thức hoặc hiểu biết về các thuật toán mà các công cụ tín dụng kỹ thuật số sử dụng.

Nhiều người đã trì hoãn các quy trình chính thức truyền thống hơn để xác định quy trình mà họ nghĩ các nền tảng này sử dụng để đánh giá tính đủ điều kiện của họ đối với các khoản vay, tức là tiết kiệm, nguồn thu nhập chính, người bảo lãnh cho vay và / hoặc giao dịch MPESA. Những người tham gia ít quen thuộc với các phương pháp tiếp cận thuật toán cho rằng đã tồn tại một số thông đồng lớn hơn giữa tất cả các tổ chức tài chính để chia sẻ thông tin về các ứng dụng sẽ được sử dụng chung để đánh giá tính hợp lệ.

Tôi tin rằng họ [ví dụ như người cho vay kỹ thuật số] đi và kiểm tra với các tổ chức cho vay khác, [viễn thông, ví dụ, Safaricom và văn phòng tham chiếu tín dụng CRB] để có thêm thông tin về việc tôi có phải là người vay tốt hay không. Giáo dục

Tuy nhiên, những người tham gia thường tin rằng có thể xác định một số đặc điểm của mọi người từ việc sử dụng điện thoại.

Dữ liệu sử dụng điện thoại trong các cuộc gọi, tin nhắn SMS, ứng dụng được cài đặt, kiểu sạc pin và kết nối WiFi, trong số các hoạt động khác, có thể dễ dàng xác định các đặc điểm nhân khẩu học khác nhau. Nói chung, những người được hỏi trong FGD có thể hiểu làm thế nào dữ liệu nhất định có thể xác định người vay tốt hay xấu. Một số thậm chí phân đoạn hành vi với trọng tâm là các tương tác chuyên nghiệp hàng ngày:

Những người kinh doanh có khả năng nhận được nhiều cuộc gọi hơn từ cùng một số điện thoại và GPS của họ sẽ cho thấy họ di chuyển xung quanh khá nhiều vì họ cần phải đến gặp khách hàng trực tuyến hoặc trực tiếp.

Vấn đề riêng tư, nhưng ẩn danh giải quyết nhiều mối quan tâm.

Hầu hết những người tham gia không rõ ràng về mục đích của các quyền mà họ cấp trên các ứng dụng này. Khi dữ liệu được thu thập bởi các ứng dụng này được mô tả rõ ràng cho họ, những người tham gia nêu lên mối lo ngại về quyền riêng tư của họ, ghi âm cuộc gọi và nội dung SMS là lĩnh vực quan tâm nhất. Nhưng họ đã thoải mái hơn đáng kể với việc thu thập dữ liệu ẩn danh, tức là số điện thoại được băm, miễn là không có nội dung nào được thu thập.

Ngôn ngữ đơn giản là rất quan trọng để giao tiếp hiệu quả của các đặc tả thuật toán.

Busara đã cố gắng giải thích các thuật toán bằng các phương pháp khác nhau, ví dụ: phương trình toán học hoặc minh họa đồ họa. Hầu hết những người tham gia đấu tranh để hiểu các thuật toán khi được trình bày dưới dạng các phương trình toán học trong khi biểu diễn sơ đồ của các thuật toán dễ dàng được nắm bắt hơn bởi những người tham gia. Sử dụng biểu đồ hình tròn để giải thích tỷ lệ là thành công nhất.

Thuật ngữ đơn giản hóa phù hợp với dân số này Mức độ giáo dục và ngôn ngữ hàng ngày (phần lớn là tiếng lóng). Các thuật ngữ như tỷ lệ tăng theo tỷ lệ của người khác hoặc người khác có thể được thay thế bằng cách sử dụng nhiều hơn một lần nữa. Người vay rất muốn hiểu các quy tắc quyết định này nhưng chỉ trong phạm vi mà nó được đơn giản hóa để họ nắm bắt khái niệm chung.

Điều này có ý nghĩa gì đối với giao tiếp có động cơ thuật toán?

Cuộc tranh luận toàn cầu tiếp tục liên quan đến mức độ bắt buộc phải minh bạch thuật toán để đảm bảo bảo vệ người tiêu dùng. Một dự án hiện tại do Joshua Blumenstock và Daniel Bjorkegren đứng đầu tại Trung tâm Busara, được Quỹ Bill & Melinda Gates hỗ trợ thông qua Đài quan sát tín dụng kỹ thuật số (DCO) của CEGA, tìm cách xác định cách thức các thuật toán có thể được truyền đạt một cách thích hợp ngay cả khi tín dụng số tiếp tục mở rộng. .