Trong nghiên cứu (và hơn thế nữa), kẻ thù lớn nhất của chúng ta là thiên vị của chính chúng ta

Gần đây, tôi đã vinh dự được cung cấp địa chỉ tại Trường Thông tin Mùa đông UC Berkeley, bắt đầu cho các sinh viên tốt nghiệp chương trình Thạc sĩ Khoa học Dữ liệu. Âm thanh của bài phát biểu có sẵn trên sê-ri podcast iSchool.

Cảm ơn Dean Saxvian và đến các giảng viên đã mời tôi đến đây hôm nay. Thật vinh dự khi được ở đây. Và đó là một niềm vui khi được trở lại đây tại trường cũ của tôi, trong bộ phận nhà của tôi, một nơi mà tôi tin rằng đã nhồi nhét vào đầu tôi đầy sự kết hợp đúng đắn của các ý tưởng.

Và xin chúc mừng tất cả các sinh viên mới tốt nghiệp! Tôi đã ở trường đại học gần 10 năm. Vì vậy, tôi biết sức mạnh và quyết tâm cần thiết để vượt qua. Chỉ 6 năm trước, tôi đã ngồi ở nơi bạn đang nhận bằng tiến sĩ. Nhưng trước khi bạn tự hỏi tại sao anh chàng chỉ mới 6 tuổi ra trường đang cho địa chỉ này, hãy nhớ rằng năm công nghệ giống như năm con chó. Vì vậy, tôi rất khó có thể thực hiện toán học đó trong đầu. Dù sao đi nữa, hãy để đến với nó.

Sau khi đọc một chút về các địa chỉ bắt đầu, tôi đã học được một điều quan trọng: hầu như không ai trong số các bạn sẽ nhớ bất cứ điều gì tôi phải nói. Vì vậy, tôi đã giành chiến thắng chôn vùi lede. Thông điệp của tôi cho bạn ngày hôm nay là đây:

Sự thiên vị của chính bạn là kẻ thù tồi tệ nhất của bạn - hãy biến nó thành sứ mệnh của bạn trong cuộc sống và nỗ lực để chinh phục nó. Chấp nhận rằng bạn là con người, rằng tất cả con người đều thiên vị, và bạn cũng xấu như mọi người khác. Chấp nhận rằng tính khách quan là một ảo mộng, và khoa học dữ liệu không khách quan hơn bất kỳ cách nhận biết nào khác.

Dành thời gian của bạn để cố gắng làm sai lệch những điều bạn tin tưởng. Đuổi bằng chứng chứng minh bạn sai, không phải bằng chứng chứng minh bạn đúng. Chiến lược tốt nhất của bạn để làm điều này là trau dồi khả năng hiểu sâu sắc quan điểm của người khác. Để làm cho sự thiên vị của họ thiên vị của bạn. Để có được trong đầu và trái tim của họ.

Nó đây rồi Nhưng hãy để Lùi lại một giây và nói về một thứ thực sự không gây tranh cãi: tin giả. Đừng lo lắng, đây không phải là một cuộc nói chuyện chính trị. Tôi muốn nói về thuật ngữ tin tức giả. Có một hàm ý ở đó: một số tin tức là giả mạo.

Hãy để ngay bây giờ, hãy để sang một bên những phần nhỏ của tin tức được tạo thành 100%. Tin tức cũng giống như mọi loại thông tin khác. Nó chứa một số thực tế và rất nhiều giải thích. Vậy nếu điều đó đúng, bất kể nguồn nào, bit nào là giả? Thường xuyên hơn không phải là câu trả lời là: các bit bạn xảy ra không đồng ý.

Nếu các sự kiện thế giới gần đây đã dạy cho chúng ta bất cứ điều gì về nó thì con người hoàn toàn tuyệt vời trong việc ngăn chặn thông tin đến, nhìn thấy những gì họ muốn thấy và bỏ qua những mâu thuẫn logic. Chúng tôi không thể sống trong các phòng vang như tạo ra chúng trong tâm trí của chúng tôi.

Tìm kiếm bằng chứng cho những điều mà bạn đã tin là dễ dàng. Tôi nói về một cái gì đó gọi là sự xác nhận thiên vị. Có lẽ bạn đã biết về nó rồi. Nếu bạn làm thế, bạn có thể đồng ý với những gì tôi nói.

Sự xác nhận thiên vị là sự ưu tiên sâu sắc của con người và tự nhiên đối với những điều mà chúng ta đã tin là đúng. Chúng tôi tìm kiếm thông tin xác nhận và chúng tôi nhớ nó dễ dàng hơn. Chúng tôi giải thích những điều không rõ ràng một cách thuận lợi. Không có người, không có kỷ luật, không có ngành công nghiệp, không có phương pháp nào ở trên này.

Các học giả đã nghiên cứu thiên kiến ​​xác nhận trong nhiều thập kỷ và chúng ta biết rất nhiều về lý do tại sao nó xảy ra. Một lời giải thích là nó chỉ dễ dàng hơn. Giải quyết thông tin mâu thuẫn mất công, và hầu hết mọi người ghét công việc. Một lời giải thích khác là con người khao khát những suy nghĩ nhất quán và hạnh phúc. Vì vậy, thông tin mâu thuẫn chỉ khiến chúng ta bực mình. Sống trong một thế giới nơi chúng tôi không bao giờ bị buộc phải đánh giá lại ý tưởng của mình thực sự nghe có vẻ tuyệt vời.

Nhưng tôi có thể xác định được một điều mà đằng sau bất kỳ thành công nào mà tôi đã có. Và nó cố gắng liên tục nhận thức được sự thiên vị của riêng tôi, để phá vỡ niềm tin của chính tôi, và làm việc chăm chỉ để hiểu người khác, quan điểm khác và giải thích thay thế. Làm những điều này đã giúp tôi trở thành một người bạn, người chồng, người cha tốt hơn, cũng như một nhà nghiên cứu và nhà lãnh đạo tốt hơn.

Tôi bắt đầu sự nghiệp học tập của mình như một nhà nhân học văn hóa. Khá xa khoa học dữ liệu như bạn có thể nhận được. Các nhà nhân chủng học dành rất nhiều thời gian để suy nghĩ về văn hóa. Nếu cuộc sống là một bản giao hưởng, thì văn hóa là chìa khóa. Khóa của G. Khóa của D nhỏ. Nó mô hình ổn định dựa trên đó tất cả các ghi chú được chơi.

Vì vậy, khi một nhà nhân chủng học tiếp cận nghiên cứu, một cách để suy nghĩ về nhiệm vụ của họ là họ nhìn vào tất cả các ghi chú và cố gắng tìm ra phím nào đang được chơi. Nhiệm vụ đó là tất cả về ý nghĩa và diễn giải, nó nói về việc hiểu người khác hiểu ý nghĩa của mọi thứ như thế nào. Nó nói về sự hiểu biết thiên vị của họ. Làm thế nào tất cả những điều đó giải quyết vào một chìa khóa.

Vì vậy mà lừa đảo. Đó là những gì tôi hy vọng mục tiêu của bạn sẽ là trong tất cả mọi thứ bạn làm. Khi bạn cố gắng hết sức để hiểu người khác về viễn cảnh, một loạt những điều đẹp đẽ xảy ra. Bạn thấy những khoảng trống trong sự hiểu biết của riêng bạn. Bạn thấy làm thế nào để củng cố lập luận của bạn. Bạn xây dựng các mối quan hệ mạnh mẽ hơn. Bạn học cách khiêm tốn hơn, ít thuyết phục hơn về sự đúng đắn của chính mình.

Bạn thấy làm thế nào cùng một thông tin có thể cắt giảm rất nhiều cách khác nhau. Những gì có vẻ như thực tế đột nhiên trở thành giải thích. Bạn thấy mức độ ưu tiên quan trọng như thế nào - chúng ta có thể thấy cùng một thông tin theo cùng một cách nhưng đi đến kết luận khác nhau, chỉ vì chúng ta tối ưu hóa cho những thứ khác nhau.

Theo kinh nghiệm của tôi, hầu hết mọi sự bất đồng đều được ưu tiên. Đưa ra quyết định chỉ là chọn những vấn đề mà bạn muốn có. Khi bạn có thể hiểu được các ưu tiên khác của người khác, bạn sẽ dễ dàng chọn giải pháp giải quyết mọi vấn đề của mọi người.

Một điều tôi cần lưu ý là nếu mục tiêu của bạn là hiểu cách người khác nhìn thế giới mà bạn không cần dữ liệu lớn. Đôi khi tất cả những gì bạn cần là một N của một.

Vài năm trước tôi đã làm việc tại Facebook với nhóm News Feed. News Feed là dòng câu chuyện từ bạn bè của bạn mà bạn cuộn qua trên Facebook. Màn hình chính của bạn.

Nhóm muốn làm cho chất lượng câu chuyện trong Feed tốt hơn. Nhưng hồi đó họ có một mô hình chất lượng khá đơn giản - nếu bạn thích một câu chuyện thì nó phải hay, và nếu bạn che giấu nó, thì nó cũng phải tệ.

Hy vọng rằng bạn đã nghĩ về lý do tại sao đây là một cách rất ngây thơ để nghĩ về điều tốt và điều xấu. Tôi đã có phản ứng tương tự, nhưng nhóm đã đầu tư rất nhiều công việc vào ý tưởng này. Họ không cởi mở với những quan điểm khác. Vì vậy, khi chúng tôi tiếp cận nghiên cứu những gì chúng tôi muốn là một cách giúp nhóm nghiên cứu hiểu từ một khía cạnh khác.

Chúng tôi đã tìm thấy một nhóm người trong dữ liệu mà chúng tôi gọi là Hồi Super Hiders - đây là những người đang che giấu nhiều câu chuyện hơn mức trung bình. Vì vậy, chúng tôi đã tuyển dụng một loạt trong số họ đến để phỏng vấn. Chúng tôi muốn tìm hiểu về lý do tại sao họ trốn.

Vì vậy, đó là một ngày đầu tiên của nghiên cứu và tôi đã ở phòng sau với nhóm sản phẩm và nhà nghiên cứu đang ở trong phòng phỏng vấn với người tham gia đầu tiên trong ngày. Chúng tôi làm những việc giới thiệu thông thường, và sau đó chúng tôi yêu cầu người phụ nữ đăng nhập vào máy tính và bắt đầu duyệt Facebook như bình thường.

Cô ấy cũng vậy, và cô ấy nhìn vào câu chuyện đầu tiên trong Feed, và cô ấy đã giấu nó. Và sau đó cô ấy nhìn vào cái thứ hai, và cô ấy giấu nó. Và như vậy. Sau khi điều này diễn ra trong vài phút, nhà nghiên cứu đã ngăn cô lại và hỏi cô đang làm gì. Và cô ấy nói một cái gì đó giống như, Vâng, sau khi tôi đọc một cái gì đó, tôi bỏ nó vào thùng rác.

Hóa ra cô ấy đang sử dụng mô hình của hộp thư đến số không. Đọc một email, xóa nó. Mặc dù vậy, tôi cảm thấy tệ cho cô ấy vì News Feed cuộn vô hạn. Cô ấy không bao giờ đến đó.

Trong phòng sau, tâm trí của đội bóng đã bị thổi bay. Không ai nghĩ người phụ nữ này là đại diện, hoặc hành vi đó rất phổ biến. Đó là điểm quan trọng. Nhưng có một điều mà một điểm dữ liệu duy nhất có thể cung cấp cho bạn mọi lúc, và đó là một bằng chứng tồn tại. Chứng kiến ​​một ví dụ đó, việc vào bên trong người phụ nữ này một chút đầu là tất cả những gì nó cần cho một sự thay đổi trong quan điểm. Nó đã làm nhiều hơn bất kỳ phân tích khác có thể có. Chúng tôi không thể giấu giếm như một tín hiệu đơn giản về chất lượng nữa, và chúng tôi đã làm.

Khi tôi xây dựng Nhóm nghiên cứu tại Airbnb, tôi đã cố gắng đưa những ý tưởng này vào cách chúng tôi làm việc. Vì vậy, đây là cách chúng tôi tiếp cận các câu hỏi nghiên cứu lớn và nhỏ. Nếu chúng ta thực sự muốn chống lại sự thiên vị của chính mình và vượt ra ngoài chính mình, điều đó có nghĩa là chúng ta cần phải thực sự làm việc khác đi. Một chiến lược tuyệt vời mà đôi khi chúng ta sử dụng là điều này - với một kết luận trong đầu, chúng ta viết ra tất cả những cách mà chúng ta nghĩ có thể sai. Chúng tôi liệt kê tất cả các giả thuyết thay thế. Sau đó, chúng tôi xây dựng một thiết kế nghiên cứu xung quanh việc tìm kiếm bằng chứng cho những điều đó. Chúng tôi không bao giờ xác nhận ý tưởng hoặc thiết kế, chúng tôi làm sai lệch chúng. Chúng tôi phải làm việc chăm chỉ vì điều này là sự thiên vị xác nhận rất mạnh mẽ và nó chỉ là một trong nhiều thành kiến ​​mà chúng tôi gặp phải trong công việc. Nhưng cuối cùng, chúng tôi nghiên cứu tốt hơn và chúng tôi xây dựng các sản phẩm tốt hơn.

Vì vậy, là một nhà nhân chủng học, tôi đã học cách khao khát sự bất hòa về nhận thức. Tôi hy vọng bạn cũng sẽ thế. Theo quan điểm này khi tôi hướng tới tâm lý xã hội, khoa học dữ liệu, nghiên cứu trải nghiệm người dùng, nó thúc đẩy tôi suy nghĩ một cách toàn diện. Và đừng bao giờ tự lừa mình khi nghĩ rằng tôi đã có một câu trả lời dứt khoát. Biếm họa của nhà khoa học dữ liệu tự hài lòng làm bạn lóa mắt với các biểu đồ và số liệu thống kê, mô hình học máy, cho bạn biết họ đã giải quyết tất cả những vấn đề mà các nhà khoa học xã hội không thể giải quyết, và buộc tội mọi thứ như một con bò, đầy tự tin sai lầm - người đó đã là một di tích. Người đó có vẻ như một con lừa. Nhưng người đó có lẽ đã nhượng bộ bản chất con người của họ, và quyết định đi theo con đường ít kháng cự nhất, không bao giờ đặt câu hỏi cho kết luận của chính họ, để trốn tránh công việc hiểu và lắng nghe người khác. Hãy là người đó.

Nhưng tất nhiên bạn là sinh viên tốt nghiệp của chương trình nổi bật này. Một trong đó là duy nhất trong quan điểm đa ngành của nó. Tôi cho rằng có rất ít nguy hiểm về điều đó xảy ra với bạn. Nhưng đây vẫn là chiến lược tôi khuyên bạn trong cuộc sống và trong công việc. Donith tin tất cả mọi thứ bạn nghĩ. Đưa ra kết luận dựa trên bộ thông tin đa dạng nhất mà bạn có thể tìm thấy. Giả sử những kết luận đó là sai lệch, và biến nó thành nhiệm vụ của bạn để tìm hiểu làm thế nào và tại sao. Khi kết thúc quá trình đó, bạn không chỉ đưa ra quyết định tốt hơn mà còn bạn sẽ hiểu thế giới của mình tốt hơn, bạn sẽ củng cố các mối quan hệ của mình bằng cách lắng nghe và thỏa hiệp. Nếu bạn bất cứ điều gì như tôi, bạn sẽ thất bại trong quá trình này liên tục và vẫn thiên vị, nhưng nếu bạn tiếp tục cố gắng, tôi hứa với bạn rằng nó sẽ thành công.

Cảm ơn bạn.