מה זה הטיה?

הסבר בפשטות

מודל לומד מהנתונים שנתנו לו. אם בנתונים יש מעט דוגמאות של קבוצה מסוימת, או אם הם משקפים דעות קדומות מהעולם האמיתי, המודל ילמד וישחזר אותן. הטיה יכולה להופיע בגיוס עובדים, במתן אשראי, בזיהוי פנים ואפילו בתמונות שמחולל יוצר.

אי אפשר להעלים הטיה לגמרי, אבל אפשר לצמצם אותה: לגוון את הנתונים, לבדוק את המודל על קבוצות שונות, ולהשאיר החלטות רגישות לבני אדם. גם עברית היא דוגמה: מודלים שאומנו בעיקר באנגלית עובדים פחות טוב בשפות קטנות.