כשבנק מחליט אם לאשר משכנתה, כשמעסיק מסנן מאות קורות חיים בתוך שניות, או כשחברת ביטוח קובעת פרמיה, ההחלטה כבר לא בהכרח מתקבלת בידי אדם. מערכות מבוססות אלגוריתם הפכו לשחקן מרכזי דווקא בזירות החיים שבהן המשפט אוסר במפורש להפלות, ומשום שהן נתפסות כמדויקות וכנטולות דעות קדומות, קל להניח שהן גם הוגנות יותר מאיתנו. אבל האם מכונה שאין לה טעמים, שנאות או סטראוטיפים אכן מפלה פחות מבני אדם, או שהיא פשוט מפלה אחרת?
כדי לענות על השאלה הזאת צריך קודם להבין מדוע אנשים מפלים. הדיון נפתח בשלושה מנגנונים של הפליה אנושית: הפליה שמקורה בטעמים אישיים, הפליה שנשענת על סטראוטיפים מוטעים, והפליה שנשענת על הכללות מדויקות לגמרי מבחינה סטטיסטית אך בעייתיות מבחינה נורמטיבית. משם נפרש מעגל החיים של ההחלטה האלגוריתמית, משלב איסוף הנתונים ועד לשלב הניבוי, ונבחן היכן בדיוק יכולה הטיה להיכנס פנימה ומדוע כל כך קשה להוציא אותה משם.
ההשוואה בין שני העולמות נעשית דרך דיני איסור ההפליה הישראליים ודרך פסיקה שעסקה בגיל הפרישה של דיילי אוויר, בחישוב כושר השתכרות עתידי ובמעצר שהתבסס על רשימה שיצר אלגוריתם משטרתי, וגם אל מול ההסדרה האירופית של הבינה המלאכותית. מתוך ההשוואה עולות שאלות שהמשפט הישראלי כמעט לא נדרש להן עד כה: מה אפשר בכלל לדרוש ממערכת שכל מהותה היא הבחנה סטטיסטית, ומי אמור לשאת בעלות של תוצאה שוויונית יותר.
