מערכות בינה מלאכותית מחליטות היום מי יקבל משרה, הלוואה או טיפול רפואי, ולעיתים עושות זאת בצורה מוטה או כזו שאיש אינו יכול להסביר. חקיקה חדשה, ובראשה חוק הבינה המלאכותית של האיחוד האירופי, מצפה מארגונים להוכיח שהמערכות שלהם הוגנות ושקופות. בפועל, איש אינו יודע בדיוק איך עושים את זה. ההגדרות של הוגנות מתחרות זו בזו ולעיתים אף סותרות מתמטית, הרגולציה כללית ומעורפלת, וכמעט אין מומחים ששולטים גם במשפט, גם באלגוריתמים וגם באתיקה.
המאמר שואל כיצד אפשר לתכנן כלי שיאפשר לארגונים לבצע הערכת התאמה מהירה וחצי-אוטומטית של הוגנות, יכולת הסבר וביצועים, ויסייע להם לדבר בשפה משותפת עם רגולטורים ומבקרים. כדי לענות על כך פעלו החוקרים לפי גישת מחקר העיצוב. הם ראיינו שבעה מומחים מגרמניה ומשווייץ, בהם יועצים, גופי בדיקה טכנית ופיקוח בנקאי, תרגמו את הבעיות שעלו לדרישות ולעקרונות עיצוב, ובנו אב-טיפוס של אפליקציית ווב בקוד פתוח. את האב-טיפוס בחנו על מסווג לזיהוי הונאות פיננסיות, שהתבסס על מעל 150,000 עסקאות, בחמש קבוצות מיקוד עם 21 אנשי מקצוע.
מה חשבו מנהלים, מפתחים ומבקרים כשנתנו להם לשחק עם הכלי, ומה הם ביקשו שישתנה? ומה קורה כשכולם מסכימים שצריך תקנים משותפים, אך חוששים לחשוף מידע למתחרים?
