כשאנחנו מסתכלים על שתי ציפורים קטנות על אותו ענף, רובנו נראה פשוט שתי ציפורים. מחשב שאמור להבחין ביניהן נדרש למשימה קשה בהרבה: לזהות שהאחת היא זן אחד והשנייה זן אחר, כששתיהן דומות בצורה, בתנוחה ובצבע. זו בדיוק המשימה של סיווג חזותי עדין, והיא רלוונטית לזיהוי זנים של בעלי חיים, לדגמי מטוסים, ליצרני מכוניות ולכל מקרה שבו ההבדל בין קטגוריות נמצא בפרט קטן ולא בצורה הכללית.
בשנים האחרונות מנגנוני תשומת לב הפכו לכלי המרכזי במשימה הזאת. הרעיון מושך: לתת לרשת להחליט לאן להסתכל. אלא שכאן מתעוררת בעיה מעניינת. מנגנוני תשומת הלב המקובלים נוטים לחפש את המידע העשיר ואת החלקים הבולטים, ובדרך הם מתעלמים משני דברים: ערוצי מידע שנראים דלים אך עשויים להחזיק דווקא את הפרט המכריע, וחלקים לא בולטים של האובייקט שמבדילים בין זן לזן. השאלה שבמרכז העבודה היא אם אפשר לבנות מנגנון תשומת לב שלא רק מדגיש את המובן מאליו, אלא גם מאלץ את הרשת לחזור ולבחון את מה שהיא כבר דחתה.
כדי לבדוק זאת פותחו שני מודולים קלים שניתן לשתול ברשתות קיימות, האחד פועל על ערוצי מפת המאפיינים והאחר על הממד המרחבי, ושניהם נבחנו על ארבעה מסדי נתונים מקובלים של ציפורים, מטוסים, מכוניות וכלבים, בשלוש ארכיטקטורות שונות, לרבות ניסויי נטרול שבודקים מה כל מודול תורם בפני עצמו והדמיות של מפות ההפעלה.
