מה קורה כשמכונה יושבת אל שולחן המשא ומתן במקומך? בשנים האחרונות בינה מלאכותית כבר לא רק מייעצת למשא ומתן אנושי אלא מתחילה לנהל אותו בעצמה: להחליף הצעות, לתת ויתורים ולבחור טקטיקות, לעיתים בלי שאף אדם מסתכל מעבר לכתפה. חברות גדולות כבר מנהלות כך אלפי משאים ומתנים במקביל. אבל משא ומתן הוא זירה רגישה במיוחד: יש בו פערי מידע, ניגודי אינטרסים ולחץ תחרותי, ובני אדם נעזרים בו באינטואיציה מוסרית, בחשש לפגוע במוניטין ובאי הנוחות הפסיכולוגית שבהטעיה. לסוכן אלגוריתמי אין את הבלמים האלה.
המאמר שואל כיצד מפתחים יכולים לשלב עקרונות אתיים בכל שלבי חייו של סוכן משא ומתן, מהתכנון דרך הפיתוח ועד ההפעלה בשטח. הרגולציה הקיימת, ובהם חוק הבינה המלאכותית של האיחוד האירופי, נראית כללית מדי עבור הדינמיקה המיוחדת של התחום.
המחברים מתחילים בסקירת האתיקה של משא ומתן ומיפוי הדרך שבה סוכנים עשויים להעצים סיכונים מוכרים. אחר כך הם מציעים מסגרת מושגית שמקשרת בין מידת האוטונומיה של הסוכן ליעד שהוגדר לו. את הקווים המנחים הם גזרו מסקירת ספרות שנערכה ב-Scopus, והשלימו אותם בניסיון מעשי שלהם בבניית סוכנים כאלה. התוצאה היא מפת דרכים למי שבונה את הנציגים הדיגיטליים של העתיד, ומבט מרתק על השאלה מה קורה לאתיקה כשמעבירים אותה מהראש האנושי אל הקוד.
